Các ứng dụng AI tạo ảnh khỏa thân giả làm dấy lên động thái pháp lý nhằm vào Apple và Google tại Mỹ

Thành phố San Francisco đã yêu cầu Apple và Google gỡ bỏ các ứng dụng AI tạo ảnh khỏa thân giả khỏi kho ứng dụng của mình, cho rằng chúng tạo điều kiện để sản xuất các hình ảnh deepfake nhạy cảm về mặt riêng tư mà không có sự đồng thuận của người bị giả mạo.

San Francisco đã yêu cầu Apple và Google gỡ bỏ các ứng dụng AI tạo ảnh khỏa thân giả, với cáo buộc rằng chúng cho phép tạo ra các hình ảnh deepfake nhạy cảm mà không có sự đồng thuận của người bị giả mạo. (Ảnh: Tư liệu).

Chính quyền thành phố San Francisco vừa chính thức yêu cầu Apple và Google gỡ bỏ các ứng dụng "nudify" (sử dụng trí tuệ nhân tạo để tạo ảnh khỏa thân giả mạo) khỏi kho ứng dụng của họ. Các nhà chức trách lập luận rằng những công cụ này đang tạo điều kiện cho hành vi sản xuất nội dung khiêu dâm deepfake mà không có sự đồng thuận, vi phạm trực tiếp các quy định pháp luật tại bang California.

Giới chức trách cáo buộc cả Apple và Google đều tiếp tục duy trì sự hiện diện của các ứng dụng này trên nền tảng và xử lý thanh toán cho chúng, mặc dù đã nhận thức rõ về tính chất cũng như những rủi ro pháp lý đi kèm.

Luật sư thành phố San Francisco, ông David Chiu, khẳng định Apple và Google đang "trục lợi từ các ứng dụng bóc lột phụ nữ và trẻ em gái thông qua việc tạo ra các sản phẩm deepfake khiêu dâm trái phép". Ông nhấn mạnh rằng các tập đoàn công nghệ có trách nhiệm ngăn chặn việc phân phối những phần mềm tạo điều kiện cho hành vi lạm dụng tình dục kỹ thuật số.

Theo các văn bản do văn phòng ông Chiu gửi đi, hai tập đoàn này đã nhận được cảnh báo từ gần một năm trước về tình trạng các ứng dụng sử dụng AI để tạo hình ảnh nhạy cảm trái phép. Thành phố cáo buộc rằng ngay cả khi đã nhận nhiều lời nhắc nhở, các công ty này vẫn tiếp tục duy trì dịch vụ thanh toán cho những dịch vụ kể trên.

Động thái này xuất phát từ báo cáo của Dự án Minh bạch Công nghệ (TTP) vào tháng 1 và tháng 4 vừa qua. TTP cho biết hàng chục ứng dụng trên Apple App Store và Google Play đã cho phép người dùng tạo ảnh khỏa thân từ hình ảnh thật của người khác mà không cần sự đồng ý. TTP cũng cáo buộc hai nền tảng này đã quảng bá các ứng dụng độc hại trên thông qua các gợi ý tìm kiếm và danh sách ứng dụng nổi bật.

Văn phòng ông Chiu cảnh báo Apple và Google có thể đối mặt với các hình phạt dân sự theo luật pháp bang California, vốn quy định việc cố ý tạo điều kiện hoặc hỗ trợ sản xuất nội dung khiêu dâm deepfake trái phép là hành vi phạm pháp. Một đạo luật khác được thông qua năm 2025 cũng cho phép nạn nhân thực hiện các hành động pháp lý dân sự chống lại những bên trung gian hỗ trợ. San Francisco đã yêu cầu hai tập đoàn phản hồi trong thời hạn 28 ngày.

Phản hồi từ phía Apple và Google

Apple cho biết các ứng dụng tạo ảnh khỏa thân bằng AI bị cấm nghiêm ngặt trên App Store. Hãng xác nhận đã gỡ bỏ 3 ứng dụng bị thành phố nêu tên và chấm dứt tài khoản nhà phát triển liên quan. Đồng thời, Apple đã liên hệ với 4 nhà phát triển khác, yêu cầu họ khắc phục các vi phạm chính sách nếu không muốn bị xóa ứng dụng khỏi cửa hàng.

Google cũng phản hồi rằng 5 ứng dụng trên Play Store được nhắc đến trong thư của thành phố đều đã bị đình chỉ. Tập đoàn cho biết họ luôn điều tra các vi phạm được báo cáo, đã đình chỉ hàng trăm ứng dụng vi phạm và hạn chế các cụm từ tìm kiếm nhạy cảm như "nudify" trên Google Play.

Vấn nạn nội dung khiêu dâm deepfake bằng AI đang trở thành mối quan ngại ngày càng lớn. Trước đây, người nổi tiếng thường là mục tiêu chính, nhưng với sự phổ biến của các công cụ AI tạo ảnh hiện nay, bất kỳ ai có ảnh cá nhân công khai trên mạng đều có nguy cơ trở thành nạn nhân.