Công cụ truy vết deepfake AI mới của YouTube: Con dao hai lưỡi

Theo CNBC, các chuyên gia nhận định, một công cụ của YouTube sử dụng dữ liệu sinh trắc học của nhà sáng tạo để giúp họ gỡ bỏ các video do AI tạo ra, khai thác hình ảnh của họ, cũng đồng thời cho phép Google dùng dữ liệu nhạy cảm này để đào tạo mô hình trí tuệ nhân tạo.

YouTube đang mở rộng tính năng “phát hiện hình ảnh tương tự”, một công cụ được giới thiệu vào tháng 10, cho phép phát hiện khi gương mặt của nhà sáng tạo bị sử dụng trái phép trong các video deepfake, thuật ngữ chỉ các video giả mạo được tạo bằng AI. Tính năng này sẽ được triển khai cho hàng triệu thành viên trong Chương trình Đối tác YouTube khi nội dung bị AI thao túng ngày càng phổ biến trên mạng xã hội.

Công cụ quét các video được tải lên YouTube để xác định vị trí gương mặt nhà sáng tạo bị chỉnh sửa hoặc tạo bằng trí tuệ nhân tạo. Nhà sáng tạo có thể lựa chọn yêu cầu gỡ video, tuy nhiên để sử dụng công cụ, YouTube yêu cầu họ tải lên giấy tờ tùy thân do chính phủ cấp cùng một video sinh trắc học ghi lại gương mặt. Dữ liệu sinh trắc học là các đặc điểm cơ thể dùng để xác minh danh tính.

Các chuyên gia cho rằng, bằng cách gắn công cụ này vào chính sách quyền riêng tư của Google, YouTube đã để ngỏ khả năng bị lạm dụng dữ liệu sinh trắc học trong tương lai. Chính sách nêu rằng nội dung công khai, bao gồm thông tin sinh trắc học, có thể được sử dụng “để giúp huấn luyện mô hình AI của Google và xây dựng sản phẩm, tính năng”.

“Phát hiện hình ảnh tương tự là tính năng hoàn toàn tự chọn, tuy nhiên cần có dữ liệu tham chiếu trực quan để hoạt động”, người phát ngôn YouTube Jack Malon cho biết trong tuyên bố gửi CNBC. “Cách chúng tôi xử lý dữ liệu đó không thay đổi. Như Trung tâm Trợ giúp của chúng tôi đã nêu từ khi ra mắt, dữ liệu cung cấp cho công cụ này chỉ được dùng để xác minh danh tính và vận hành tính năng an toàn này”.

Trước những lo ngại từ giới chuyên gia sở hữu trí tuệ, YouTube khẳng định Google chưa bao giờ sử dụng dữ liệu sinh trắc học của nhà sáng tạo để huấn luyện mô hình AI, và công ty đang xem xét lại cách diễn đạt trong biểu mẫu đăng ký của công cụ nhằm tránh gây hiểu lầm, tuy nhiên YouTube cho biết sẽ không thay đổi chính sách cốt lõi.

Sự khác biệt này cho thấy một sự chia rẽ lớn hơn bên trong Alphabet, khi Google đang mở rộng mạnh mẽ các nỗ lực AI, trong khi YouTube lại phải duy trì niềm tin với những nhà sáng tạo nội dung và chủ sở hữu quyền, những người phụ thuộc vào nền tảng để kinh doanh.

 "Khi Google chạy đua trong lĩnh vực AI và dữ liệu huấn luyện trở thành tài sản chiến lược, nhà sáng tạo cần suy nghĩ kỹ liệu họ có muốn giao gương mặt của mình cho một nền tảng kiểm soát hay tự giữ quyền sở hữu”, Dan Neely, CEO của Vermillio, một công ty hỗ trợ bảo vệ và cấp phép hình ảnh cá nhân, nhận định.

“Hình ảnh của bạn sẽ là tài sản quý giá bậc nhất trong kỷ nguyên AI, và một khi bạn trao quyền kiểm soát, có thể bạn sẽ không bao giờ lấy lại được”, vị chuyên gia nhấn mạnh.

Vermillio và Loti là các bên thứ ba hỗ trợ nhà sáng tạo, người nổi tiếng và công ty truyền thông giám sát và bảo vệ quyền hình ảnh trên internet. Khi công nghệ tạo video bằng AI phát triển, giá trị của họ đối với chủ sở hữu quyền IP tăng mạnh.

CEO Loti Luke Arrigoni nói rằng rủi ro từ chính sách sinh trắc học hiện tại của YouTube “là vô cùng lớn”.

“Vì tuyên bố hiện tại cho phép gắn tên với dữ liệu sinh trắc học của gương mặt, họ có thể tạo ra một phiên bản tổng hợp trông giống như người đó”, Arrigoni nói.

Cả Neely và Arrigoni đều cho biết họ không khuyến nghị khách hàng đăng ký tính năng phát hiện hình ảnh tương tự trên YouTube ở thời điểm hiện tại.

Trước các phản ứng này, Amjad Hanif, Giám đốc sản phẩm dành cho nhà sáng tạo của YouTube, cho biết nền tảng xây dựng công cụ này để vận hành “ở quy mô của YouTube”, nơi hàng trăm giờ video mới được đăng tải mỗi phút. Theo Hanif, công cụ sẽ được triển khai cho hơn 3 triệu nhà sáng tạo trong Chương trình Đối tác YouTube trước cuối tháng 1.

“Chúng tôi phát triển khi nhà sáng tạo phát triển”, Hanif chia sẻ với CNBC. “Chúng tôi là những người giữ gìn và hỗ trợ hệ sinh thái sáng tạo, và vì vậy chúng tôi đang đầu tư vào các công cụ nhằm đồng hành với họ”.

Việc triển khai diễn ra trong bối cảnh các công cụ tạo video AI cải thiện nhanh chóng về chất lượng và mức độ dễ sử dụng, khiến nhà sáng tạo lo lắng khi hình ảnh và giọng nói của họ là trung tâm hoạt động kinh doanh.

Sự tiến bộ của AI khiến kẻ xấu dễ dàng sao chép gương mặt và giọng nói của các chuyên gia trong các video deepfake để khiến người xem hiểu lầm. Các công cụ tạo video AI như Veo 3 của Google và Sora của OpenAI giúp tạo deepfake người nổi tiếng dễ dàng hơn, vì hình ảnh của họ thường xuất hiện trong các bộ dữ liệu dùng để huấn luyện mô hình. Những điều này đã làm dấy lên nỗi lo lớn về an ninh mạng.