Làm sao để phân biệt sự thật và hư cấu khi deepfake bùng nổ?

Bạn đang làm việc và ứng dụng Teams gửi tin nhắn video từ CIO của bạn yêu cầu bạn cung cấp tên, nhấp vào liên kết đến trang web beta mới và đăng nhập bằng thông tin xác thực của công ty. Có điều gì đó khiến bạn dừng lại.

CIO thường không gửi tin nhắn video và URL đó có vẻ không ổn? Bạn đã có kinh nghiệm về những video của công ty phải bao gồm thông tin xác thực nội dung, vì vậy, bạn nhấp vào biểu tượng nhỏ ở góc video để biết thêm chi tiết nhưng đã không có thông tin nào xuất hiện. Lúc đó, bạn đã bị nhắm mục tiêu bởi một cuộc tấn công lừa đảo deepfake, được tạo bằng công cụ chỉnh sửa AI.

Kịch bản này một phần là có thật, một phần là khoa học viễn tưởng. Phần "thực" là deepfake. Với sự gia tăng của AI tạo sinh, giờ đây có thể dễ dàng tạo phương tiện truyền thông giả mạo có độ chân thực cao. Sử dụng các công cụ trực tuyến hiện tràn ngập, một tội phạm mạng lành nghề có thể biến video LinkedIn của một CEO thành một cuộc tấn công lừa đảo tùy chỉnh trong vài phút.

Hiện đã có công nghệ xác minh nguồn gốc của video và mọi thay đổi được thực hiện kể từ khi video được tạo ra. Chữ ký số (CKS) và cơ sở hạ tầng khóa công khai (PKI) đã được sử dụng trong nhiều thập kỷ để xác thực các dịch vụ trực tuyến.

Tuy nhiên, chúng ta vẫn đang trong giai đoạn đầu xây dựng chế độ xuất xứ nội dung rộng rãi mà thế giới hậu AI đòi hỏi. Khi bất kỳ ai cũng có thể tạo ra deepfake, việc tin vào mắt và tai của bạn cũng có thể trở thành một rủi ro nghiêm trọng.

Khi lòng tin bị “sụp đổ”

Trong thời gian ngắn kể từ khi AI thế hệ đầu tiên xuất hiện, chúng ta đã thấy nhiều ví dụ về những kẻ xấu lợi dụng AI để cố gắng gây ảnh hưởng đến chính phủ, làm giả danh tính, phát tán thông tin sai lệch, thực hiện hành vi gian lận và trộm cắp.

Ví dụ, vào tháng 1/2024, cư dân New Hampshire đã nhận được các cuộc gọi tự động giả mạo có giọng nói giống như Tổng thống Joe Biden. Vào tháng 2, những kẻ tấn công đóng giả làm giám đốc tài chính (CFO) của công ty trong một cuộc họp video đã lừa một công ty tại Hồng Kông mất 25 triệu USD. Tháng 9, một kẻ tấn công đã sử dụng AI để mạo danh một quan chức Ukraine trong một cuộc họp video với một thượng nghị sĩ Mỹ.

Những vấn đề này tạo ra một cuộc khủng hoảng thực sự về lòng tin. Deepfake ngày nay chỉ là những phiên bản đầu tiên của các công cụ AI thế hệ đầu tiên, những công cụ mạnh mẽ hơn vẫn tiếp tục xuất hiện.

Trong khi đó, những rào cản từng ngăn chặn phương tiện truyền thông giả mạo lan truyền không còn tồn tại nữa. Trước đây, nếu bạn thấy một video có giá trị đưa tin trực tuyến, thì đó là trên một trang web truyền thông truyền thống, nơi bạn có thể ít nhất tin rằng ai đó đã kiểm tra xem nội dung có phải là chính hãng hay không trước khi đăng.

Ngày nay, phương tiện truyền thông kỹ thuật số không có người kiểm duyệt. Hầu hết các video đều được đăng tải vào các nền tảng truyền thông xã hội, nơi chúng được sao chép và chỉnh sửa hàng chục lần hoặc được chia sẻ trực tiếp qua các ứng dụng nhắn tin.

Làm thế nào người tiêu dùng có thể biết liệu họ đang xem một bản ghi âm xác thực? Làm thế nào họ có thể biết liệu nội dung đã bị thay đổi, khi nào và do ai?

Khi ngày càng nhiều dịch vụ cũ chuyển sang định dạng kỹ thuật số, những câu hỏi này sẽ không chỉ giới hạn ở phương tiện truyền thông đại chúng. Làm thế nào các công ty bảo hiểm ô tô có thể tin tưởng các bức ảnh tai nạn được tải lên cổng thông tin yêu cầu bồi thường không bị chỉnh sửa? Làm thế nào tòa án có thể tin tưởng bằng chứng từ camera an ninh? Làm thế nào các doanh nghiệp có thể bảo vệ chống lại những kẻ tấn công mạo danh các giám đốc điều hành tin cậy để đánh cắp mật khẩu của nhân viên, lấy cắp dữ liệu nhạy cảm hoặc thực hiện hành vi trộm cắp trắng trợn?

Xác minh tính xác thực

Mặc dù deepfake hỗ trợ AI có thể mới, nhưng vấn đề thiết lập lòng tin và tính xác thực trực tuyến đã cũ như Internet và đó là vấn đề mà chúng ta biết cách giải quyết. Các tổ chức đã sử dụng PKI và chữ ký số (CKS) trong nhiều năm để xác thực an toàn cho máy chủ, trang web và giao dịch trực tuyến.

Bạn có thể tự sử dụng các công nghệ này bất cứ khi nào với chiếc iPhone mới cài đặt ứng dụng hoặc xử lý bản cập nhật Windows để xác thực rằng bạn thực sự đang giao tiếp với Apple hoặc Microsoft trước khi tải xuống phần mềm đó.

Chúng ta cũng có thể áp dụng các cơ chế này để tạo các bản kê khai không thể thay đổi cho các tệp kỹ thuật số. Nếu bạn đã từng sử dụng CKS cho tài liệu PDF, bạn đã thấy điều này. Sau khi ký, tài liệu không thể chỉnh sửa được nữa và bất kỳ ai cũng có thể xem lại siêu dữ liệu chống giả mạo của tệp để xem mọi thay đổi được thực hiện.

Chúng ta thậm chí còn quản lý các khía cạnh xã hội của lòng tin trực tuyến, chẳng hạn như tạo các ký hiệu chung để dán nhãn cho các giao dịch an toàn và các nguồn đã xác thực.

Ví dụ, khi bạn thấy biểu tượng ổ khóa trên thanh địa chỉ của trình duyệt, bạn biết rằng giao tiếp đã được mã hóa. Khi bạn thấy dấu kiểm màu xanh bên cạnh một diễn viên nổi tiếng trên Instagram hoặc X, bạn biết rằng ai đó đã xác minh rằng tài khoản đó là người chính chủ sử dụng.

Khi đó, chúng ta không cần công nghệ mới để giúp người tiêu dùng đánh giá tính xác thực của nội dung số. Điều chúng ta cần là tất cả mọi người tham gia vào phương tiện truyền thông, nhà xuất bản, nền tảng xã hội, dịch vụ AI, nhà sản xuất máy ảnh và phần mềm chỉnh sửa phương tiện áp dụng các cơ chế nhất quán.

Xây dựng tiêu chuẩn

Ngày nay, các nhà lãnh đạo truyền thông và công nghệ đang làm việc thông qua các nhóm như Liên minh về Nguồn gốc và Tính xác thực của Nội dung (Coalition for Content Provenance and Authenticity - C2PA) để thúc đẩy các tiêu chuẩn rộng rãi cho phương tiện truyền thông số. C2PA cung cấp một thông số kỹ thuật mở, dựa trên PKI và CKS, mà các nhà xuất bản, người sáng tạo và người tiêu dùng có thể sử dụng để xác minh nguồn phương tiện truyền thông số và xác định thời điểm AI thế hệ mới được sử dụng.

Giả sử bạn quay video trên điện thoại của mình. Theo C2PA, "giấy khai sinh" được liên kết bằng mật mã với phương tiện truyền thông đó, nêu chi tiết về thiết bị, vị trí, thời gian ghi và thông tin khác. Sau đó, bản kê khai này ghi lại tất cả các thay đổi tiếp theo chẳng hạn như xử lý AI thế hệ mới theo cách không thể thay đổi sau khi đã được sử dụng chữ số.

Quy trình này không đảm bảo tính chính xác về mặt thực tế của những gì được mô tả trong phương tiện truyền thông đó, nhưng nó cung cấp hồ sơ chống giả mạo về mọi thứ đã xảy ra với phương tiện truyền thông đó từ khi tạo ra đến khi tiêu thụ mà mọi người đều có thể thấy.

Ngày nay, C2PA đang nhanh chóng phát triển mạnh mẽ. Microsoft, Adobe, Intel Corporation, Sony và nhiều công ty công nghệ và truyền thông hàng đầu khác đã ký vào tiêu chuẩn này và đang nỗ lực thúc đẩy việc áp dụng rộng rãi hơn.

Tuy nhiên, vẫn còn nhiều việc phải làm. Ngay cả khi các tiêu chuẩn chung được đưa ra, mọi người vẫn cần học cách kiểm tra nguồn gốc của phương tiện truyền thông kỹ thuật số như một phần của đảm bảo an toàn trực tuyến cơ bản.

Các tiêu chuẩn về nguồn gốc nội dung sẽ không loại bỏ deepfake, nhưng khi được triển khai rộng rãi, chúng sẽ giúp người dùng truyền thông đưa ra quyết định tốt hơn về thời điểm họ nên tin tưởng vào những gì họ đang thấy và thời điểm họ không nên./.