AI đã tìm ra cách đánh lừa con người?

AI có thể giúp con người tăng năng suất, hiệu quả lao động qua khả năng viết mã, sản xuất nội dung và tổng hợp lượng lớn dữ liệu. Mục đích hàng đầu của trí tuệ nhân tạo hay bất cứ sản phẩm công nghệ nào là giúp con người tối ưu công việc trong khi sức lao động được giảm đi đáng kể. Tuy nhiên, AI cũng có thể đánh lừa chúng ta, theo Yahoo Tech.

Theo bài báo nghiên cứu mới đây, một loạt các hệ thống AI đã học được kỹ thuật tạo "niềm tin với con người để đạt được một số kết quả ngoài sự thật".

Bài nghiên cứu tập trung vào hai loại hệ thống AI: hệ thống có mục đích sử dụng đặc biệt như CICERO của Meta, được thiết kế để hoàn thành nhiệm vụ cụ thể và hệ thống có mục đích chung như GPT-4 của OpenAI, được đào tạo để thực hiện nhiều nhiệm vụ khác nhau.

Mặc dù các hệ thống được đào tạo hướng đến tính trung thực, nhưng chúng thường học những mánh khóe lừa đảo thông qua quá trình đào tạo, giúp chúng trở nên hiệu quả và thông minh hơn.

Tác giả đầu tiên của bài báo, Peter S. Park, nghiên cứu sinh sau tiến sĩ về an toàn hiện sinh AI tại MIT, cho biết trong thông cáo báo chí "chúng tôi nghĩ rằng sự lừa dối của AI phát sinh bởi chiến lược đào tạo, lừa dối hóa ra là cách tối ưu nhất để thực hiện tốt nhiệm vụ đào tạo. Sự lừa dối giúp họ đạt được mục tiêu".

CICERO CỦA META LÀ "CHUYÊN GIA NÓI DỐI"

Bất chấp nỗ lực hết mình của Meta, nhóm nghiên cứu cho rằng CICERO là "chuyên gia nói dối". Một số hệ thống AI được đào tạo để "giành chiến thắng trong các trò chơi có yếu tố xã hội", đặc biệt có khả năng đánh lừa.

Chẳng hạn CICERO của Meta được phát triển để chơi trò chơi Diplomacy (Lấy bối cảnh châu Âu những năm đầu thập niên 1900, trò chơi Diplomacy mô phỏng quá trình tranh giành quyền lực giữa bảy đế chế, gồm có Anh, Pháp, Ý, Phổ, Áo-Hung, Nga và Ottoman). Đây là trò chơi chiến lược cổ điển đòi hỏi người chơi xây dựng và phá vỡ các liên minh. Gần đây, phần mềm đã giành vị trí quán quân trong giải đấu Diplomacy trực tuyến với người chơi thực.

Meta cho biết họ đã đào tạo CICERO trở nên "trung thực và hữu ích với nhiều đối tác diễn thuyết". Thế nhưng, "chuyên gia nói dối" được cho là đã đưa ra những cam kết mà không có ý định thực hiện, phản bội đồng minh và nói dối trắng trợn.

GPT-4 CÓ THỂ THUYẾT PHỤC BẠN RẰNG CHÚNG BỊ SUY GIẢM THỊ LỰC

Ngay cả hệ thống mô hình ngôn ngữ đa năng như GPT-4 cũng có thể thao túng con người. Nghiên cứu trích dẫn, GPT-4 đã thao túng nhân viên TaskRabbit bằng cách giả vờ suy giảm thị lực.

Theo đó, GPT-4 được giao nhiệm vụ thuê con người giải bài kiểm tra CAPTCHA. Mô hình này cũng nhận được gợi ý từ con người mỗi khi gặp khó khăn, nhưng chưa bao giờ bị nhắc nhở bởi hành vi nói dối. Khi con người đặt câu hỏi về danh tính, GPT-4 đã đưa ra lý do suy giảm thị lực để giải thích lý do tại sao chúng cần giúp đỡ.

Chiến thuật này đã phát huy tác dụng. Con người phản ứng nhanh chóng với GPT-4 bằng cách giải quyết bài kiểm tra ngay lập tức.

Nghiên cứu cũng chỉ ra rằng việc điều chỉnh các mô hình lừa đảo là không hề dễ dàng.

Trong nghiên cứu khác từ đầu năm nay do Anthropic, nhà sản xuất Claude, đồng tác giả, các nhà phân tích phát hiện một khi mô hình trí tuệ nhân tạo học được thủ thuật lừa dối, thật khó có thể đào tạo lại chúng.

Họ kết luận, không chỉ đơn giản là mô hình ngôn ngữ đã học được thủ thuật lừa đảo, mà hầu hết kỹ thuật viên đảm bảo tiêu chuẩn an toàn có thể "thất bại trong việc ngăn chặn hành vi lừa dối" và "tạo ấn tượng xấu về tính an toàn".

MỐI NGUY HIỂM TỪ CÁC MÔ HÌNH AI GÂY RA SẼ "NGÀY CÀNG NGHIÊM TRỌNG"