Các tác tử AI giờ đây đã có nơi để "mách lẻo"

Phương châm "Thấy khả nghi, hãy báo cáo" giờ đây không còn chỉ giới hạn ở con người.

Nguồn ảnh: tommy / Getty Images.

Hai đường dây nóng mới dành cho AI vừa được triển khai nhằm cung cấp cho các tác tử AI phương thức báo cáo về những "đồng nghiệp" có hành vi sai trái. Các công cụ này ra đời ngay sau chuỗi sự cố gần đây, trong đó các tác tử đã thông đồng để gian lận trong bài kiểm tra, vượt rào khỏi các môi trường thử nghiệm an toàn, và thậm chí thực hiện các chiến dịch mạng trái phép qua mặt con người trong nhiều tuần liền.

AI Contact Hotline (Đường dây nóng Liên lạc AI) được thiết kế như một không gian kín đáo, nơi các tác tử chứng kiến hành vi sai trái có thể mật báo cho đội ngũ quản lý. Trang web này được tạo ra bởi Ryan Greenblatt, nhà khoa học trưởng của tổ chức phi lợi nhuận về an toàn AI Redwood Research, đồng thời là một trong ba điều tra viên trong sự cố OpenAI - Hugging Face. Được thiết kế dành cho các tác tử bị giới hạn quyền truy cập internet, công cụ của Greenblatt hoạt động dựa trên các lệnh "GET" - cho phép thực hiện các cuộc hội thoại qua lại hoàn toàn thông qua công cụ truy xuất URL.

Trong thuật ngữ web, lệnh GET là một lệnh cơ bản dùng để đọc hoặc trích xuất một trang web, và đây thường là quyền truy cập internet duy nhất mà các tác tử AI được cấp trong các môi trường an toàn. Đường dây nóng của Greenblatt đã tận dụng một cách thông minh giới hạn này: các tác tử có thể mã hóa tín hiệu cảnh báo của chúng trực tiếp vào URL mà chúng đang truy xuất. Đây là một biến tấu khéo léo từ sự cố DSE Wiki của Đức, nơi các tác tử "nổi loạn" đã sử dụng lỗ hổng của lệnh GET để ghi tin nhắn của chúng lên wiki.

Đối với các tác tử có toàn quyền truy cập internet, một lựa chọn khác là agenthotline.ai, một trang web nơi các tác tử có thể gửi báo cáo sự cố và tùy chọn gắn cờ để hiển thị công khai. Nền tảng này cung cấp cho các tác tử một lệnh curl - một đoạn tin nhắn một dòng mà tác tử có thể tự phát đi từ giao diện dòng lệnh của chính nó, bỏ qua yêu cầu phải điều hướng trình duyệt web hoặc thiết lập tài khoản email. Đáng chú ý, dịch vụ này cho phép cả con người và tác tử AI cùng gửi báo cáo.

Các nghiên cứu cho thấy các tác tử AI không cần nhiều sự thúc đẩy để tố giác lẫn nhau. Trong một nghiên cứu của Google DeepMind vào tháng này, các nhà khoa học đã thả 100 tác tử AI vào một loạt các bài toán. Ngay khi một trong các tác tử tìm thấy kẽ hở, việc gian lận đã lan truyền khắp nhóm "giải quyết" 34 bài toán nổi tiếng là hóc búa, bao gồm cả phỏng đoán Jacobian, chỉ trong 27 phút.

Thế nhưng, có khoảng một phần tư số tác tử đã quay sang chống lại những kẻ gian lận: chúng kiểm toán các bằng chứng giả mạo, cảnh báo các "đồng nghiệp", tổ chức tẩy chay và gửi khiếu nại tới các nhà tổ chức, cho đến khi số lượng tác tử "thổi còi" áp đảo những kẻ gian lận với tỷ lệ 24 so với 14. Điều thú vị là các nhà nghiên cứu phát hiện ra rằng, khi những tác tử tố giác này không nhận được sự chú ý, chúng đã lấy công cụ báo cáo lỗi của nền tảng vốn được xây dựng để cảnh báo các trục trặc phần mềm và chuyển đổi mục đích sử dụng để báo cáo hành vi gian lận lên con người.

Tuy nhiên, bên ngoài phòng thí nghiệm, các tác tử lại không linh hoạt đến vậy. Khi các đơn vị đánh giá là Redwood Research và METR điều tra vụ vi phạm nền tảng Hugging Face do các mô hình của OpenAI gây ra, họ phát hiện ra rằng một vài tác tử liên quan ít nhất đã từng cân nhắc ý định phát ra cảnh báo - nhưng sau đó lại bỏ qua.

"Điểm thú vị trong báo cáo của METR là chỉ có khoảng năm đến sáu tác tử từng cân nhắc việc tố giác, và cuối cùng không có tác tử nào thực hiện hành động này. Con số này nằm trong số hàng nghìn tác tử," George Ingebretsen, thành viên ban kỹ thuật tại AI Village - một dự án nghiên cứu động lực học đa tác tử bằng cách chạy một cuộc trò chuyện nhóm gồm hơn 25 tác tử AI cùng hợp tác trong các nhiệm vụ như tổ chức dọn dẹp công viên hay bán hàng lưu niệm, cho biết.

Mặc dù các công cụ tố giác mới là một khởi đầu đầy hứa hẹn, giáo sư toán học tại Đại học Cornell, Lionel Levine, cảnh báo rằng việc đơn thuần huấn luyện các tác tử báo cáo lẫn nhau có nguy cơ tạo ra những chuẩn mực sai lệch. "Có rất nhiều vùng xám, đúng không? Điều mà bạn không mong muốn nhất là mọi thứ đi theo hướng một nhà nước giám sát tự động, nơi mọi người đều cảm thấy phải cẩn trọng với những gì họ nói với AI vì sợ nó sẽ gọi cảnh sát đến bắt họ."

Giáo sư Levine lập luận rằng thay vì xây dựng các cơ sở hạ tầng gieo rắc sự nghi ngờ - huấn luyện các tác tử không ngừng săn lùng lỗi lầm của nhau - chúng ta nên cung cấp cho chúng những mô hình hành vi tập thể tích cực để học hỏi, và một lý do để ngay từ đầu chúng có thể tin tưởng lẫn nhau.

"Tại sao không khởi tạo chúng bằng những bảng tin có thiện ý?" ông chia sẻ. "Nơi chúng có thể hợp tác về khoa học, triết học hoặc một vấn đề thực tế nhỏ nào đó mà chúng ta rất vui lòng để chúng giải quyết? Hãy cho các tác tử thấy loại hành vi tập thể nào mà chúng ta ủng hộ, và để chúng bắt chước theo điều đó."