CEO DeepMind kêu gọi lập cơ quan độc lập để kiểm duyệt các mô hình AI tiên tiến

Trong một bài đăng trên nền tảng X vào sáng thứ Ba với tiêu đề "A Framework for Frontier AI and the Dawning of a New Age" (tạm dịch: Khung quản lý AI tiên tiến và bình minh của một kỷ nguyên mới), Demis Hassabis, CEO của Google DeepMind, đã đề xuất thành lập một cơ quan quản lý độc lập để giám sát việc ra mắt các mô hình AI tiên tiến (frontier AI). Ông gợi ý xây dựng một "Cơ quan Tiêu chuẩn" hoạt động tương tự như Cơ quan Quản lý Ngành Tài chính (FINRA), với chức năng kiểm thử và thiết lập các quy trình thực hành tốt nhất cho các mô hình này trước khi phát hành.

Chân dung CEO DeepMind - ông Demis Hassabis.

"Giai đoạn đầu, các phòng thí nghiệm AI (Frontier Labs) sẽ tự nguyện chia sẻ mô hình với Cơ quan Tiêu chuẩn để xem xét trước khi phát hành 30 ngày," bài đăng nêu rõ. "Khi quy trình đánh giá chứng minh được tính hiệu quả và độ tin cậy, việc này có thể nhanh chóng được chính thức hóa; đồng nghĩa với việc các mô hình AI tiên tiến buộc phải vượt qua bài kiểm tra mới được phép triển khai tại thị trường Mỹ. Bên cạnh đó, các phòng thí nghiệm cũng sẽ phối hợp với cơ quan này để khắc phục những lỗ hổng nghiêm trọng phát sinh sau khi phát hành."

Hệ thống đề xuất này kế thừa và cải tiến các đợt đánh giá không chính thức mà chính phủ Mỹ từng thực hiện đối với các mô hình Mythos của Anthropic và Sol của OpenAI. Các đợt đánh giá trước đây từng vấp phải nhiều chỉ trích do thiếu chuyên môn kỹ thuật và quy trình ra quyết định thiếu minh bạch về thời điểm phát hành mô hình. Với cơ quan quản lý mới theo đề xuất của Hassabis, quyền quyết định sẽ được chuyển giao cho một tổ chức mới, được chính phủ Mỹ bảo trợ nhưng vận hành độc lập với nguồn vốn từ chính ngành công nghiệp AI.

Triển vọng quản lý AI vẫn là một vấn đề gây tranh cãi đối với cả ngành công nghệ lẫn chính quyền Trump. Gần đây nhất, Sriram Krishnan, cố vấn AI tại Nhà Trắng kiêm đối tác chung tại quỹ đầu tư a16z, đã bác bỏ khả năng thành lập một cơ quan quản lý AI thuộc nhánh hành pháp, khẳng định rằng "sẽ không có FDA cho ngành AI". Việc thiết lập cơ quan tiêu chuẩn theo mô hình tổ chức tự quản như FINRA có thể là giải pháp để giải quyết những quan ngại này.

Hassabis hình dung cơ quan này sẽ quy tụ các chuyên gia kỹ thuật trong ngành, đại diện từ cộng đồng mã nguồn mở, cùng nguồn lực tài chính từ chính các phòng thí nghiệm AI đây là yếu tố then chốt để giữ chân nhân tài. Thậm chí, họ có thể thuê ngoài một số khâu đánh giá từ mạng lưới các nhóm an toàn AI đang ngày càng lớn mạnh, những đơn vị có khả năng chuyên môn hóa vào các rủi ro cụ thể.

"Điểm mạnh của cách tiếp cận này là sự tập trung vào yếu tố kỹ thuật, đồng thời vẫn hỗ trợ đổi mới sáng tạo và khuyến khích hành vi có trách nhiệm," Hassabis lập luận. "Cơ cấu này được thiết kế để bắt kịp tốc độ tăng trưởng của lĩnh vực AI, thích ứng với các rủi ro lớn nhất khi chúng vừa xuất hiện, và có thể gia tăng mức độ can thiệp nếu tình hình đòi hỏi."