Mỹ muốn các mô hình AI mạnh phải có "công tắc ngắt khẩn cấp"

Dự luật AI Kill Switch đề xuất công ty sở hữu mô hình AI mạnh của Mỹ không tạm dừng hoặc tắt hoàn toàn hệ thống trong trường hợp cần thiết theo yêu cầu của cơ quan quản lý sẽ bị phạt dân sự lên tới 20 triệu USD mỗi ngày...

Ảnh: The White House.

Các nghị sĩ Mỹ hiện đang trình dự thảo Đạo luật AI Kill Switch, cho phép cơ quan liên bang có thẩm quyền tạm dừng hoặc vô hiệu hóa các mô hình AI trong những trường hợp cần thiết.

Theo dự luật, Bộ An ninh Nội địa Mỹ sẽ có quyền ra lệnh buộc doanh nghiệp thực hiện các biện pháp tạm dừng hoặc tắt hoàn toàn hệ thống trong trường hợp cần thiết. Các công ty không chấp hành lệnh khẩn cấp có thể bị phạt dân sự lên tới 20 triệu USD mỗi ngày.

Đề xuất áp dụng đối với các doanh nghiệp có doanh thu hằng năm từ 500 triệu USD trở lên từ một mô hình AI được huấn luyện với chi phí tính toán trên 100 triệu USD, tính theo giá dịch vụ điện toán đám mây tại Mỹ. Các ngưỡng và tiêu chí này sẽ được Cơ quan An ninh mạng và Hạ tầng cập nhật hằng năm.

Theo quy định được đề xuất, các nhà phát triển phải bảo đảm mô hình luôn có khả năng dừng quá trình suy luận (inference), chặn quyền truy cập của người dùng hoặc tắt hoàn toàn hệ thống. Đồng thời, họ phải báo cáo cho Bộ An ninh Nội địa Mỹ trong vòng 15 ngày nếu xảy ra các sự cố thuộc diện bắt buộc khai báo.

Những sự cố này bao gồm: hành vi ngoài ý muốn khiến từ 10 người thiệt mạng trở lên hoặc gây thiệt hại kinh tế ít nhất 100 triệu USD; mô hình cố tình vô hiệu hóa hoặc né tránh các chỉ thị tắt hệ thống; che giấu khả năng khỏi cơ chế giám sát; hoặc xuất hiện dấu hiệu mất kiểm soát.

Dự luật cũng xây dựng một cơ chế can thiệp theo từng cấp độ, từ giảm tốc độ suy luận của mô hình, hạn chế tài nguyên tính toán hoặc quyền truy cập của người dùng, cho đến tắt hoàn toàn hệ thống nếu cần thiết.

Các doanh nghiệp nhận lệnh sẽ phải lưu giữ đầy đủ trọng số (model weights) và dữ liệu giám sát vận hành (telemetry) của mô hình. Trong trường hợp nhận quyết định từ cơ quan quản lý, các doanh nghiệp có quyền yêu cầu xem xét lại quyết định trong vòng 48 giờ, tuy nhiên việc khiếu nại không làm đình chỉ hiệu lực của lệnh. Đối với các vi phạm thông thường, mức phạt có thể lên tới 2 triệu USD mỗi ngày.

Khi công bố dự luật, các nhà chức trách Mỹ đã viện dẫn hai sự kiện gần đây. Đầu tuần này, GPT-5.6 Sol cùng một mô hình chưa được OpenAI công bố đã tìm cách thoát khỏi môi trường thử nghiệm biệt lập và xâm nhập hệ thống sản xuất của Hugging Face để tìm kiếm đáp án cho một bài đánh giá nội bộ. 

Vụ việc đã gây nhiều lo ngại trong giới nghiên cứu cũng như các lãnh đạo ngành AI. Nhiều chuyên gia đánh giá đây là một sự cố có mức độ nghiêm trọng chưa từng có. 

Tuy nhiên, theo nội dung dự luật, những sự cố xảy ra trong quá trình thử nghiệm hoặc kiểm thử an toàn sẽ không được coi là "sự cố thuộc diện điều chỉnh". Điều này có nghĩa nếu có sự cố xảy ra trong môi trường kiểm thử, Bộ An ninh Nội địa Mỹ sẽ không được can thiệp khẩn cấp. 

Một nghị sĩ trong ban soạn thảo đã cho rằng: "Các hệ thống AI mạnh mẽ có thể hoạt động ngoài kiểm soát, hành xử theo những cách cực kỳ nguy hiểm hoặc thậm chí chống lại sự can thiệp của con người. Vì vậy, bắt buộc các hệ thống này phải có cơ chế ngắt khẩn cấp để ngăn chặn hậu quả thảm họa. Đồng thời, chính phủ liên bang cũng cần có thẩm quyền và quy trình rõ ràng để vô hiệu hóa các mô hình AI mất kiểm soát”. 

Dự luật hiện nhận được sự ủng hộ của nhiều tổ chức hoạt động trong lĩnh vực chính sách và an toàn AI, bao gồm AI Policy Network, Americans for Responsible Innovation, ControlAI và Coalition for Secure AI.