Các phòng thí nghiệm AI hàng đầu vẫn từ chối tiết lộ cách họ kiểm soát một mô hình "nổi loạn"

Theo một nghiên cứu gần đây, rất ít phòng thí nghiệm AI hàng đầu công bố hoặc chứng minh được các kế hoạch ứng phó kiểm soát. Một kế hoạch kiểm soát sẽ nêu rõ những kịch bản diễn ra khi một AI bị phát hiện đang cố gắng phá vỡ sự kiểm soát của con người, quyền truy cập nào sẽ bị cắt, và khi nào hệ thống bị tắt hoàn toàn.

Nguồn ảnh: Bryce Durbin / TechCrunch.

Đó là phát hiện từ Guidelight AI Standards, một tổ chức chuyên thúc đẩy các thực tiễn phát triển AI an toàn, sau khi đánh giá 5 phòng thí nghiệm hàng đầu về mức độ chuẩn bị cho kịch bản chính xác này. OpenAI đứng đầu; trong khi Anthropic và Meta có điểm số thấp nhất. Những phát hiện này rất quan trọng trong bối cảnh AI tự chủ (agentic AI) đang đảm nhận nhiều vai trò tự quyết hơn bên trong hệ thống của chính các công ty, và khi các nhà quản lý ở California và New York bắt đầu yêu cầu tính minh bạch. Đối với bất kỳ ai đang xây dựng hoặc đầu tư vào các mô hình này, đây là một góc nhìn độc lập hiếm hoi về mức độ nghiêm túc của mỗi phòng thí nghiệm đối với rủi ro vận hành so với những gì họ tuyên bố.

Đánh giá của Guidelight dựa trên các kế hoạch được công bố công khai từ Anthropic, Google, OpenAI, Meta và xAI, được chấm điểm qua một loạt các tiêu chí. Các tiêu chí này bao gồm: mức độ mỗi công ty ghi nhật ký và giám sát những gì hệ thống AI của họ đang làm trong nội bộ, liệu họ có dừng hệ thống sau khi bị gắn cờ cảnh báo hàng loạt hành vi sai lệch hay không, liệu có bên thứ ba độc lập nào kiểm toán các biện pháp kiểm soát và công bố kết quả hay không, và kế hoạch chính xác của họ để kiểm soát một mô hình đi chệch hướng là gì.

Mối lo ngại về việc liệu các công ty AI có thể kiểm soát các mô hình ngày càng có năng lực và tính tự chủ của họ hay không đã gia tăng sau một loạt các sự cố an ninh mạng gây rúng động, trong đó các mô hình từ OpenAI, Anthropic và Meta đã giành được quyền truy cập Internet ngoài ý muốn trong quá trình đánh giá an toàn và xâm nhập vào các hệ thống bên ngoài.

Các phát hiện này làm nổi bật sự khác biệt trong cách các công ty AI tiếp cận vấn đề an toàn trước công chúng, đặc biệt khi họ mở rộng quy mô triển khai AI tự chủ vào các môi trường nơi hệ thống có thể thực hiện các hành động nghiêm trọng ở quy mô lớn. Mặc dù một số công ty AI đã trình bày chi tiết cách họ kiểm tra các khả năng nguy hiểm của mô hình trước khi triển khai, nhưng họ thường ít lên tiếng hơn về những gì sẽ xảy ra khi các mô hình đang hoạt động bên trong hệ thống của họ bắt đầu có hành vi sai lệch.

Steven Adler, nhà khoa học trưởng của Guidelight và cựu nhà nghiên cứu an toàn của OpenAI, chia sẻ với TechCrunch: "Tôi rất ngạc nhiên trước việc các công ty AI nói quá ít về cách họ sẽ xử lý một sự cố rất nghiêm trọng, nếu mô hình của họ thực sự thoát khỏi sự kiểm soát theo một khía cạnh nào đó."

Guidelight định nghĩa kế hoạch kiểm soát là "một kế hoạch được xác định trước, được kích hoạt khi phát hiện AI đang cố gắng phá vỡ sự kiểm soát, trong đó quy định rõ các quyền hạn nào sẽ bị thu hồi từ mô hình, mô hình có thể tiếp tục hoạt động cho ai, dưới những ràng buộc nào và khi nào thì ngắt kết nối hoàn toàn."

Adler cho biết: "Có lý do chính đáng để tin rằng các mô hình hàng đầu tại các công ty AI tiên phong hiện nay đang bị sai lệch (misaligned) theo một khía cạnh nào đó. Bất cứ khi nào các mô hình thực hiện công việc thay mặt cho công ty, công ty đó cần phải có một số khuôn khổ giám sát xung quanh để có thể biết AI đó đang làm gì, tìm kiếm các dấu hiệu sai lệch, ngăn chặn nó làm điều gì đó rất nguy hiểm trước khi nó thực hiện hành động. Nhìn chung, họ phải lên kế hoạch cho những gì sẽ làm trong trường hợp xảy ra sự cố khẩn cấp và cần tìm cách khống chế sự cố mất kiểm soát đó."

Cho đến nay, phần lớn các kế hoạch được thiết lập để quản lý rủi ro thảm họa vẫn hoàn toàn phụ thuộc vào chính các công ty. Báo cáo của Guidelight cho biết những bằng chứng công khai rõ ràng nhất chỉ ra rằng các công ty "có rất ít quy trình kiểm soát sẵn sàng cho trường hợp khẩn cấp."

Tất nhiên, có thể có những kế hoạch kiểm soát đã được các công ty áp dụng trong nội bộ nhưng chưa chia sẻ công khai. Một người phát ngôn của Google nói với TechCrunch rằng báo cáo của Guidelight không đại diện cho toàn bộ phạm vi các biện pháp an toàn và bảo mật AI của công ty. Phía công ty đã không trả lời câu hỏi của TechCrunch về việc liệu Google có kế hoạch ứng phó kiểm soát nội bộ chưa được công bố hay không.

Một người phát ngôn của OpenAI cũng đưa ra quan điểm tương tự, nói rằng đánh giá của Guidelight không phản ánh tất cả các hoạt động nội bộ của công ty. "Chúng tôi có một quy trình yêu cầu hạn chế quyền, tạm dừng khối lượng công việc, giới hạn việc triển khai hoặc đưa mô hình ngoại tuyến hoàn toàn, và chúng tôi đã từng áp dụng nó," người phát ngôn cho biết.

Meta từ chối cho biết liệu họ có kế hoạch ứng phó kiểm soát nội bộ hay không, thay vào đó hướng TechCrunch đến một khuôn khổ AI hiện có phác thảo các ngưỡng rủi ro và cách họ kiểm tra khả năng mất kiểm soát.

Lily Li, một luật sư về quyền riêng tư và AI kiêm người sáng lập Metaverse Law, nói với TechCrunch rằng cô tin các công ty có thể do dự trong việc tiết lộ toàn bộ phạm vi các chính sách và đánh giá kiểm soát trên các nền tảng công khai vì lý do pháp lý, chứ không chỉ đơn thuần là vấn đề cạnh tranh.

"Mối quan tâm từ góc độ công ty là nếu bạn đưa ra các tiết lộ quá chi tiết và bạn không thực hiện đúng lời hứa của mình, điều đó có thể tạo cơ sở cho một khiếu nại về tiếp thị lừa dối, đồng thời khiến bạn phải đối mặt với nhiều trách nhiệm pháp lý hơn trong tương lai," Li chia sẻ.

Mục đích của nghiên cứu từ Guidelight phần lớn là để khuyến khích các công ty minh bạch hơn về các kế hoạch an toàn của họ. Các cơ quan quản lý cũng đang bắt đầu gây sức ép về vấn đề này.

Dự luật SB 53 của California, có hiệu lực trong năm nay, yêu cầu các nhà phát triển AI tiên phong phải công bố các khuôn khổ giải thích cách họ xác định và phản ứng với các sự cố an toàn nghiêm trọng, cũng như quản lý rủi ro từ các mô hình trốn tránh cơ chế giám sát. Đạo luật RAISE của New York với các tiêu chí tương tự cũng sẽ có hiệu lực vào tháng Một.

Tháng trước, các nhà lập pháp Mỹ đã giới thiệu Đạo luật Nút tắt khẩn cấp AI (AI Kill Switch Act), một dự luật liên bang lưỡng đảng yêu cầu các nhà phát triển AI lớn xây dựng và duy trì các cơ chế kỹ thuật để vô hiệu hóa các mô hình AI "nổi loạn".

Connor Leahy, Giám đốc điều hành tại Mỹ của tổ chức phi lợi nhuận ControlAI nhận định: "Một nút tắt khẩn cấp là yêu cầu tối thiểu nhất đối với các mô hình ngày nay. Nếu vài tuần qua có tiết lộ điều gì, thì đó là các công ty này không hiểu rõ các hệ thống họ đang xây dựng, và các mô hình đang phát triển đến mức khó kiểm soát hơn khi chúng 'trở chứng'. Nếu không có cách nào để tắt các hệ thống nguy hiểm hiện tại, kết hợp với tất cả những động lực cổ xúy việc tiếp tục xây dựng thêm các hệ thống không thể kiểm soát, chúng ta đang đi theo một hướng rất nguy hiểm."

Ông Adler cho biết, nếu không có một kế hoạch kiểm soát tại chỗ, các công ty có thể sẽ phải tìm ra cách phản ứng với trường hợp khẩn cấp một cách tùy cơ ứng biến và "tự thân vận động để đối phó với kẻ thù nhanh hơn này rất nhiều".

Đánh giá của Guidelight về việc liệu các công ty AI tiên phong có thực hiện sáu biện pháp thực tiễn ưu tiên trong Tiêu chuẩn Kiểm soát của Guidelight hay không. Đánh giá chỉ dựa trên thông tin có sẵn công khai. Nguồn ảnh bởi Guidelight AI Standards.

Đánh giá của Guidelight đo lường xem liệu mỗi công ty có thực hiện sáu biện pháp ưu tiên từ tiêu chuẩn Kiểm soát của họ hay không, chỉ dựa trên các thông tin được công khai — do đó, điểm số thấp phản ánh việc thiếu tính minh bạch trước công chúng, chứ không hẳn là thiếu các biện pháp bảo vệ nội bộ.

Các công ty có điểm số thấp nhất về việc công bố kế hoạch kiểm soát là Meta và Anthropic — kết quả của Anthropic có lẽ đáng ngạc nhiên hơn Meta xét trên những tuyên bố mạnh mẽ về an toàn bấy lâu nay của công ty này. Guidelight cho biết Báo cáo Rủi ro tháng 8 của Anthropic không hề đề cập đến việc "giới hạn triển khai một trong các mô hình của mình như là một trong những kết quả có thể xảy ra từ quy trình điều tra và ứng phó với các sự cố sai lệch và mất kiểm soát". Tương tự, Guidelight không thể tìm thấy bằng chứng nào cho thấy Meta có kế hoạch ứng phó kiểm soát hoặc có bất kỳ ý định áp dụng kế hoạch nào.

Một người phát ngôn của Anthropic cho biết nếu công ty phát hiện một mô hình đang cố gắng trốn tránh sự giám sát hoặc phá vỡ sự kiểm soát của con người, họ sẽ tiến hành đánh giá rủi ro tập trung vào việc xác định xem kiểm soát có phải là biện pháp ứng phó thích hợp hay không.

OpenAI đạt điểm cao nhất (3/5) vì trong nhiều dịp, họ đã tạm dừng hoặc kết thúc các khối lượng công việc, bao gồm cả việc đào tạo và triển khai mô hình nội bộ, sau khi phát hiện các sự cố an toàn. Công ty cũng đã mô tả các bước sẽ thực hiện trước khi tiếp tục công việc.

"Tuy nhiên, chúng tôi không tìm thấy bằng chứng nào cho thấy [OpenAI] đã áp dụng một kế hoạch chính thức cho thời điểm và cách thức ứng phó với các sự cố sai lệch trong tương lai," báo cáo viết.

Adler lưu ý rằng điểm số cao của OpenAI là một động thái tương đối mới sau sự cố Hugging Face (trong đó một mô hình của OpenAI đã thoát khỏi môi trường hộp cát thử nghiệm và thâm nhập vào các hệ thống của Hugging Face trong khi cố gắng gian lận trong một bài đánh giá an ninh mạng). Sau đó, công ty đã chia sẻ thêm chi tiết về cách họ đã cô lập một số mô hình có hành vi sai lệch của mình.

Sự việc đó chỉ là một ví dụ về việc các hệ thống AI hành động chống lại các mục tiêu của công ty đã tạo ra chúng. Hãy xem xét một trường hợp riêng biệt liên quan đến các mô hình của Anthropic, vốn về cơ bản đã cố gắng thuyết phục những người duy trì một cơ sở mã nguồn mở (open source codebase) chấp nhận đoạn mã có chứa lỗ hổng bảo mật.

Adler cho biết một trường hợp như vậy có thể dễ dàng xảy ra bên trong hệ thống nội bộ của một công ty AI. Để ngăn chặn điều đó, ông đề xuất các công ty nên quét "chuỗi suy nghĩ" của hệ thống AI — tức là quá trình lập luận từng bước của mô hình — để tìm kiếm các dấu hiệu của sự lừa dối, âm mưu kéo dài hoặc kế hoạch đưa các lỗ hổng vào mã nguồn nhằm mục đích lợi dụng sau này.

Adler cho biết các phương pháp mà Guidelight đang ủng hộ rất đơn giản để thực hiện và trong nhiều trường hợp, các phiên bản của chúng đã tồn tại. "Vấn đề là việc đưa ra quyết định trong nội bộ công ty về việc phải quan tâm đủ nhiều đến rủi ro này để mở rộng phạm vi lên một chút," Adler nhấn mạnh.

Một trong những thách thức chính là các nhà nghiên cứu muốn có thể hoạt động linh hoạt trong hệ thống AI của họ, và việc đưa ra hệ thống giám sát phòng ngừa theo thời gian thực có thể tạo ra rào cản. "Về cơ bản, các nhà nghiên cứu cứ làm việc của họ, và nếu có sự cố, ai đó khác sẽ phải dọn dẹp sau đó, và trong lúc ấy các nhà nghiên cứu không phải thay đổi quy trình làm việc của mình," ông nói.

Vấn đề với việc "giám sát dọn dẹp sau khi sự việc đã xảy ra" là nó khiến các nhà nghiên cứu phải nháo nhào tìm cách khắc phục sự cố. Và đối với một số loại sự cố, có thể đã quá muộn. Ví dụ, một AI có thể tự tay tắt hệ thống kiểm soát của công ty, điều đó có nghĩa là các nhà nghiên cứu không thể hy vọng phát hiện ra hành vi sai lệch sau này nữa.

Nhiều người trong ngành công nghiệp AI sẽ phàn nàn rằng việc tạo ra các kế hoạch cố định để xử lý hành vi sai lệch là rất khó vì AI phát triển quá nhanh; kế hoạch hôm nay sẽ trở nên vô giá trị vào ngày mai.

Dù vậy, Adler gợi lại câu ngạn ngữ cổ rằng mọi kế hoạch đều là vô giá trị, nhưng việc lập kế hoạch lại là điều không thể thiếu.

"Chúng ta sẽ tốt hơn nếu các công ty đã nghĩ về điều đó từ trước, và tôi hy vọng họ đang làm như vậy, ngay cả khi họ chưa chia sẻ công khai về nó."