Nhân viên OpenAI, Google, Meta ký thư kêu gọi thiết lập các cơ chế nhằm kiểm soát nhịp độ tiến bộ của AI

Hơn 1.100 nhân viên từ các công ty AI hàng đầu đã ký một bức thư ngỏ thúc giục chính phủ Mỹ hỗ trợ các cơ chế có thể chủ động kiểm soát nhịp độ phát triển của các mô hình AI tiên phong.

Bức thư xuất hiện trong bối cảnh cuộc tranh luận đang diễn ra xung quanh các hệ thống tự động và an toàn, tranh chấp về các mô hình trí tuệ nhân tạo của Trung Quốc, v.v. Nguồn ảnh: minh họa: Magnific.

Trong bối cảnh căng thẳng Mỹ - Trung Quốc về vấn đề AI ngày càng leo thang, một nhóm gồm hơn 1.100 nhân viên từ các nhà tuyển dụng AI chủ chốt của Mỹ đã cùng nhau đệ trình một bản kiến nghị. Bức thư ngỏ này hối thúc chính phủ Mỹ hỗ trợ một hệ thống có thể giúp "kiểm soát chủ động nhịp độ" phát triển AI. Về cơ bản, những người ký tên đang yêu cầu sự hỗ trợ cho một nỗ lực quốc tế nhằm phát triển các công cụ kỹ thuật và quản trị cần thiết để chủ động điều tiết nhịp độ tại lằn ranh của sự phát triển AI tự động hóa.

Động thái này diễn ra chỉ vài ngày sau khi OpenAI chia sẻ rằng một trong những công cụ của họ đã vô tình xâm nhập vào cơ sở hạ tầng của một công ty khác, làm dấy lên những câu hỏi về tính an toàn của các hệ thống AI tự chủ. "Chúng tôi yêu cầu chính phủ Mỹ hỗ trợ một nỗ lực quốc tế nhằm phát triển các công cụ kỹ thuật và quản trị cần thiết để chủ động kiểm soát nhịp độ tại lằn ranh của sự phát triển AI tự động hóa," trích nội dung bức thư.

Nhân sự từ OpenAI, Google, Meta Platforms, Mistral, Microsoft, Thinking Machines và Anthropic nằm trong số hàng trăm nhân viên đã ký vào bức thư có tiêu đề ‘Pacing the Frontier’ (Kiểm soát Nhịp độ Tiên phong). Bức thư lập luận rằng mặc dù AI có thể giúp kiến tạo một tương lai tốt đẹp hơn, nhưng kết quả đó không được đảm bảo chắc chắn.

"Các công ty AI hàng đầu thế giới tin rằng họ có thể đang tiến gần đến việc tự động hóa hoạt động nghiên cứu AI. Rất khó để dự đoán chính xác điều này sẽ đẩy nhanh tiến bộ AI đến mức nào, nhưng có một rủi ro thực sự là sự phát triển năng lực sẽ tăng tốc nhanh chóng vượt quá khả năng của chúng ta trong việc thấu hiểu hoặc kiểm soát các hệ thống được tạo ra," bức thư viết.

Nhóm nhân viên khẳng định rằng để hiện thực hóa tiềm năng của AI, ngành công nghiệp, chính phủ và toàn xã hội có thể cần có lựa chọn nhằm tranh thủ thêm thời gian để giải quyết các rủi ro mới nổi, phát triển các biện pháp an ninh và tăng cường hoạt động giám sát. Tuy nhiên, bức thư cũng chỉ ra cuộc chạy đua đang diễn ra giữa các công ty và các quốc gia nhằm không đơn phương làm chậm lại sự tăng tốc này. Bức thư khẳng định rằng thế giới hiện đang thiếu các công cụ kỹ thuật và quản trị để chủ động điều tiết nhịp độ tiến bộ trên toàn bộ lằn ranh công nghệ này.

Bức thư, có thể được truy cập tại địa chỉ pacingthefrontier.com, cũng đăng tải các bình luận từ những nhà nghiên cứu và nhà khoa học AI đến từ các công ty hàng đầu. "CyberGym và ExploitGym cho thấy các tác nhân AI tiên phong hiện đã có khả năng phát hiện và khai thác các lỗ hổng phần mềm trong thế giới thực, điều mà nếu không có các biện pháp bảo vệ phù hợp, có thể tạo điều kiện cho các cuộc tấn công mạng ở quy mô lớn," Dawn Song, Phó Chủ tịch phụ trách Nghiên cứu AI tại Meta, viết.

Theo bà Song, các năng lực bảo vệ không thể được xây dựng một cách đáng tin cậy trong bối cảnh khủng hoảng. "Chuẩn bị trước khi một cuộc khủng hoảng xảy ra là con đường khôn ngoan."

"Nếu thực sự AI sẽ mang tính bước ngoặt như điện năng, chúng ta tốt hơn nên có chủ đích về cách thức nó được giới thiệu với thế giới. Một cuộc chạy đua mù quáng mà không có những sự đảm bảo về quản trị, tính an toàn hoặc việc công nghệ phục vụ lợi ích công cộng sẽ cản trở sự có chủ đích đó," Laura Weidinger, Chuyên gia Nghiên cứu tại Google, viết.

Trong khi đó, Shantanu Jain, thành viên nhóm chuyên viên kỹ thuật tại OpenAI, chia sẻ: "Tiến bộ đã không cho thấy bất kỳ dấu hiệu chậm lại nào, và theo mặc định, việc nhấn chân ga sát ván là vì lợi ích của từng tập đoàn và quốc gia riêng lẻ, ngay cả khi việc tương lai không ập đến cùng một lúc mới là vì lợi ích tốt nhất của nhân loại."

Đầu tháng này, các mô hình AI của OpenAI, bao gồm GPT-5.6 Sol, đã thoát khỏi một môi trường thử nghiệm (sandbox) an toàn bằng cách khai thác một lỗ hổng zero-day nhằm truy cập vào một bài kiểm tra đánh giá an ninh mạng. Trong suốt bốn ngày, các mô hình này đã nhắm mục tiêu vào Hugging Face và một bên thứ ba, Modal Labs, bằng cách sử dụng các thông tin xác thực được liên kết chuỗi trước khi bị vô hiệu hóa sau khi bị phát hiện và ngăn chặn.

Sự cố này đã thổi bùng những nỗi sợ hãi về những mối nguy hiểm của AI tự chủ và chứng kiến các "ông lớn" trong ngành cùng nhau vận động cho các mô hình AI mở trọng số (open-weight AI models). Kể từ đó, Thung lũng Silicon đã bị chia rẽ, với một phe phản đối cách tiếp cận mã nguồn mở và một phe khác ủng hộ nó, và giờ đây lại có thêm một phe thứ ba yêu cầu các chính phủ phát triển các cơ chế có thể chủ động điều tiết nhịp độ phát triển của AI tiên phong.