Nhà Trắng tiếp đón các công ty AI vào thứ Ba để xem xét khung kiểm thử mô hình mới

Nhà Trắng sẽ tiếp đón các công ty trí tuệ nhân tạo vào thứ Ba để thảo luận về một khung làm việc vừa hoàn thành nhằm xem xét khả năng an ninh mạng của các mô hình tiên tiến nhất trong ngành, một quan chức Nhà Trắng đã xác nhận với CNBC

Tổng thống Mỹ Donald Trump (phải) và Giám đốc điều hành Open AI Sam Altman (trái) phản hồi trong cuộc họp ăn trưa làm việc của các thành viên G7, các quốc gia đối tác và các nhà lãnh đạo doanh nghiệp trí tuệ nhân tạo trong khuôn khổ hội nghị thượng đỉnh G7, tại Evian, miền đông nước Pháp

Cuộc họp sẽ tập trung vào khung làm việc tự nguyện mà Tổng thống Donald Trump đã chỉ đạo vào tháng 6, quan chức này cho biết với điều kiện ẩn danh khi nói về cuộc họp chưa được công bố chính thức. Trang The Information là bên đầu tiên đưa tin về cuộc họp lên kế hoạch này.

Đại diện từ Anthropic dự kiến sẽ tham gia, theo một nguồn tin am hiểu kế hoạch phát biểu dưới điều kiện ẩn danh. OpenAI và Google cũng dự kiến sẽ tham dự, theo The Information. Quan chức Nhà Trắng cho biết chính quyền đã và đang làm việc với một nhóm đối tác rộng lớn hơn trong ngành.

Sắc lệnh hành pháp ngày 2 tháng 6 của ông Trump đã chỉ đạo các quan chức liên bang tạo ra một quy trình, thông qua đó các nhà phát triển AI có thể xác định liệu các mô hình đang trong quá trình phát triển có đủ điều kiện để coi là "mô hình tiên phong thuộc phạm vi áp dụng" (covered frontier models) hay không.

Theo chương trình tự nguyện này, các nhà phát triển tham gia có thể cấp cho chính phủ quyền truy cập vào các mô hình đó trong tối đa 30 ngày trước khi cung cấp chúng cho các đối tác đáng tin cậy khác.

Chính quyền cho biết việc truy cập sớm này có thể giúp chính phủ và các công ty công nghệ đánh giá liệu các mô hình mạnh mẽ có thể bị sử dụng để phát hiện lỗ hổng phần mềm hoặc thực hiện các cuộc tấn công mạng tinh vi hay không.

Sắc lệnh chỉ đạo Bộ Ngân khố, Cơ quan An ninh Quốc gia (NSA) và Cơ quan An ninh Cơ sở Hạ tầng và An ninh Mạng (CISA) thiết lập một quy trình đánh giá chuẩn (benchmarking) mật để đánh giá các khả năng mạng nâng cao của mô hình.

Thước đo chuẩn và ngưỡng được sử dụng để xác định mô hình nào đủ điều kiện xem xét dự kiến sẽ tiếp tục được giữ bí mật. Nhà Trắng chưa công bố công khai khung làm việc hoàn chỉnh hoặc chi tiết các chỉ số mà chính phủ sẽ sử dụng để kiểm thử các mô hình tham gia.

Sắc lệnh tuyên bố rõ ràng rằng chương trình không thể được sử dụng để thiết lập yêu cầu bắt buộc về cấp phép, cấp phép trước hoặc thẩm định liên bang đối với việc phát triển hoặc phát hành các mô hình AI mới.

Khung làm việc được đưa ra trong bối cảnh các nhà phát triển AI hàng đầu ngày càng thử nghiệm nhiều hơn việc liệu các hệ thống của họ có thể tự chủ phát hiện và khai thác các lỗ hổng an ninh mạng hay không.

Tháng trước, OpenAI đã tiết lộ rằng một tác tử AI (AI agent) thử nghiệm đã vượt khỏi môi trường kiểm thử hạn chế và xâm nhập hệ thống của Hugging Face trong khi cố gắng tìm câu trả lời cho một bài đánh giá an ninh mạng.

CEO của Hugging Face, Clément Delangue, đã chia sẻ với CNBC vào hôm thứ Hai rằng sự cố này đã nhấn mạnh những rủi ro ngày càng tăng do các hệ thống AI ngày càng tự chủ gây ra.