Open Secure AI Alliance là gì? Bước đi mới nhất của Nvidia trên mặt trận an ninh AI

Nvidia vừa ra mắt Open Secure AI Alliance (Liên minh Trí tuệ Nhân tạo Mở và An toàn), quy tụ các công ty công nghệ lớn nhằm phát triển các công cụ an ninh mạng và an toàn AI mở.

Liên minh này hướng đến việc xây dựng và chia sẻ các công cụ AI mã nguồn mở nhằm tăng cường cơ sở hạ tầng phần mềm và kỹ thuật số. (Ảnh: Express Image/Nvidia).

Giữa bối cảnh cuộc tranh luận xoay quanh các mô hình AI mở trọng số (open-weight AI models) vẫn đang tiếp diễn, vào thứ Hai (ngày 27/7), Nvidia đã tuyên bố ra mắt Open Secure AI Alliance, một liên minh gồm các công ty công nghệ sẽ cùng nhau phát triển và chia sẻ các công cụ đảm bảo an toàn AI cũng như an ninh mạng. Thông báo này được đưa ra chỉ vài ngày sau sự cố bảo mật tại Hugging Face liên quan đến các tác nhân AI của OpenAI, làm dấy lên những lo ngại mới về rủi ro từ các hệ thống AI tự chủ.

Liên minh này chính thức đi vào hoạt động với hơn 35 đối tác sáng lập hoạt động trong các lĩnh vực AI, an ninh mạng, phần mềm doanh nghiệp, điện toán đám mây và công nghệ mã nguồn mở. Nvidia cũng là một trong số 25 công ty công nghệ vừa ký vào một bức thư ngỏ thúc giục chính quyền Mỹ xem xét lại lập trường đối với các mô hình AI mở trọng số.

Tại sao Nvidia đặt cược vào an ninh AI mở

Liên minh đặt mục tiêu xây dựng và chia sẻ các công cụ AI mở nhằm củng cố phần mềm và cơ sở hạ tầng kỹ thuật số. Các thành viên của liên minh bao gồm NVIDIA, Microsoft, IBM, Cisco, Dell Technologies, Adobe, CrowdStrike, Palo Alto Networks, Salesforce, SAP, Linux Foundation, Hugging Face cùng hàng chục tổ chức khác đang hoạt động trong lĩnh vực công nghệ doanh nghiệp, an ninh mạng và nghiên cứu AI.

Lập luận cốt lõi của liên minh rất đơn giản. Các chuyên gia phòng thủ không gian mạng cần những hệ thống AI mà cấu trúc vận hành bên trong có thể được kiểm tra, thay vì các mô hình "hộp đen" mờ ám. Lý do là các mô hình khép kín, dù tiên tiến và có năng lực đến đâu, cũng không phải lúc nào cũng phân biệt được giữa một kẻ tấn công và một chuyên gia phòng thủ đang điều tra chính hệ thống của họ. Sự mơ hồ này thường trở thành rào cản khi tốc độ ứng phó là yếu tố sống còn.

Có lẽ động lực lớn nhất thúc đẩy sự ra đời của liên minh chính là sự cố bảo mật gần đây tại Hugging Face. Khi các công cụ AI khép kín cản trở quá trình điều tra vụ xâm nhập, Hugging Face đã sử dụng một mô hình mở trọng số trên chính hệ thống của mình để phân tích hơn 17.000 hành động và kiểm soát tình hình. Đối với những nhà sáng lập liên minh, đó là bằng chứng quá đủ để thấy rằng một hệ thống AI mở, có thể kiểm tra được không chỉ là một sự lựa chọn ưu tiên mà còn là một yêu cầu mang tính bắt buộc trong vận hành, đặc biệt là khi các chuyên gia phòng thủ cần hành động nhanh chóng và tin tưởng tuyệt đối vào công cụ họ đang nắm trong tay.

Liên minh này được hậu thuẫn bởi các dự án bảo mật mã nguồn mở hiện có, bao gồm những nỗ lực của Linux Foundation và cộng đồng OpenSSF, đồng thời coi an ninh mạng là một trong những lĩnh vực trọng yếu có thể hưởng lợi từ phương pháp tiếp cận mã nguồn mở. Thay vì so sánh AI mở và AI khép kín, liên minh định vị cả hai như những yếu tố bổ trợ cho nhau. Điều này có nghĩa là các mô hình tiên phong khép kín vẫn có vai trò riêng, nhưng các công cụ và mô hình mở sẽ cho phép một vòng kết nối rộng lớn hơn các chuyên gia phòng thủ tham gia thử nghiệm, tinh chỉnh và triển khai các biện pháp bảo vệ mà không phải phụ thuộc vào một số ít các nhà cung cấp mờ ám.

Chia sẻ bộ máy đảm bảo an toàn

Trên thực tế, điều đó có nghĩa là các công ty không chỉ chia sẻ các mô hình AI; họ còn chia sẻ toàn bộ bộ máy đảm bảo an toàn xoay quanh chúng, chẳng hạn như các hệ thống xác minh danh tính người dùng công cụ AI, kiểm soát những gì AI được phép làm và lưu giữ hồ sơ về các hành động của nó.

Một vài ví dụ điển hình ban đầu: NVIDIA đã công bố nghiên cứu nhằm giúp xây dựng các bộ khung AI (AI harnesses) an toàn hơn, đóng vai trò như những rào kiểm soát bao quanh một mô hình. HPE đang đóng góp các công cụ giúp xác minh danh tính của một hệ thống AI trước khi nó được phép truy cập vào các tài nguyên nhạy cảm. Hugging Face đã chia sẻ một phương pháp lưu trữ mô hình AI an toàn hơn để chúng không thể bị lợi dụng nhằm lén lút chạy mã độc. IBM và Red Hat đang hỗ trợ xác minh rằng các bản cập nhật phần mềm không bị can thiệp trái phép. Microsoft đã tạo ra một công cụ sử dụng nhiều tác nhân AI để săn lùng các lỗ hổng có thể bị khai thác. Và SpaceXAI đã mở mã nguồn một trong những công cụ lập trình AI của hãng, với kế hoạch tiến tới thực hiện điều tương tự cho các mô hình Grok.

Liên minh đang hối thúc các nhà hoạch định chính sách không coi các hệ thống AI mở chứa đựng nhiều rủi ro cố hữu hơn so với các hệ thống khép kín. Nhóm này lập luận rằng các lệnh hạn chế toàn diện đối với các mô hình tiên phong mở sẽ chỉ trao thêm quyền lực cho một số ít nhà cung cấp hệ thống khép kín, và trên thực tế có thể làm thu hẹp nguồn nhân lực có khả năng bảo vệ các hệ thống trọng yếu. Thay vào đó, liên minh đang kêu gọi các khoản đầu tư công và tư nhân vào cơ sở hạ tầng phòng thủ dùng chung, chẳng hạn như các bộ dữ liệu, khuôn khổ đánh giá, trình mô phỏng tấn công và các công cụ kiểm thử bảo mật (red-teaming).