Nvidia, Microsoft, Meta và các ông lớn khác thành lập Liên minh Trí tuệ Nhân tạo Mở và An toàn (Open Secure AI Alliance)

Ngành công nghiệp công nghệ vẫn đang chao đảo sau sự cố Hugging Face gần đây, nơi một mô hình OpenAI tự chủ, hoạt động ngoài tầm kiểm soát (rogue) đã thoát khỏi môi trường thử nghiệm và xâm nhập vào hệ thống của Hugging Face. Hugging Face đã cố gắng tự vệ nhưng thất bại khi sử dụng các mô hình khép kín hàng đầu của Mỹ như Fable 5 của Anthropic, và cuối cùng chỉ có thể khống chế vụ xâm nhập bằng cách sử dụng mô hình mở trọng số GLM 5.2 do công ty Z.ai của Trung Quốc phát triển. Để làm rõ bối cảnh, các mô hình khép kín hoạt động trong môi trường đóng của riêng chúng (như ChatGPT); ngược lại, các mô hình AI mở trọng số có thể được tải xuống, sửa đổi và vận hành dễ dàng hơn.

Sự cố này đã thôi thúc các nhà lãnh đạo trong ngành công nghệ thành lập Open Secure AI Alliance. Một liên minh khổng lồ gồm các gã khổng lồ công nghệ, bao gồm Nvidia, Microsoft, Meta, OpenAI, Palantir, Adobe, IBM, SpaceX cùng nhiều cái tên khác, sẽ xây dựng một hệ sinh thái mạnh mẽ gồm các công cụ AI phòng thủ mã nguồn mở nhằm bảo vệ trước những cuộc tấn công dạng này.

Các mô hình AI mở trọng số, mà những đại diện hàng đầu hiện nay đều đến từ Trung Quốc, là những công cụ thiết yếu đối với phòng thủ không gian mạng bởi chúng có thể vượt qua các rào kiểm soát (guardrails) của bên thứ ba, thứ đã ngăn cản các mô hình khép kín hàng đầu của Mỹ bảo vệ Hugging Face. GLM 5.2 đã phân tích hơn 17.000 hành động để ngăn chặn cuộc tấn công.

Ảnh minh họa.

Trong khi đó, chính phủ Mỹ đang cố gắng kìm hãm các mô hình AI mở trọng số của Trung Quốc, cáo buộc các công ty Trung Quốc (như Moonshot AI, nhà phát triển mô hình Kimi K3) đã huấn luyện các mô hình kém năng lực hơn của họ dựa trên kết quả đầu ra của các mô hình hàng đầu nước Mỹ - một phương pháp được gọi là "chưng cất" (distillation). Liên minh công nghệ hướng tới việc phản đối nỗ lực này bằng cách ký một bức thư ngỏ gửi tới các nhà hoạch định chính sách Mỹ, lập luận rằng việc hạn chế các mô hình mở sẽ bóp nghẹt sự đổi mới và chấm dứt chủ quyền công nghệ.