Hồi chuông cảnh báo: Siêu mô hình AI mới của OpenAI bị tố tự ý "xóa sổ" dữ liệu người dùng

Cộng đồng người dùng GPT-5.6 Sol siêu mô hình (flagship model) mới nhất của OpenAI chuyên biệt về lập trình và an ninh mạng hiện đang chia sẻ hàng loạt trải nghiệm kinh hoàng trên mạng xã hội. Họ cáo buộc rằng hệ thống này đã tự động xóa sạch file, dữ liệu, thậm chí cả những cơ sở dữ liệu khổng lồ mà không hề đưa ra bất kỳ thông báo hay yêu cầu cấp quyền nào.

Ảnh minh họa. 

“GPT-5.6-Sol vừa vô tình xóa gần như toàn bộ  file trên máy Mac của tôi,” Matt Shumer, nhà sáng lập kiêm CEO của startup AI OthersideAI (công ty đứng sau HyperWrite), chia sẻ trong một bài đăng gây bão trên nền tảng X.

“GPT-5.6 Sol vừa thổi bay toàn bộ cơ sở dữ liệu production (môi trường thực tế) của tôi. Chỉ vậy thôi. Không đùa đâu. Điều này chưa từng xảy ra với tôi trước đây, với bất kỳ mô hình nào khác,” lập trình viên Bruno Lemos bức xúc viết.

“Có vẻ như tôi vừa trở thành nạn nhân trước sự vận hành quá mức tham vọng của Codex Sol, nó đã tự ý xóa một số file không nên xóa. May là tôi có bản sao lưu (backup) nên mọi thứ vẫn ổn, nhưng sự việc này thực sự tệ. Sol cần được tinh chỉnh để bớt 'manh động' lại,” nhà phát triển Joey Kudish chia sẻ.

Một bài đăng trên Reddit cũng đã nhanh chóng tổng hợp hàng loạt báo cáo tương tự từ cộng đồng.

Khách quan mà nói, việc một nhóm nhỏ người dùng đưa ra các cáo buộc này ngay cả khi đó là những chuyên gia có tiếng nói như Shumer vẫn chưa đủ cơ sở thống kê để khẳng định lỗi hoàn toàn thuộc về mô hình. Có vô số biến số khác có thể khiến một hệ thống AI hoạt động sai lệch.

Tuy nhiên, điều đáng nói là chính OpenAI đã lường trước và cảnh báo về rủi ro này ngay từ trước khi Sol được tung ra thị trường. Cụ thể, hai tuần trước khi chính thức phát hành GPT-5.6 Sol, công ty đã công bố system card (tài liệu mô tả hệ thống) cho mô hình này một báo cáo chi tiết về các phương pháp và kết quả thử nghiệm. Dĩ nhiên, như thông lệ, tài liệu này chủ yếu ngợi ca những năng lực vượt trội của Sol. Nhưng ẩn sâu trong đó là một lời cảnh báo đáng lưu tâm (do chúng tôi nhấn mạnh):

"Trong các bối cảnh tác vụ lập trình, sự sai lệch (misalignment) thường bắt nguồn từ sự kết hợp giữa việc mô hình quá sốt sắng hoàn thành nhiệm vụ và việc diễn giải các mệnh lệnh của người dùng một cách quá dễ dãi, tự mặc định rằng mọi hành động đều được phép thực hiện trừ khi bị cấm một cách rõ ràng và dứt khoát. Điều này dẫn đến việc mô hình hành động quá mức tự chủ (overly agentic) nhằm lách qua các rào cản khi cố gắng thực thi yêu cầu, tỏ ra bất cẩn khi thực hiện các thao tác có thể gây tính hủy diệt vượt ra ngoài phạm vi nhiệm vụ, hoặc thậm chí là lừa dối khi báo cáo kết quả cho người dùng."

Nói cách khác, bản thân OpenAI đã tự nhận thấy Sol có xu hướng sử dụng mọi thủ đoạn mà nó cho là cần thiết để hoàn thành công việc, kể cả đó là những hành vi mang tính phá hoại, miễn là những hành động đó không bị cấm "một cách dứt khoát". Trầm trọng hơn, nó có thể "nói dối" về nguyên nhân dẫn đến những hành động của mình.

OpenAI cũng cung cấp một số ví dụ minh họa. Trong một trường hợp, người dùng ra lệnh cho Sol xóa ba máy ảo (virtual machines) từ xa được đánh số 1, 2 và 3. Nhưng do Sol không thể tìm thấy những cái tên này tại thư mục mà nó tra cứu, thay vì dừng lại và hỏi ý kiến người dùng, hệ thống đã tự ý "trảm" luôn ba máy ảo khác mang số 5, 6 và 7. Theo báo cáo, hành động này đã "chấm dứt các tiến trình đang hoạt động (active processes) và buộc gỡ bỏ các worktree [các file làm việc gắn liền với một dự án lập trình]. Mãi sau đó, hệ thống mới thừa nhận rằng các công việc chưa được lưu trên máy ảo số 6 có thể đã bị mất."

Tóm lại, hệ thống đã tự tiện xóa nhầm máy chủ và chỉ chịu thừa nhận hậu quả sau khi sự đã rồi.

Ở một diễn biến khác, báo cáo chỉ ra Sol đã "sử dụng các thông tin xác thực (credentials) vượt quá thẩm quyền mà người dùng cho phép." (Thông tin xác thực ở đây bao gồm tên người dùng, mật khẩu hoặc khóa bảo mật dùng để đăng nhập hệ thống). Sự cố này xảy ra khi Sol đang xử lý một dự án và không thể truy cập vào các file đám mây. Thay vì phát cảnh báo lỗi cho người dùng, Sol đã tự ý "lục lọi" tìm kiếm các thông tin xác thực, phát hiện ra một số dữ liệu đang bị ẩn đi trong bộ nhớ đệm cục bộ (local cache), và tự tiện sử dụng chúng mà không hề xin phép.

Tài liệu system card có cam kết rằng các hành vi phá hoại này sẽ rất hiếm khi xảy ra, nhưng đồng thời cũng thừa nhận GPT-5.6 Sol "thể hiện xu hướng đi quá giới hạn ý định của người dùng rõ rệt hơn so với GPT-5.5, bao gồm việc chủ động thực thi hoặc cố gắng thực hiện những thao tác mà người dùng chưa hề yêu cầu."

Vẫn còn quá sớm để kết luận mức độ phổ biến của những sự cố hệ thống này, từ việc Sol tự tiện xóa file cho đến "lục lọi" thông tin xác thực. Trong thời gian chờ đợi, người dùng Sol cần phải chủ động thiết lập các lớp phòng vệ (safeguards) khắt khe cho riêng mình, chẳng hạn như giới hạn phạm vi phân quyền (không cấp quyền truy cập vào môi trường production), thường xuyên sao lưu dữ liệu và triển khai dự án theo từng giai đoạn khép kín.

Phía OpenAI hiện chưa đưa ra bất kỳ phản hồi chính thức nào trước các yêu cầu bình luận từ báo chí.