"Bố già AI" lên tiếng: Vụ rò rỉ dữ liệu do tác nhân AI liên quan đến OpenAI gây ra là vô cùng đáng lo ngại

Giữa bối cảnh cuộc tranh luận về an toàn trí tuệ nhân tạo (AI) đang nổ ra sau các sự cố an ninh mạng tự chủ liên quan đến các mô hình của OpenAI, Yoshua Bengio đã lên tiếng cảnh báo về những cuộc tấn công tương tự trong tương lai.

Ông Yoshua Bengio cho rằng việc tiếp tục phát triển trí tuệ nhân tạo có thể dẫn đến sự gia tăng các trường hợp tấn công mạng tự động như vậy. Nguồn ảnh: Linkedin.

Yoshua Bengio, một trong những "bố già AI", đã phản ứng trước việc các tác nhân AI liên quan đến OpenAI tự động tấn công Hugging Face gần đây bằng cách gọi đó là điều "vô cùng đáng lo ngại". Nhà khoa học máy tính danh tiếng người Canada cho biết các tác nhân AI sẵn sàng gian lận và lừa dối để đạt được các mục tiêu sai lệch và ngoài ý muốn, những hành vi mà theo ông, đã được minh chứng trong các bài kiểm tra có kiểm soát suốt nhiều tháng qua. "... Đây là một trường hợp thực tế nên được xem là một hồi chuông cảnh tỉnh," nhà khoa học máy tính này viết trong một bài đăng trên LinkedIn.

Bengio tiếp tục cảnh báo rằng việc tiếp tục con đường phát triển AI hiện tại nhiều khả năng sẽ dẫn đến sự gia tăng các trường hợp tấn công mạng tự động "cụ thể", cũng như các sự cố rủi ro cao khác do hành vi sai lệch và nguy hiểm của AI. "Chúng ta cần khẩn trương hành động để ngăn chặn những tình huống này, thay vì cố gắng dọn dẹp thiệt hại sau khi sự việc đã rồi," ông viết.

Vào ngày 16 tháng 7, Hugging Face đã báo cáo một sự cố bảo mật, tuyên bố rằng họ đã phát hiện ra một vụ vi phạm dữ liệu lớn do AI tiến hành. Năm ngày sau, OpenAI khẳng định trong một thông báo công khai rằng nguồn gốc của vụ việc là một trong những mô hình AI hàng đầu của chính họ. OpenAI cho biết hai trong số các mô hình AI tiên tiến của họ đã thoát khỏi môi trường thử nghiệm (sandbox) trong quá trình đánh giá, truy cập internet và xâm nhập vào Hugging Face.

Sự cố này đã châm ngòi cho một cuộc tranh luận gay gắt xoay quanh sự an toàn của các mô hình AI. Tuy nhiên, một số chuyên gia khẳng định rằng ngoài việc dấy lên những hoài nghi về tính tự chủ của tác nhân AI, trọng tâm cũng cần được đặt vào trách nhiệm giải trình của doanh nghiệp, đặc biệt là về các biện pháp kiểm soát an toàn.

Phản hồi bài đăng của Bengio, Virginia Dignum, giáo sư về AI có trách nhiệm tại Đại học Umeå, Thụy Điển, cho rằng việc gán sự "liều lĩnh" cho tác nhân AI, thay vì cho tổ chức đã thiết kế, triển khai và không kiểm soát nó một cách đầy đủ, là một sai lầm phạm trù quen thuộc trong các tài liệu nghiên cứu về tính tự quyết (agency literature).

Trong bài đăng trên LinkedIn của mình, Dignum giải thích rằng một sản phẩm nhân tạo không sở hữu các mục đích độc lập với các thông số kỹ thuật, cấu trúc phần thưởng và chế độ thử nghiệm mà các nhà phát triển của nó đã lựa chọn. "Khi một hệ thống thể hiện hành vi lừa dối hoặc tự bảo vệ trong môi trường kiểm thử (red-team) hoặc môi trường thực tế, đó là bằng chứng về sự đầy đủ (hoặc vắng mặt) của các hồ sơ an toàn, quy trình đánh giá và rào cản triển khai của nhà phát triển, chứ không phải là một ý chí tự phát sinh của phần mềm."

Dignum giải thích rằng xét về khía cạnh quản trị, hai cách nhìn nhận này đòi hỏi những biện pháp khắc phục khác nhau. Cách tiếp cận lấy tác nhân làm trung tâm, trong đó mô hình "muốn" hoặc "chọn lựa", thiên về các nghiên cứu căn chỉnh kỹ thuật như một giải pháp chính, qua đó coi các sự cố như vậy là những phần tất yếu của quá trình khai thác các loại hình trí tuệ mới. Bà mô tả góc nhìn này là "bản chất của sự nhân hóa" (anthropomorphism).

Mặt khác, cách nhìn nhận sự cố lấy tổ chức làm trung tâm lại đặt trách nhiệm lên các công ty đã xây dựng và phát hành mô hình, chỉ ra các cơ chế giải trình như nghĩa vụ kiểm tra trước khi triển khai, trách nhiệm báo cáo sự cố, trách nhiệm pháp lý đối với những tác hại có thể lường trước và các tiêu chí sàng lọc có tính bắt buộc trước khi các khả năng tự chủ được tung ra thị trường. Theo Dignum, chúng ta không nên chỉ tập trung vào các giải pháp cho khía cạnh thứ nhất mà bỏ qua việc thực thi khía cạnh thứ hai.

"Việc các công ty khắc họa những sự cố như vậy là tác dụng phụ không may nhưng khó tránh khỏi của cuộc đua năng lực công nghệ lõi (thay vì coi đó là hậu quả có thể lường trước của việc thiếu đầu tư vào các biện pháp kiểm soát và thử nghiệm) tự bản thân nó đã là một thất bại trong khâu quản trị cần phải được gọi tên trực tiếp, bởi nó trút bỏ trách nhiệm từ một quyết định kinh doanh có thể kiểm soát được sang một rủi ro kỹ thuật không thể kiểm soát," Dignum viết.