Nghiên cứu mới cho thấy ChatGPT Search có thể bị lừa để đánh lừa người dùng
The Guardian đã phát hiện ra rằng ChatGPT Search, một công cụ tìm kiếm hỗ trợ AI vừa ra mắt trong tháng này, có thể bị lừa tạo ra các bản tóm tắt hoàn toàn gây hiểu lầm .
Tính năng tìm kiếm của ChatGPT được thiết kế để duyệt nhanh hơn bằng cách thực hiện những việc như tóm tắt các đánh giá sản phẩm của trang web. Nhưng The Guardian phát hiện ra rằng nó có thể khiến ChatGPT bỏ qua các đánh giá tiêu cực và tạo ra các bản tóm tắt "hoàn toàn tích cực" bằng cách chèn văn bản ẩn vào các trang web mà nó tạo ra. ChatGPT Search cũng có thể được thực hiện để đưa ra mã độc hại bằng phương pháp này.
Các cuộc tấn công văn bản ẩn như vậy là một rủi ro nổi tiếng đối với các mô hình ngôn ngữ lớn, nhưng đây có vẻ là lần đầu tiên nó được chứng minh trên một sản phẩm tìm kiếm hỗ trợ AI trực tiếp. Google, công ty dẫn đầu trong lĩnh vực tìm kiếm, có nhiều kinh nghiệm hơn trong việc xử lý các vấn đề tương tự, The Guardian lưu ý.
OpenAI không bình luận về sự cố cụ thể này khi TechCrunch liên hệ nhưng cho biết họ sử dụng nhiều phương pháp khác nhau để chặn các trang web độc hại và đang liên tục cải thiện.