OpenAI xác nhận kẻ tấn công sử dụng ChatGPT để viết phần mềm độc hại

OpenAI đã ngăn chặn hơn 20 hoạt động mạng độc hại bằng cách lợi dụng chatbot hỗ trợ AI, ChatGPT, để gỡ lỗi và phát triển phần mềm độc hại, phát tán thông tin sai lệch, trốn tránh phát hiện và thực hiện các cuộc tấn công lừa đảo.

Báo cáo tập trung vào các hoạt động kể từ đầu năm, là xác nhận chính thức đầu tiên rằng các công cụ AI chính thống được sử dụng để tăng cường các hoạt động tấn công mạng.

Những dấu hiệu đầu tiên của hoạt động này đã được Proofpoint báo cáo vào tháng 4, nghi ngờ TA547 (hay còn gọi là "Scully Spider") triển khai trình tải PowerShell do AI viết cho phần mềm đánh cắp thông tin Rhadamanthys.

Tháng trước, các nhà nghiên cứu tại HP Wolf đã báo cáo với độ tin cậy cao rằng tội phạm mạng nhắm vào người dùng Pháp đang sử dụng các công cụ AI để viết các tập lệnh được sử dụng như một phần của chuỗi lây nhiễm nhiều bước.

Báo cáo mới nhất của OpenAI xác nhận việc lạm dụng ChatGPT, nêu ra các trường hợp tác nhân đe dọa từ Trung Quốc và Iran lợi dụng công cụ này để nâng cao hiệu quả hoạt động của chúng.

Sử dụng ChatGPT trong các cuộc tấn công thực tế

Tác nhân đe dọa đầu tiên được OpenAI nêu tên là "SweetSpecter", một đối thủ người Trung Quốc được các nhà phân tích của Cisco Talos ghi nhận lần đầu tiên vào tháng 11 năm 2023 là một nhóm đe dọa gián điệp mạng nhắm vào các chính phủ châu Á.

OpenAI báo cáo rằng SweetSppecter đã nhắm mục tiêu trực tiếp vào họ, gửi email lừa đảo có tệp đính kèm ZIP độc hại được ngụy trang dưới dạng yêu cầu hỗ trợ đến địa chỉ email cá nhân của nhân viên OpenAI.

Nếu mở, các tệp đính kèm sẽ kích hoạt chuỗi lây nhiễm, khiến SugarGh0st RAT xâm nhập vào hệ thống của nạn nhân.

Email lừa đảo được gửi đến nhân viên OpenAI. Nguồn: Proofpoint

Sau khi điều tra sâu hơn, OpenAI phát hiện SweetSpector đang sử dụng một nhóm tài khoản ChatGPT thực hiện nghiên cứu phân tích lỗ hổng và viết tập lệnh với sự trợ giúp của công cụ LLM.

Kẻ tấn công đã sử dụng ChatGPT cho các yêu cầu sau:

Trường hợp thứ hai liên quan đến nhóm đe dọa 'CyberAv3ngers' có liên hệ với Lực lượng Vệ binh Cách mạng Hồi giáo Iran (IRGC), được biết đến với việc nhắm vào các hệ thống công nghiệp ở các địa điểm cơ sở hạ tầng quan trọng tại các nước phương Tây.

OpenAI báo cáo rằng các tài khoản liên quan đến nhóm đe dọa này đã yêu cầu ChatGPT tạo thông tin xác thực mặc định trong Bộ điều khiển logic lập trình (PLC) được sử dụng rộng rãi, phát triển các tập lệnh bash và Python tùy chỉnh và làm tối nghĩa mã.

Các tin tặc Iran cũng sử dụng ChatGPT để lập kế hoạch cho hoạt động sau khi xâm phạm, tìm hiểu cách khai thác các lỗ hổng cụ thể và chọn phương pháp đánh cắp mật khẩu người dùng trên hệ thống macOS, như được liệt kê bên dưới.

Trường hợp thứ ba được nêu bật trong báo cáo của OpenAI liên quan đến Storm-0817, cũng là tác nhân đe dọa từ Iran.

Nhóm này được cho là đã sử dụng ChatGPT để gỡ lỗi phần mềm độc hại, tạo trình thu thập dữ liệu Instagram, dịch hồ sơ LinkedIn sang tiếng Ba Tư và phát triển phần mềm độc hại tùy chỉnh cho nền tảng Android cùng với cơ sở hạ tầng chỉ huy và kiểm soát hỗ trợ, như được liệt kê bên dưới.

Phần mềm độc hại được tạo ra với sự trợ giúp của chatbot OpenAI có thể đánh cắp danh sách liên lạc, nhật ký cuộc gọi và các tệp được lưu trữ trên thiết bị, chụp ảnh màn hình, kiểm tra lịch sử duyệt web của người dùng và xác định vị trí chính xác của họ.

"Song song với đó, STORM-0817 đã sử dụng ChatGPT để hỗ trợ phát triển mã phía máy chủ cần thiết để xử lý các kết nối từ các thiết bị bị xâm phạm", báo cáo của Open AI có đoạn viết.

"Điều này cho phép chúng tôi thấy rằng máy chủ chỉ huy và kiểm soát cho phần mềm độc hại này được thiết lập trên WAMP (Windows, Apache, MySQL & PHP/Perl/Python) và trong quá trình thử nghiệm đã sử dụng tên miền stickhero[.]pro."

Tất cả tài khoản OpenAI được các tác nhân đe dọa nêu trên sử dụng đều bị cấm và các chỉ số xâm phạm liên quan, bao gồm địa chỉ IP, đã được chia sẻ với các đối tác an ninh mạng.

Mặc dù không có trường hợp nào được mô tả ở trên mang lại cho tác nhân đe dọa khả năng mới trong việc phát triển phần mềm độc hại, nhưng chúng chứng minh rằng các công cụ AI tạo sinh có thể giúp các hoạt động tấn công hiệu quả hơn đối với tác nhân ít kỹ năng, hỗ trợ chúng trong mọi giai đoạn, từ lập kế hoạch đến thực hiện.