Mặt tối đáng sợ của AI: Chatbot xAI của Elon Musk bị kiện vì tiếp tay tạo tài liệu lạm dụng trẻ em

Một người phụ nữ với bí danh Jane Doe 4 đã chính thức tham gia vào vụ kiện do ba thanh thiếu niên tại bang Tennessee đệ trình nhằm vào công ty xAI của tỷ phú Elon Musk. Vụ kiện xoay quanh vai trò bị cáo buộc của chatbot Grok trong việc tạo ra các tài liệu lạm dụng tình dục trẻ em.

Nguồn ảnh: Jonathan Raa/NurPhoto / Getty Images

Theo một báo cáo trên tờ The Washington Post, người phụ nữ này cáo buộc rằng cha dượng của cô đã sử dụng Grok để thao túng một bức ảnh được chụp khi cô mới 11 tuổi, từ đó tạo ra hơn 7.000 hình ảnh đồi trụy của chính cô. Nạn nhân cũng cho biết cha dượng của cô đã được phát hiện tử vong do tự sát chỉ hai ngày sau khi những hình ảnh này bị phơi bày trong một cuộc đột kích của cơ quan thực thi pháp luật.

"Khả năng tiếp cận không giới hạn vào những công cụ này đang lan rộng quá nhanh," người phụ nữ chia sẻ. "Nó đang đánh cắp những khoảnh khắc của cuộc sống đời thường và biến chúng thành tài liệu lạm dụng tình dục trẻ em."

Nhóm thanh thiếu niên đệ đơn kiện trước đó đã cáo buộc xAI (hiện là một phần của SpaceX) vì đã không áp dụng các biện pháp phòng ngừa cơ bản nhằm ngăn chặn chatbot Grok bị lợi dụng để tạo ra các hình ảnh nhạy cảm của những cá nhân có thật, bao gồm cả trẻ vị thành niên. (Hồi đầu năm nay, nền tảng X từng bị nhấn chìm bởi hàng triệu hình ảnh mang tính dục hóa do chính Grok tạo ra.) Hiện tại, các nguyên đơn đang nỗ lực đệ trình để vụ việc được công nhận là một vụ kiện tập thể (class action).

TechCrunch đã liên hệ với xAI để yêu cầu bình luận về sự việc.

Nếu bạn đang đối mặt với khủng hoảng tâm lý hoặc có ý định tự sát, hãy gọi điện hoặc nhắn tin đến số 988 để kết nối với Đường dây nóng Ngăn chặn Tự sát và Khủng hoảng 988 (988 Suicide and Crisis Lifeline).