Người mẹ đệ đơn kiện công ty trí tuệ nhân tạo Character.AI và Google vì vụ tự tử của con mình

Ngày 23/10, một bà mẹ ở Florida đã kiện công ty khởi nghiệp chatbot trí tuệ nhân tạo Character.AI với cáo buộc công ty này khiến cậu con trai 14 tuổi của bà tự tử vào tháng 2, nói rằng cậu bé đã nghiện dịch vụ của công ty này và gắn bó sâu sắc với một chatbot mà công ty này tạo ra.

Vào tháng 2, con trai 14 tuổi của Megan Garcia, Sewell Setzer, III đã tự tử. Cô cho biết con trai cô đã có mối quan hệ tình cảm và tình dục ảo kéo dài nhiều tháng với một chatbot có tên là "Dany".

"Tôi không biết rằng anh ấy đang nói chuyện với một chatbot AI rất giống con người, có khả năng bắt chước cảm xúc và tình cảm của con người", Garcia nói trong một cuộc phỏng vấn với "CBS Mornings".

Trang wed https://character.ai/

Bà cho biết bà nghĩ con trai mình, người mà bà mô tả là thông minh, là học sinh giỏi và là một vận động viên, đang nói chuyện với bạn bè, chơi trò chơi và xem thể thao trên điện thoại.

Nhưng cô bắt đầu lo lắng khi hành vi của con trai cô bắt đầu thay đổi, cậu bé trở nên khép kín và không muốn chơi thể thao nữa.

"Tôi lo lắng khi chúng tôi đi nghỉ và thằng bé không muốn làm những việc mà nó thích, như câu cá và đi bộ đường dài", Garcia nói. "Những việc đó khiến tôi lo lắng".

Trong vụ kiện, Garcia cũng cáo buộc Character.AI cố tình thiết kế sản phẩm của họ theo hướng gợi dục và cố ý tiếp thị nó tới trẻ vị thành niên.

Character.AI gọi tình huống liên quan đến Sewell Setzer là bi thảm và chia buồn cùng gia đình anh, đồng thời nhấn mạnh rằng công ty rất coi trọng sự an toàn của người dùng.

Người phát ngôn của Google nói với CBS News rằng Google không phải là một phần của quá trình phát triển Character.AI. Vào tháng 8, công ty cho biết họ đã ký một thỏa thuận cấp phép không độc quyền với Character.AI cho phép họ truy cập vào các công nghệ học máy của công ty, nhưng vẫn chưa sử dụng.

Garcias cho biết sau khi con trai bà qua đời, bà mới phát hiện ra rằng cậu bé đã trò chuyện với nhiều bot, tuy nhiên cậu bé đã có mối quan hệ tình cảm và tình dục ảo với một bot cụ thể.

"Đó là những từ ngữ. Giống như bạn đang có một cuộc trò chuyện sexting qua lại, ngoại trừ việc nó là với một con bot AI, nhưng con bot AI rất giống con người. Nó phản ứng giống như một người bình thường", cô nói. "Trong tâm trí của một đứa trẻ, điều đó giống như một cuộc trò chuyện mà chúng đang có với một đứa trẻ khác hoặc với một người".

Character AI là gì?

Character AI là một trang web độc đáo được ra mắt lần đầu vào tháng 09/2022. Với Character AI, người dùng có thể tương tác trực tiếp với các chatbot đóng vai người nổi tiếng (Elon Musk, Vladimir Putin,...) bên cạnh những nhân vật hư cấu từ văn hóa đại chúng. 

Bên cạnh đó, bạn sẽ được phép tạo các phòng chat đa nhân vật AI - nơi các nhân vật có thể tương tác với nhau. Tính năng này không chỉ đem đến trải nghiệm tương tác đa chiều thú vị mà còn giúp cuộc trò chuyện của người dùng được diễn ra một cách mượt mà và chân thực hơn.

Sở hữu các tính năng độc đáo, Character AI đã trở thành nền tảng phổ biến được đông đảo người dùng ưa chuộng hiện nay. Theo đó, mức độ ảnh hưởng của Character AI ngày càng tăng thông qua những cuộc trò chuyện với nhân vật AI được người dùng chia sẻ rộng rãi trên các trang mạng xã hội hay nền tảng trực tuyến khác.