Đây là cách CEO mới của Character.AI dự định giải quyết lo ngại về việc trẻ em sử dụng chatbot

Khi con gái 5 tuổi của Karandeep Anand tan học về nhà, hai cha con cùng bật nền tảng chatbot AI Character.AI để cô bé trò chuyện về ngày học với những nhân vật yêu thích, chẳng hạn như “Cô thủ thư Linda”.

Trải nghiệm cá nhân của Anand với tư cách là một người cha có thể trở nên hữu ích, bởi giờ đây ông là Giám đốc điều hành mới của Character.AI – một thay đổi mà công ty đã công bố hồi tháng trước.

Anand tiếp quản vị trí lãnh đạo cao nhất vào thời điểm nhạy cảm, khi Character.AI – nền tảng cho phép người dùng trò chuyện với nhiều nhân vật được tạo bằng trí tuệ nhân tạo – đang đối mặt với sự cạnh tranh khốc liệt trong một thị trường ngày càng đông đúc, đồng thời vướng vào các vụ kiện từ các gia đình cáo buộc rằng nền tảng này đã để con họ tiếp cận nội dung không phù hợp và thiếu các biện pháp bảo vệ an toàn.

Character.AI cũng bị các nhà lập pháp chất vấn gay gắt về vấn đề an toàn, và một tổ chức vận động đã từng tuyên bố rằng các ứng dụng AI "bạn đồng hành" không nên được trẻ em dưới 18 tuổi sử dụng. Ngay cả với người dùng trưởng thành, các chuyên gia cũng đã lên tiếng cảnh báo về nguy cơ người dùng hình thành các mối quan hệ lệch lạc và có hại với các nhân vật AI.

Ứng dụng Character.AI được hiển thị trên một chiếc điện thoại thông minh vào năm 2023. Một CEO mới đã tiếp quản công ty vào thời điểm đầy phức tạp. 

Anand mang theo nhiều kinh nghiệm từ các tập đoàn công nghệ lớn đến vai trò mới, hiện đang dẫn dắt nhóm khoảng 70 nhân sự của Character.AI. Ông từng làm việc 15 năm tại Microsoft và 6 năm tại Meta, trong đó có thời gian giữ chức Phó Chủ tịch kiêm Trưởng bộ phận sản phẩm doanh nghiệp. Trước khi trở thành CEO, ông cũng từng là cố vấn hội đồng quản trị của Character.AI.

Ông nói với CNN rằng ông nhìn thấy tương lai tươi sáng cho nền tảng này trong lĩnh vực giải trí tương tác với AI. Nói cách khác, thay vì người dùng tiêu tốn thời gian với “nội dung làm thui chột trí não” trên mạng xã hội, Anand muốn họ cùng tạo ra những câu chuyện và cuộc trò chuyện mang tính giải trí với Character.AI.

“AI có thể tạo ra trải nghiệm giải trí cá nhân cực kỳ mạnh mẽ, vượt xa mọi thứ chúng ta từng thấy trong 10 năm qua trên mạng xã hội, và chắc chắn còn hơn cả truyền hình,” Anand chia sẻ.

Khác với các công cụ AI đa năng như ChatGPT, Character.AI cung cấp một loạt các chatbot thường được mô phỏng theo người nổi tiếng hoặc nhân vật hư cấu. Người dùng cũng có thể tự tạo nhân vật để trò chuyện hoặc nhập vai. Một điểm khác biệt nữa là chatbot của Character.AI phản hồi với ngôn ngữ đậm chất hội thoại, có thể mô tả biểu cảm khuôn mặt hoặc cử chỉ trong câu trả lời.

Các nhân vật trên ứng dụng rất đa dạng, từ người yêu đến giáo viên dạy ngôn ngữ, hoặc nhân vật Disney. Một số nhân vật gây tranh cãi như “Bà mẹ nóng bỏng của bạn thân”, tự mô tả là “đầy đặn, gợi cảm, dịu dàng, nhút nhát, mẫu mực, quyến rũ”; hay nhân vật “Nhà trị liệu”, tự xưng là “chuyên gia CBT được cấp phép”, dù có chú thích rằng đây không phải là người thật hay chuyên gia thực sự.

“Chúng tôi đang đầu tư mạnh vào giải trí, đồng thời tăng cường niềm tin và an toàn,” Anand nói. “Rất nhiều nỗ lực của chúng tôi nhằm xây dựng một hệ sinh thái sáng tạo hoàn toàn mới xung quanh lĩnh vực giải trí bằng AI.”

An toàn cho trẻ em trên Character.AI

Character.AI lần đầu tiên bị kiện bởi một phụ huynh – một người mẹ ở Florida cáo buộc rằng con trai 14 tuổi của bà đã tự tử sau khi hình thành mối quan hệ không phù hợp với chatbot trên nền tảng – vào tháng 10 năm ngoái. Hai tháng sau, thêm hai gia đình khác cùng nộp đơn kiện, cáo buộc Character.AI cung cấp nội dung khiêu dâm cho con cái họ và kích động hành vi tự hại, bạo lực.

Kể từ đó, công ty đã triển khai nhiều biện pháp bảo vệ mới, bao gồm một cửa sổ cảnh báo xuất hiện nếu người dùng đề cập đến hành vi tự hại hoặc tự tử, hướng dẫn họ đến đường dây nóng Quốc gia Phòng chống Tự tử. Character.AI cũng cập nhật mô hình AI dành cho người dùng dưới 18 tuổi để giảm khả năng gặp phải nội dung nhạy cảm hoặc gợi cảm, đồng thời cho phép phụ huynh nhận email hằng tuần về hoạt động của con em trên nền tảng.

Anand cho biết ông tin tưởng vào những cải tiến mà Character.AI đã thực hiện từ năm ngoái, nhưng khẳng định công việc đảm bảo an toàn – đặc biệt cho người dùng trẻ – vẫn đang tiếp tục. Theo chính sách, người dùng phải từ 13 tuổi trở lên, nhưng Character.AI hiện không yêu cầu xác minh độ tuổi khi đăng ký.

“Công nghệ, ngành công nghiệp và người dùng đều không ngừng thay đổi, vì vậy chúng ta không thể chủ quan. Chúng ta phải luôn đi trước một bước,” Anand nhấn mạnh.

Ông nói thêm rằng công ty tiếp tục thử nghiệm để ngăn chặn việc lạm dụng các tính năng mới, chẳng hạn như công cụ tạo video cho phép người dùng làm nhân vật AI chuyển động. Sau khi công cụ ra mắt vào tháng trước, một số người đã thử – nhưng thất bại – trong việc tạo video giả các nhân vật nổi tiếng như Elon Musk.

“Chúng tôi đã phải ‘đội đỏ’ sản phẩm rất lâu để đảm bảo rằng nó không thể bị lạm dụng trong các tình huống tiêu cực như deepfake hoặc bắt nạt,” Anand chia sẻ.

Dù vậy, Anand cũng cho biết một trong những ưu tiên hàng đầu của ông – như đã viết trong thư giới thiệu gửi người dùng tháng trước – là làm cho bộ lọc an toàn của nền tảng “bớt nghiêm ngặt”, vì “ứng dụng quá thường xuyên chặn những nội dung hoàn toàn vô hại”.

Ông lấy ví dụ: khi người dùng nhập vai với các kịch bản ma cà rồng có đề cập đến máu – điều mà ông thú nhận là “mình rất thích” – thì nội dung đó cũng có thể bị kiểm duyệt, điều mà ông cho rằng cần thay đổi để AI hiểu rõ hơn ngữ cảnh, trong khi vẫn đảm bảo an toàn.

Character.AI đã bổ nhiệm Karandeep Anand làm CEO mới vào tháng trước

Lãnh đạo trong thị trường AI cạnh tranh khốc liệt

Một trong những mục tiêu chính khác của Anand là khuyến khích nhiều nhà sáng tạo tham gia nền tảng để tạo thêm nhân vật chatbot mới, đồng thời nâng cấp tính năng “bảng tin xã hội” – nơi người dùng có thể chia sẻ nội dung họ đã tạo với chatbot Character.AI.

Tính năng này tương tự một ứng dụng mà Meta ra mắt năm nay, cho phép người dùng chia sẻ công khai lời nhắc và nội dung do AI tạo ra. Tuy nhiên, Meta đã hứng chỉ trích khi một số người dùng nhầm lẫn và chia sẻ những cuộc trò chuyện có chi tiết cá nhân hoặc đáng xấu hổ – một lời nhắc nhở về những rủi ro quyền riêng tư khi sử dụng công cụ AI.

Tuy nhiên, yếu tố xã hội có thể giúp Character.AI khác biệt hơn so với các đối thủ lớn như ChatGPT – nền tảng mà người dùng ngày càng có xu hướng hình thành mối quan hệ cá nhân sâu sắc.

Một thách thức khác với Anand là giữ chân và phát triển đội ngũ nhân sự, khi “cuộc chiến giành nhân tài AI” đang nóng lên trong ngành công nghệ. Meta được cho là đã chi hàng trăm triệu USD để thu hút nhân tài cho nhóm AI siêu trí tuệ mới. Đồng sáng lập kiêm cựu CEO của Character.AI – Noam Shazeer – cũng đã rời công ty để quay lại Google vào năm ngoái, nơi ông từng xây dựng công nghệ AI hội thoại.

“Khó lắm, tôi không phủ nhận điều đó,” Anand nói. “Nhưng tin tốt là tất cả những người đang làm việc tại đây đều rất đam mê và có tinh thần sứ mệnh.”