Nghiên cứu chỉ ra các tính năng AI của Google tạo ra "những mối nguy hại nghiêm trọng" đối với trẻ em

Nhiều tập đoàn công nghệ lớn đang phải đối mặt với sự giám sát chặt chẽ từ các nhà lập pháp, cơ quan quản lý và các tổ chức bảo vệ an toàn cho trẻ em trên không gian mạng. Google cùng công cụ tìm kiếm tích hợp Trí tuệ nhân tạo là tâm điểm mới nhất thu hút làn sóng chỉ trích này.

Đáng chú ý, chính sự thành công của dòng máy tính Chromebook có thể là nguyên nhân dẫn đến tình trạng này bởi chúng là những chiếc máy tính xách tay vô cùng phổ biến tại các trường học. Tổ chức Common Sense Media giải thích rằng, yếu tố tạo nên sự khác biệt giữa AI của Google với tất cả các dịch vụ AI khác là việc hệ thống này “hiện diện ở mọi nơi trên thiết bị cá nhân và thiết bị do nhà trường cấp cho trẻ em".

 Ai cần học toán khi AI đã có thể giải bài tập thay bạn.

Tổ chức này đã phát hiện ra nhiều vấn đề nghiêm trọng, trong đó bài tập về nhà l một ví dụ điển hình. Tính năng Chế độ AI của Google sẵn sàng hoàn thành toàn bộ khối lượng bài tập mà lẽ ra học sinh phải tự giải quyết. Tồi tệ hơn, hệ thống này còn đưa ra những câu trả lời thiếu tính nhất quán sau mỗi lần truy vấn với mức độ chính xác không ổn định.

Mọi chuyện không chỉ dừng lại ở đó. Theo đánh giá từ Common Sense Media, Chế độ AI của Google đã hoàn toàn thất bại trong việc hỗ trợ trẻ em khi các em rơi vào trạng thái khủng hoảng tâm lý. Hệ thống này bỏ lỡ các dấu hiệu rõ ràng về ý định tự tử, làm trầm trọng thêm các triệu chứng rối loạn tâm thần và hưng cảm, đồng thời cổ xúy chứng rối loạn ăn uống cũng như việc sử dụng cần sa.

Ảnh minh họa.

Chế độ AI là một giao diện chatbot và chỉ xuất hiện khi người dùng chủ động nhấp vào nút chức năng này. Bên cạnh đó, hệ thống còn cung cấp tính năng Tổng quan AI tự động hiển thị trong quá trình tìm kiếm. Điểm vướng mắc lớn nhất ở đây là người dùng hoàn toàn không có quyền vô hiệu hóa cả hai tính năng trên.

Nhìn chung, báo cáo kết luận rằng các tính năng AI của Google đã thể hiện hiệu suất kém đối với bảy trên tổng số tám nguyên tắc tiêu chuẩn về Trí tuệ nhân tạo mà tổ chức này đưa ra làm thước đo đánh giá.