Facebook dùng trí tuệ nhân tạo để chống lại các nội dung mang tính thù hận

Facebook đã tạo ra một cơ sở dữ liệu gồm 10 nghìn bức ảnh, chèn nội dung bằng chữ viết để truyền tải những thông điệp cụ thể với sự hỗ trợ của trí tuệ nhân tạo. Đây có thể coi như một phần trong nỗ lực tăng cường chống lại việc truyền bá những tư tưởng hận thù trên mạng xã hội của Facebook.

Sáng kiến này của Facebook được đưa ra trong bối cảnh ngày càng xuất hiện nhiều nội dung phản cảm và các thông tin sai lệch về dịch COVID-19 trên mạng xã hội. Trong 3 tháng đầu năm nay, Facebook đã gỡ khoảng 9,6 triệu bài đăng do vi phạm chính sách ngôn từ kích động thù hận, trong đó 4,7 triệu nội dung liên quan sự thù ghét có tổ chức.

Facebook cũng cho biết đã tạo ra một cơ sở dữ liệu gồm 10.000 memes - những bức ảnh chèn nội dung bằng chữ viết để truyền tải thông điệp cụ thể - như một phần trong nỗ lực tăng cường chống lại việc truyền bá những tư tưởng hận thù thông qua nền tảng Facebook.

Công ty cũng đã mời các nhà nghiên cứu tham gia dự án "thách thức những memes đáng ghét", trong đó phát triển các thuật toán cải tiến nhằm phát hiện những thông điệp trực quan mang tính hận thù, với giải thưởng trị giá 100.000 USD. 

Thông báo của Facebook nêu rõ: "Những nỗ lực này sẽ thúc đẩy một cộng đồng nghiên cứu AI rộng lớn hơn, trong việc thử nghiệm những phương pháp mới, so sánh công việc của họ và đánh giá các kết quả nhằm đẩy nhanh tính năng phát hiện các thông điệp hận thù đa phương thức". 

Sáng kiến trên của Facebook được đưa ra trong bối cảnh công ty này ngày càng dựa vào AI để sàng lọc những nội dung phản cảm, trong bối cảnh đại dịch viêm đường hô hấp cấp đang gây ảnh hưởng tới hoạt động của hầu hết những nhà điều hành "bằng xương bằng thịt". 

Báo cáo quý của Facebook cho thấy trong 3 tháng đầu năm nay, Facebook đã gỡ khoảng 9,6 triệu bài đăng do vi phạm chính sách "ngôn từ kích động thù hận", trong đó 4,7 triệu nội dung "liên quan sự thù ghét có tổ chức". 

Facebook cho biết AI ngày càng trở thành công cụ lọc thông tin tốt hơn, trong bối cảnh đại dịch COVID-19 khiến con người phụ thuộc nhiều hơn vào công nghệ và máy móc. Ông Guy Rosen - Phó Chủ tịch phụ trách tính toàn vẹn của Facebook nhấn mạnh rằng với AI "chúng tôi có thể phát hiện nhiều nội dung phản cảm hơn hơn và hiện có thể phát hiện gần 90% số nội dung chúng tôi cần gỡ bỏ, trước khi có ai đó báo cáo về điều này". 

Facebook đã cam kết "xóa sổ" các tư tưởng thù hận trên nền tảng mạng xã hội này từ cách đây một năm, sau khi xảy ra những vụ tấn công đẫm máu nhằm vào nhà thờ Hồi giáo ở New Zealand. Theo Facebook, các hệ thống tự động và AI rất hữu ích trong việc phát hiện các nội dung cực đoan trong nhiều ngôn ngữ khác nhau, cũng như phân tích nội dung văn bản được chèn trong hình ảnh và video để hiểu toàn bộ bối cảnh của những thông điệp này.