YouTube giảm phụ thuộc vào AI trong kiểm duyệt nội dung

Trong cuộc phỏng vấn với tờ Financial Times, Neal Mohan, giám đốc phụ trách sản phẩm của YouTube nói công ty đang giao lại công việc kiểm duyệt nội dung cho nhân viên, thay vì máy móc.

Theo Mashable, khi dịch Covid-19 bùng nổ, YouTube đã phải cắt giảm nhân sự và khối lượng công việc tại văn phòng của các vị trí kiểm duyệt viên. Thay vì dựa vào 10.000 người, công ty đã nới rộng quyền kiểm duyệt nội dung cho các hệ thống trí tuệ nhân tạo (AI) tự động, có khả năng nhận diện video chứa nội dung nguy hại và xóa chúng ngay lập tức.

Kết quả, khoảng 11 triệu video đã bị xóa trong khoảng thời gian từ tháng 4 đến tháng 6 - con số cao hơn bình thường. Tuy nhiên, hệ thống AI của YouTube đã mắc lỗi "quá thận trọng", khiến nhiều video không vi phạm vẫn bị gỡ bỏ.

Dịch Covid-19 đã khiến YouTube mạnh tay trao phần lớn quyền kiểm duyệt nội dung cho AI

Financial Times nói YouTube đã phải đảo ngược lại những quyết định kiểm duyệt đối với khoảng 160.000 video. Thông thường, ít hơn 25% các kháng cáo sẽ được YouTube làm vậy; nhưng dưới quyền kiểm duyệt của AI thì con số đó trở thành 50%.

Mohan chia sẻ công ty đã lường trước được số lượng video bị gỡ bỏ sẽ tăng lên, nhưng vẫn tiến hành, vẫn sẵn sàng để các lỗi kiểm duyệt xảy ra, với mục đích đảm bảo người dùng của nền tảng được bảo vệ khỏi nội dung xấu.

Hiện tại, YouTube đã có thể giao lại một số công việc kiểm duyệt cho nhân viên để đưa ra các quyết định hợp tình hợp lý hơn.

Châu Anh (Theo Mashable)