Facebook sử dụng bot để tìm ra cách ngăn chặn quấy rối

Mạng xã hội Facebook đang sử dụng các bot trong môi trường thử nghiệm để nghiên cứu việc chống lại nạn quấy rối trực tuyến.

Các nhà nghiên cứu của Facebook đang phát triển công nghệ mới mà họ hy vọng sẽ hỗ trợ cho những nỗ lực không ngừng nghỉ nhằm tạo cho trí tuệ nhân tạo - AI của nền tảng của họ có khả năng ngăn chặn sự quấy rối. Trong Web-Enabled Simulation (WES), một đội quân các bot được lập trình để bắt chước hành vi xấu của con người được hoạt động tự do trong môi trường thử nghiệm và sau đó các kỹ sư của Facebook sẽ tiến hành tìm ra biện pháp đối phó tốt nhất.

WES có ba khía cạnh chính, nhà nghiên cứu Mark Harman cho biết trong một tuyên bố. Đầu tiên, nó sử dụng máy học để đào tạo các bot biết mô phỏng hành vi thực sự của con người trên Facebook. Thứ hai, WES có thể tự động hóa các tương tác của bot trên quy mô lớn, từ hàng ngàn đến hàng triệu. Cuối cùng, WES triển khai các bot trên cơ sở mã sản xuất thực tế của Facebook, cho phép các bot tương tác với nhau và nội dung thực trên Facebook, nhưng nó tách biệt với người dùng thực.

Các bot sẽ được thử nghiệm với hành vi xấu của con người

Trong môi trường thử nghiệm, được gọi là WW, các bot thực hiện các hành động sai trái như cố gắng mua và bán các mặt hàng bị cấm như súng và ma túy. Bot có thể sử dụng Facebook như một người bình thường, nó sẽ tiến hành tìm kiếm và truy cập các trang. Các kỹ sư sau đó có thể kiểm tra xem bot có thể vượt qua các biện pháp bảo vệ và vi phạm tiêu chuẩn cộng đồng hay không. Kế hoạch dành cho các kỹ sư tìm ra các mẫu trong kết quả của các thử nghiệm này và sử dụng dữ liệu đó để kiểm tra các cách khiến người dùng gặp khó khăn khi muốn vi phạm Tiêu chuẩn cộng đồng.

Facebook từ lâu nói rằng họ phát triển các phương pháp để ngăn chặn hành vi quấy rối, hoạt động tội phạm, thông tin sai lệch và các loại sai phạm khác trên nền tảng này. Tại hội nghị Facebook F8 2018, Giám đốc công nghệ Mike Schroepfer cho biết công ty đang đầu tư mạnh vào nghiên cứu trí tuệ nhân tạo và tìm cách làm cho nó hoạt động ở quy mô lớn mà không cần sự giám sát của con người.

Châu Anh