OpenAI triển khai tính năng dự đoán tuổi trên ChatGPT để bảo vệ người dùng vị thành niên. Cách thức hoạt động ra sao?

ChatGPT bắt đầu áp dụng hệ thống dự đoán độ tuổi người dùng nhằm tự động tăng cường các biện pháp an toàn cho nhóm dưới 18 tuổi, trong bối cảnh OpenAI mở rộng quyền truy cập nội dung cho người dùng trưởng thành.

ChatGPT triển khai tính năng dự đoán độ tuổi người dùng(Ảnh tư liệu/AFP)

OpenAI đang giới thiệu một hệ thống dự đoán độ tuổi mới trên ChatGPT, nhằm xác định liệu một tài khoản có khả năng thuộc về người dùng dưới 18 tuổi hay không. Từ đó, công ty có thể điều chỉnh các biện pháp bảo vệ phù hợp và mang lại trải nghiệm an toàn hơn cho thanh thiếu niên.

Cốt lõi của hệ thống này là việc sử dụng công nghệ học máy để đưa ra ước đoán có cơ sở về khả năng người dùng là trẻ vị thành niên. Nếu được xác định như vậy, các lớp bảo vệ bổ sung sẽ tự động được kích hoạt.

OpenAI áp dụng các hạn chế mới liên quan đến độ tuổi: Cơ chế vận hành

Theo OpenAI, mô hình dự đoán độ tuổi phân tích sự kết hợp giữa các tín hiệu hành vi và thông tin ở cấp độ tài khoản. Những yếu tố này bao gồm thời gian tồn tại của tài khoản, khung giờ hoạt động điển hình, mô hình sử dụng và độ tuổi mà người dùng đã khai báo (nếu có).

Công ty nhấn mạnh rằng mô hình không dựa trên dữ liệu cá nhân nhạy cảm, mà học hỏi từ các xu hướng tổng quát đã được ẩn danh.

Bài đăng của Chat GPT trên nền tảng X

Khi mô hình dự đoán rằng một tài khoản có khả năng thuộc về người dưới 18 tuổi, ChatGPT sẽ tự động kích hoạt chế độ an toàn nghiêm ngặt hơn, nhằm giảm thiểu việc tiếp xúc với các nội dung có thể gây hại hoặc nhạy cảm. Những nội dung bị hạn chế bao gồm bạo lực đồ họa, hình ảnh máu me, các “thử thách” lan truyền trên mạng có thể khuyến khích hành vi rủi ro, cũng như mọi hình thức nhập vai mang tính tình dục hoặc bạo lực.

Ngoài ra, các nội dung mô tả hành vi tự làm hại bản thân, tôn vinh chuẩn mực cơ thể không lành mạnh, chế độ ăn kiêng cực đoan hoặc khuyến khích miệt thị ngoại hình cũng sẽ bị chặn.

Khung chính sách đứng sau các hạn chế này được xây dựng dựa trên nghiên cứu về sự phát triển của trẻ em và ý kiến từ các chuyên gia, thừa nhận rằng thanh thiếu niên có cách tiếp nhận rủi ro, kiểm soát xung động và chịu ảnh hưởng từ bạn bè khác với người trưởng thành.

OpenAI cho biết, trong những trường hợp không chắc chắn về độ tuổi của người dùng, hệ thống sẽ ưu tiên trải nghiệm an toàn hơn thay vì mạo hiểm.

Đối với thanh thiếu niên đã sử dụng ChatGPT, các hàng rào bảo vệ này không hoàn toàn mới. Những người dùng khai báo dưới 18 tuổi khi đăng ký vốn đã được cung cấp trải nghiệm được điều chỉnh với các bộ lọc nội dung bổ sung. Tuy nhiên, mô hình dự đoán độ tuổi mới giúp mở rộng và áp dụng các biện pháp bảo vệ này một cách đồng bộ và nhất quán hơn.

Phụ huynh cũng có thể tùy chỉnh trải nghiệm ChatGPT của con em mình thông qua các công cụ kiểm soát của cha mẹ, bao gồm thiết lập “giờ yên lặng” khi ChatGPT không thể truy cập, giới hạn các tính năng như bộ nhớ và huấn luyện mô hình, cũng như nhận cảnh báo nếu hệ thống phát hiện dấu hiệu căng thẳng nghiêm trọng.

Lộ trình triển khai

OpenAI cho biết việc triển khai hệ thống dự đoán độ tuổi hiện đã bắt đầu đối với người dùng ChatGPT trên các gói dịch vụ dành cho cá nhân. Công ty sẽ theo dõi chặt chẽ hiệu quả vận hành và sử dụng dữ liệu thu được để cải thiện độ chính xác theo thời gian.

Tại Liên minh châu Âu (EU), tính năng này dự kiến sẽ được triển khai trong những tuần tới nhằm đáp ứng các yêu cầu về quyền riêng tư và an toàn theo quy định của khu vực.