AI bị lợi dụng: Người tiêu dùng đối mặt với "ma trận" lừa đảo trên không gian mạng

Thời gian gần đây xuất hiện nhiều nguy cơ mới đối với quyền lợi người tiêu dùng khi công nghệ Trí tuệ nhân tạo (AI) bị lợi dụng để tạo ra các nội dung giả mạo, gây nhầm lẫn hoặc lừa đảo trên không gian mạng.

AI đang bị lợi dụng để tạo ra các nội dung giả mạo, lừa đảo

Trong bối cảnh thương mại điện tử và các nền tảng số phát triển mạnh mẽ, việc ứng dụng trí tuệ nhân tạo (AI) bao gồm deepfake và các thuật toán tự động mang lại nhiều tiện ích cho hoạt động kinh doanh, quảng bá sản phẩm, kết nối người tiêu dùng và tối ưu hóa trải nghiệm trên môi trường số.

Tuy nhiên, cùng với những lợi ích đó, thời gian gần đây cũng xuất hiện nhiều nguy cơ mới đối với quyền lợi người tiêu dùng khi các công nghệ này bị lợi dụng để tạo ra các nội dung giả mạo, gây nhầm lẫn hoặc lừa đảo trên không gian mạng.

Thực tế cho thấy, các công nghệ AI hiện nay có thể tạo ra hình ảnh, video, giọng nói hoặc nội dung mô phỏng rất giống thật, khiến người tiêu dùng khó phân biệt giữa thông tin thật và thông tin giả.

Một số đối tượng đã lợi dụng công nghệ deepfake để giả mạo người nổi tiếng, chuyên gia, công an, bác sĩ nhằm quảng cáo sai sự thật, bán hàng hóa không rõ nguồn gốc, dẫn dụ người tiêu dùng tham gia các giao dịch có dấu hiệu lừa đảo. Bên cạnh đó, nhiều hình thức quảng cáo sử dụng AI còn có thể tạo ra các nội dung cắt ghép, hình ảnh “trước – sau”, lời chứng thực giả hoặc phát sóng trực tiếp (livestream) giả mạo để gây nhầm lẫn cho người tiêu dùng.

Trước thực trạng trên, nhằm tăng cường công tác bảo vệ quyền lợi người tiêu dùng trước nguy cơ lừa đảo bởi nội dung số, Ủy ban Cạnh tranh Quốc gia đã có Văn bản gửi một số nền tảng số, gồm: Shopee, Lazada, Tiktok, Zalo và Meta để đề nghị tăng cường thực thi trách nhiệm bảo vệ quyền lợi người tiêu dùng.

Báo cáo của Lazada, Meta và Tiktok cho thấy các nền tảng đã chủ động ghi nhận các vấn đề phát sinh liên quan đến nội dung có yếu tố giả mạo trong quá trình hoạt động của nền tảng. Đối với vấn đề này, bản thân các nền tảng đã có các biện pháp kỹ thuật để phòng tránh, đồng thời đã tăng cường các hình thức, cơ chế kiểm soát nội dung để nâng cao khả năng phát hiện, xử lý các vấn đề phát sinh.

Tăng cường bảo vệ quyền lợi người tiêu dùng trước nguy cơ lừa đảo bằng trí tuệ nhân tạo

Theo báo cáo của TikTok, nền tảng này hiện áp dụng cơ chế kiểm duyệt nội dung do AI tạo ra (AIGC) theo thời gian thực đối với video ngắn và livestream; đồng thời theo dõi các chỉ số khiếu nại, đánh giá tỷ lệ rò rỉ nội dung vi phạm để nâng cấp hệ thống quét tự động. TikTok cho biết đã áp dụng các biện pháp xử lý đối với khoảng 94.900 video vi phạm trong Quý I/2026. Nền tảng này cũng triển khai cơ chế xác thực người dùng bằng số điện thoại/email và cung cấp công cụ để người sáng tạo nội dung gắn nhãn đối với nội dung được tạo bởi AI.

Bên cạnh đó, TikTok ra mắt tính năng để người dùng có thể chủ động báo cáo các nội dung nghi ngờ vi phạm trực tiếp trên các video hoặc livestream. Dựa trên các báo cáo của người dùng, TikTok sẽ rà soát và áp dụng các biện pháp thực thi phù hợp.

Đối với Meta – đơn vị vận hành Facebook và Instagram – doanh nghiệp cho biết đang kết hợp giữa hệ thống AI tiên tiến và hoạt động rà soát thủ công nhằm phát hiện, xử lý các nội dung vi phạm, bao gồm nội dung lừa đảo, giả mạo hoặc sử dụng công nghệ deepfake. Theo Meta, các hệ thống AI của doanh nghiệp sử dụng mô hình ngôn ngữ lớn (Large Language Models) để tăng khả năng nhận diện nội dung vi phạm trên quy mô lớn. Trong giai đoạn thử nghiệm ban đầu, các hệ thống AI này được cho là đã giúp ngăn chặn thêm khoảng 5.000 hành vi lừa đảo mỗi ngày; giảm hơn 80% số lượng báo cáo về việc giả mạo người nổi tiếng và giảm đáng kể tỷ lệ xử lý sai.

Liên quan đến nội dung do AI tạo ra, Meta cho biết đang áp dụng cơ chế gắn nhãn “Có dùng AI” (AI Info) đối với các nội dung được tạo hoặc chỉnh sửa bằng AI. Meta cũng yêu cầu xác thực số điện thoại đối với các nhà quảng cáo tại Việt Nam nhằm tăng cường trách nhiệm và giảm thiểu nguy cơ phát tán nội dung gây nhầm lẫn hoặc lừa đảo.

Đối với Lazada, doanh nghiệp cho biết đang áp dụng đồng thời các biện pháp rà soát thủ công và tự động nhằm kiểm duyệt nội dung đăng bán sản phẩm cũng như nội dung đánh giá, phản hồi của người dùng trên nền tảng. Lazada cho biết đã triển khai nhiều công cụ giám sát như giám sát từ khóa, giám sát hành vi, giám sát các vấn đề cụ thể và giám sát dựa trên thuật toán nhằm phát hiện các hành vi gian lận, lừa đảo hoặc nội dung gây nhầm lẫn cho người tiêu dùng.

Nâng cao cảnh giác khi tiếp cận các nội dung quảng cáo, livestream

Ủy ban Cạnh tranh Quốc gia (Bộ Công Thương) khuyến nghị người tiêu dùng nâng cao cảnh giác khi tiếp cận các nội dung quảng cáo, livestream, video giới thiệu sản phẩm hoặc thông tin được lan truyền trên môi trường số, đặc biệt đối với các nội dung có sử dụng hình ảnh, giọng nói hoặc nhân vật được tạo ra, chỉnh sửa bằng công nghệ AI, deepfake hoặc các công nghệ kỹ thuật số có khả năng gây nhầm lẫn.

Người tiêu dùng cần thận trọng trước các quảng cáo có dấu hiệu thổi phồng công dụng sản phẩm, sử dụng hình ảnh người nổi tiếng, chuyên gia hoặc cơ quan, tổ chức để tạo lòng tin nhưng không có căn cứ xác thực rõ ràng;

Kiểm tra kỹ thông tin về người bán, sản phẩm, nguồn gốc xuất xứ hàng hóa, điều kiện giao dịch, chính sách bảo hành, đổi trả cũng như độ tin cậy của các đánh giá, phản hồi trên nền tảng trước khi thực hiện giao dịch trực tuyến; không nên chuyển tiền, cung cấp thông tin cá nhân hoặc thực hiện giao dịch chỉ dựa trên các nội dung quảng cáo hấp dẫn hoặc mức giá bất thường so với thị trường;

Ưu tiên giao dịch thông qua các nền tảng, gian hàng và tài khoản đã được xác thực, đồng thời chủ động tìm hiểu thông tin từ nhiều nguồn khác nhau để đối chiếu, kiểm chứng trước khi đưa ra quyết định mua sắm;

Trong trường hợp phát hiện các dấu hiệu giả mạo, lừa đảo, quảng cáo sai sự thật hoặc hành vi có dấu hiệu vi phạm pháp luật về bảo vệ quyền lợi người tiêu dùng, người tiêu dùng cần kịp thời phản ánh tới cơ quan chức năng hoặc sử dụng tính năng báo cáo của nền tảng để được hỗ trợ xử lý, góp phần xây dựng môi trường tiêu dùng số an toàn, minh bạch và bền vững./.