Amazon siết chặt việc sử dụng hình ảnh ai của người bán sau khi bang New York ban hành luật mới

Amazon đang yêu cầu các bên bán hàng thứ ba phải gắn nhãn cho bất kỳ hình ảnh hoặc video sản phẩm nào có chứa "người do AI tạo ra", sau khi bang New York gần đây thông qua một đạo luật yêu cầu minh bạch hơn về "diễn viên tổng hợp" trong quảng cáo.

Các kiện hàng của Amazon được chuẩn bị để giao tại Trung tâm Hoàn thiện Đơn hàng Tự động bằng Robot của Amazon

Theo bản sao thông báo mà CNBC xem được, công ty đã thông báo cho người bán về sự thay đổi chính sách này vào hôm thứ Tư. Chính sách hướng dẫn người bán gắn nhãn cho hình ảnh và bất kỳ "Nội dung A+" nào (video hoặc hình ảnh đồ họa khác trên trang niêm yết sản phẩm) bằng các từ khóa dữ liệu đặc tả (metadata keywords) cụ thể trước khi tải lên.

"Luật pháp gần đây yêu cầu phải tiết lộ khi hình ảnh hoặc video trong quảng cáo có chứa những người do AI tạo ra mang tính chân thực," Amazon viết trong thông báo.

Luật mới của bang New York có hiệu lực từ tháng trước yêu cầu các công ty phải công khai nếu các "diễn viên tổng hợp" được sử dụng để thay thế cho diễn viên người thật trong quảng cáo. Đạo luật này áp dụng cho "các phương tiện truyền thông được tạo bằng kỹ thuật số có hình ảnh giống như người thật." Thống đốc Kathy Hochul mô tả đây là đạo luật "đầu tiên trên toàn quốc".

"Nếu không có thông báo rằng nội dung công chúng đang xem là không có thật, các diễn viên tổng hợp do AI tạo ra và truyền thông bị thao túng có thể làm suy yếu khả năng phân biệt rạch ròi giữa thực và hư của một người," văn phòng của Thống đốc Hochul cho biết trong một thông cáo.

Amazon đã làm rõ trong thông báo của mình rằng yêu cầu này không áp dụng cho nội dung có sự xuất hiện của các nhân vật truyền hình, trò chơi điện tử và phim ảnh, hoặc nội dung bao gồm người thật, ngay cả khi họ đã được chỉnh sửa bằng AI.

Công ty cho biết họ sẽ "thêm một dấu hiệu nhận biết" vào các danh mục niêm yết trên trang web của mình, thông báo cho người tiêu dùng rằng hình ảnh hoặc nội dung khác có sự xuất hiện của người do AI tạo ra "khi thích hợp." Hiện vẫn chưa rõ Amazon sẽ áp dụng tiêu chí nào khi quyết định thời điểm hiển thị nhãn này cho người mua sắm.

Amazon hiện chưa đưa ra bình luận ngay lập tức.

Amazon đã ứng dụng AI một cách mạnh mẽ trong nội bộ và đang ngày càng đưa công nghệ này vào toàn bộ danh mục sản phẩm của mình. Công ty đã tối ưu hóa tiêu đề và chi tiết sản phẩm niêm yết để chúng có nhiều khả năng được các hệ thống AI phát hiện hơn, đầu tư vào trợ lý vừa được đổi tên gần đây là Alexa for Shopping, và ra mắt một tính năng chèn các sản phẩm do AI tạo ra vào thanh tìm kiếm theo thời gian thực dựa trên truy vấn của người dùng.

Ngày càng có nhiều người bán hàng thứ ba trên Amazon sử dụng AI để tạo văn bản, hình ảnh và các nội dung khác cho danh mục sản phẩm của họ, một phần bằng cách sử dụng các công cụ của chính Amazon.

Các nhà bán hàng bên ngoài là động cơ đằng sau mảng kinh doanh bán lẻ cốt lõi của Amazon, chiếm hơn 60% lượng hàng hóa được bán trên sàn thương mại điện tử này.

Hiện tại chưa có luật liên bang nào yêu cầu các công ty phải công khai khi nội dung quảng cáo được tạo bằng AI.

Tuy nhiên, các bang đã có những bước đi nhằm yêu cầu sự minh bạch hơn xung quanh nội dung AI. Đầu năm nay, bang California đã bắt đầu yêu cầu các nhà cung cấp AI lớn phải nhúng hình mờ (watermark) vào hình ảnh, video hoặc nội dung khác do AI tạo ra.

Meta, TikTok, Pinterest và YouTube của Google đã thêm nhãn nội dung do AI tạo ra vào các video và hình ảnh được tải lên nền tảng của họ. TikTok và Meta gần đây đã bị chỉ trích vì không gắn nhãn đầy đủ cho các quảng cáo có sự xuất hiện của những người ảnh hưởng (influencer) do AI tạo ra đang chèo kéo các sản phẩm đáng nghi ngờ, trong một số trường hợp thậm chí không có sự hay biết của thương hiệu.

TikTok cho biết họ đã có những bước đi nhằm cấm các tài khoản đưa ra những tuyên bố y tế sai lệch, trong khi Meta cho biết họ đang tiến hành gắn nhãn cho các video AI.