New York thông qua dự luật ngăn chặn thảm họa do AI gây ra

Các nhà lập pháp tiểu bang New York đã thông qua một dự luật vào thứ năm nhằm mục đích ngăn chặn các mô hình AI tiên tiến của OpenAI, Google và Anthropic góp phần gây ra các tình huống thảm họa, bao gồm tử vong hoặc thương tích của hơn 100 người hoặc thiệt hại lên tới hơn 1 tỷ đô la.

Việc thông qua Đạo luật RAISE đại diện cho chiến thắng của phong trào an toàn AI, vốn đã mất đi vị thế trong những năm gần đây khi Thung lũng Silicon và chính quyền Trump ưu tiên tốc độ và đổi mới. Những người ủng hộ an toàn bao gồm người đoạt giải Nobel Geoffrey Hinton và nhà tiên phong nghiên cứu AI Yoshua Bengio đã ủng hộ Đạo luật RAISE. Nếu trở thành luật, dự luật này sẽ thiết lập bộ tiêu chuẩn minh bạch đầu tiên của Hoa Kỳ theo luật định cho các phòng thí nghiệm AI tiên phong.

Đạo luật RAISE có một số điều khoản và mục tiêu giống như dự luật an toàn AI gây tranh cãi của California, SB 1047, cuối cùng đã bị phủ quyết . Tuy nhiên, người đồng bảo trợ dự luật, Thượng nghị sĩ tiểu bang New York Andrew Gounardes, đã nói với TechCrunch trong một cuộc phỏng vấn rằng ông cố tình thiết kế Đạo luật RAISE sao cho không làm giảm sự đổi mới giữa các công ty khởi nghiệp hoặc các nhà nghiên cứu học thuật — một lời chỉ trích phổ biến đối với SB 1047.

“Cửa sổ để đưa ra các biện pháp bảo vệ đang nhanh chóng thu hẹp lại do công nghệ này đang phát triển nhanh như thế nào,” Thượng nghị sĩ Gounardes cho biết. “Những người hiểu rõ nhất về [AI] cho biết những rủi ro này có khả năng xảy ra rất cao […] Điều đó thật đáng báo động.”

Nguồn hình ảnh: Lev Radin/Pacific Press/LightRocket/Hình ảnh Getty

Đạo luật RAISE hiện đang được chuyển đến bàn làm việc của Thống đốc New York Kathy Hochul, nơi bà có thể ký dự luật thành luật, gửi lại để sửa đổi hoặc phủ quyết hoàn toàn.

Nếu được ký thành luật, dự luật an toàn AI của New York sẽ yêu cầu các phòng thí nghiệm AI lớn nhất thế giới phải công bố các báo cáo an toàn và bảo mật kỹ lưỡng về các mô hình AI tiên tiến của họ. Dự luật này cũng yêu cầu các phòng thí nghiệm AI phải báo cáo các sự cố an toàn, chẳng hạn như liên quan đến hành vi của mô hình AI hoặc những kẻ xấu đánh cắp mô hình AI, nếu chúng xảy ra. Nếu các công ty công nghệ không tuân thủ các tiêu chuẩn này, Đạo luật RAISE trao quyền cho tổng chưởng lý New York đưa ra các hình phạt dân sự lên tới 30 triệu đô la.

Đạo luật RAISE nhằm mục đích quản lý chặt chẽ các công ty lớn nhất thế giới — bất kể chúng có trụ sở tại California (như OpenAI và Google) hay Trung Quốc (như DeepSeek và Alibaba). Các yêu cầu về tính minh bạch của dự luật áp dụng cho các công ty có mô hình AI được đào tạo bằng hơn 100 triệu đô la tài nguyên điện toán (có vẻ như nhiều hơn bất kỳ mô hình AI nào hiện có) và đang được cung cấp cho cư dân New York.

Theo Nathan Calvin, phó chủ tịch phụ trách các vấn đề của tiểu bang và cố vấn chung tại Encode, người đã làm việc về dự luật này và SB 1047, thì mặc dù có một số điểm tương đồng với SB 1047, Đạo luật RAISE được thiết kế để giải quyết những chỉ trích về các dự luật an toàn AI trước đây. Đáng chú ý là Đạo luật RAISE không yêu cầu các nhà phát triển mô hình AI phải đưa "công tắc tắt" vào mô hình của họ, cũng như không buộc các công ty đào tạo các mô hình AI tiên tiến phải chịu trách nhiệm về những tác hại nghiêm trọng.

Tuy nhiên, Thung lũng Silicon đã phản đối đáng kể dự luật an toàn AI của New York, Nghị sĩ tiểu bang New York và là người đồng bảo trợ cho Đạo luật RAISE Alex Bores nói với TechCrunch. Bores cho rằng sự phản đối của ngành công nghiệp này không có gì đáng ngạc nhiên, nhưng tuyên bố rằng Đạo luật RAISE sẽ không hạn chế sự đổi mới của các công ty công nghệ theo bất kỳ cách nào.

“Đạo luật NY RAISE lại là một dự luật AI cấp tiểu bang ngu ngốc nữa, chỉ gây tổn hại cho Hoa Kỳ vào thời điểm các đối thủ của chúng ta đang chạy đua về phía trước”, Anjney Midha, đối tác chung của Andreessen Horowitz, cho biết trong bài đăng vào thứ sáu trên X. Andreessen Horowitz và công ty ươm tạo khởi nghiệp Y Combinator là một trong những đối thủ phản đối dữ dội nhất đối với SB 1047.