Nhân viên công nghệ kêu gọi nỗ lực toàn cầu do Mỹ hậu thuẫn nhằm quản lý rủi ro của AI tiên tiến

Ngày 28 tháng 7 Hơn 1.100 nhân viên từ các công ty công nghệ hàng đầu vào thứ Ba đã thúc giục chính phủ Mỹ hỗ trợ một nỗ lực quốc tế nhằm phát triển các công cụ quản lý tốc độ phát triển AI tiên tiến.

Hình ảnh minh họa chụp ngày 19 tháng 2 năm 2024 cho thấy các mô hình người cầm máy tính và điện thoại thông minh được đặt trước dòng chữ "Trí tuệ nhân tạo AI"

Tuyên bố này được đưa ra trong bối cảnh các công ty AI đang theo đuổi các hệ thống ngày càng mạnh mẽ, dấy lên lo ngại rằng sự phát triển có thể vượt quá các cơ chế an toàn, quản trị và giám sát hiện có.

Dưới đây là một số chi tiết bổ sung:

Sáng kiến này, có tên là Pacing the Frontier, bao gồm các nhân viên từ Meta Platforms (META.O), Anthropic, OpenAI và Google thuộc Alphabet (GOOGL.O), với sự hỗ trợ từ các tổ chức phi lợi nhuận Guidelight AI Standards và Encode AI.

"Chúng tôi yêu cầu chính phủ Mỹ hỗ trợ một nỗ lực quốc tế nhằm phát triển các công cụ kỹ thuật và quản trị cần thiết để điều tiết một cách chủ động tốc độ của sự phát triển AI tự động tiên tiến," tuyên bố cho biết.

Những người ký tên bao gồm CEO Anthropic Dario Amodei cùng nhiều nhà đồng sáng lập, Phó chủ tịch nghiên cứu AI của Meta Dawn Song và Nhà khoa học trưởng của OpenAI Jakub Pachocki.

Phản hồi lại tuyên bố này, OpenAI đã đăng trên X: "Chúng tôi tin rằng, tại một thời điểm nào đó trong tương lai, sự tăng tốc AI trong việc phát triển mô hình tiên tiến có thể cao đến mức thế giới sẽ cần phải điều tiết tốc độ tiến bộ của AI."

"Nghiên cứu của chính chúng tôi về tự cải thiện đệ quy, được công bố vào tháng trước, chỉ ra nhu cầu về các công cụ để điều tiết một cách chủ động tốc độ phát triển AI tiên tiến nhằm giúp xã hội chuẩn bị," Anthropic cho biết trong một bài đăng trên X.

Tháng trước, nhà tạo lập Claude Code đã kêu gọi các phòng thí nghiệm AI lớn xem xét một sự tạm dừng phát triển có phối hợp, cảnh báo rằng những tiến bộ trong công nghệ có thể sớm cho phép các hệ thống AI tự cải thiện nhanh hơn mức xã hội có thể quản lý các rủi ro.

Ở một diễn biến riêng biệt, Nvidia (NVDA.O) vào thứ Hai cho biết họ đã thành lập một liên minh với Adobe (ADBE.O), CrowdStrike (CRWD.O) và các bên khác nhằm phát triển các công cụ an toàn AI và an ninh mạng, sau khi một sự cố an ninh mạng gần đây tại Hugging Face làm gia tăng lo ngại về các tác nhân AI tự chủ.