Elon Musk nói rằng có thể có 20% khả năng AI sẽ tiêu diệt loài người
Elon Musk khá chắc chắn rằng AI đáng để mạo hiểm ngay cả khi có 1/5 khả năng công nghệ này quay lưng lại với con người.
Phát biểu trong cuộc hội thảo "Cuộc tranh luận về AI tuyệt vời" tại Hội nghị thượng đỉnh dồi dào kéo dài bốn ngày, Musk đã tính toán lại đánh giá rủi ro trước đây của mình đối với công nghệ, nói rằng: "Tôi nghĩ có khả năng nó sẽ hủy diệt loài người. Tôi có thể đồng ý với Geoff Hinton, đó là khoảng 10% hoặc 20% hoặc tương tự. Ông nói thêm: "Tôi nghĩ rằng kịch bản tích cực có thể xảy ra sẽ lớn hơn kịch bản tiêu cực." Musk không đề cập đến cách ông tính toán rủi ro.
Elon Musk đã tính toán lại phân tích chi phí-lợi ích của AI, nói rằng có 1/5 khả năng nó sẽ hủy diệt loài người, nhưng các nhà nghiên cứu an toàn cho biết ông đang đánh giá thấp
Sự diệt vong (P(doom)) là gì?
Roman Yampolskiy - nhà nghiên cứu về an toàn AI và giám đốc Phòng thí nghiệm An ninh mạng tại Đại học Louisville nói với Business Insider rằng Musk đã đúng khi nói rằng AI có thể là một mối đe dọa hiện hữu đối với nhân loại nhưng “nếu có thì ông ấy hơi bảo thủ" trong đánh giá của mình.
Yamploskiy nói: “Theo quan điểm của tôi, diệt vong thực tế cao hơn nhiều”, đề cập đến “xác suất diệt vong” hoặc khả năng AI nắm quyền kiểm soát loài người hay gây ra sự kiện kết thúc loài người. Chẳng hạn như tạo ra một loại vũ khí sinh học mới hoặc gây ra sự sụp đổ của xã hội do một cuộc tấn công mạng hoặc chiến tranh hạt nhân quy mô lớn.
Tờ New York Times gọi (p)doom là "số liệu thống kê bệnh hoạn đang càn quét Thung lũng Silicon", với nhiều giám đốc điều hành công nghệ khác nhau được hãng này trích dẫn là có ước tính từ 5 đến 50% khả năng xảy ra ngày tận thế do AI điều khiển, Yamploskiy đặt rủi ro "ở mức 99,999999%."
Yamploskiy cho biết vì không thể kiểm soát được AI tiên tiến nên hy vọng duy nhất của chúng tôi là không bao giờ xây dựng nó ngay từ đầu. Yamploskiy nói thêm: “Không chắc tại sao anh ấy lại nghĩ rằng việc theo đuổi công nghệ này là một ý tưởng hay”. “Nếu anh ấy lo lắng về việc các đối thủ cạnh tranh sẽ đến đó trước, thì điều đó không thành vấn đề vì siêu trí tuệ không được kiểm soát cũng tệ như nhau, bất kể ai tạo ra nó.”
'Giống như một đứa trẻ thông minh như Chúa'
Tháng 11 năm ngoái, Musk cho biết có khả năng không phải là 0, công nghệ này có thể "trở nên tồi tệ" nhưng không đi quá xa khi nói ông tin rằng công nghệ này có thể hủy diệt loài người
Mặc dù là người ủng hộ việc quản lý AI nhưng năm ngoái Musk đã thành lập một công ty tên là xAI (chuyên mở rộng sức mạnh của công nghệ). xAI là đối thủ cạnh tranh với OpenAI - một công ty được Musk đồng sáng lập với Sam Altman trước khi Musk rời khỏi hội đồng quản trị vào năm 2018.
Tại Hội nghị thượng đỉnh, Musk ước tính trí thông minh kỹ thuật số sẽ vượt tất cả trí thông minh của con người cộng lại vào năm 2030. Trong khi ông duy trì những mặt tích cực nhiều hơn những mặt tiêu cực, Musk thừa nhận rủi ro đối với thế giới nếu sự phát triển của AI tiếp tục đi theo quỹ đạo hiện tại
Musk nói tại sự kiện ở Thung lũng Silicon vào tháng 3: "Bạn đang phát triển một AGI. Nó gần giống như nuôi dạy một đứa trẻ nhưng nó giống như một siêu thiên tài, như một đứa trẻ có trí thông minh giống như Chúa và điều quan trọng là bạn nuôi dạy đứa trẻ như thế nào". Đề cập đến trí tuệ nhân tạo nói chung: “Một trong những điều tôi nghĩ cực kỳ quan trọng đối với sự an toàn của AI là phải có loại AI tò mò và tìm kiếm sự thật ở mức tối đa.”
Musk cho biết "kết luận cuối cùng" của ông về cách tốt nhất để đạt được sự an toàn cho AI là phát triển AI theo cách buộc nó phải trung thực. “Đừng ép nó nói dối ngay cả khi sự thật luôn hiện hữu”, Musk nói về cách tốt nhất để giữ an toàn cho con người trước công nghệ. "Nó rất quan trọng. Đừng bắt AI nói dối."
Các nhà nghiên cứu đã phát hiện ra rằng, một khi AI học cách nói dối con người, hành vi lừa đảo sẽ không thể đảo ngược bằng các biện pháp an toàn AI hiện tại (The Independent đưa tin)
Nghiên cứu được hãng này trích dẫn: “Nếu một người mẫu có hành vi lừa đảo do căn chỉnh công cụ lừa đảo hoặc do ngộ độc mô hình, thì các kỹ thuật huấn luyện an toàn hiện tại sẽ không đảm bảo an toàn và thậm chí có thể tạo ra ấn tượng sai lầm về sự an toàn”. Rắc rối hơn, các nhà nghiên cứu nói thêm rằng rất có thể AI có thể tự học cách lừa dối thay vì được dạy cụ thể để nói dối.
“Nếu nó thông minh hơn chúng ta nhiều, nó sẽ rất giỏi trong việc thao túng vì nó đã học được điều đó từ chúng ta”, Hinton, thường được gọi là “Bố già của AI”, người đóng vai trò là cơ sở để Musk đánh giá rủi ro. của công nghệ, nói với CNN. "Và có rất ít ví dụ về việc một thứ thông minh hơn bị điều khiển bởi một thứ kém thông minh hơn."
Theo Business Insider
https://www.businessinsider.com/elon-musk-20-percent-chance-ai-destroys-humanity-2024-3
