Facebook sắp chế tạo siêu máy tính AI nhanh nhất thế giới

Facebook từng cho rằng trí tuệ nhân tạo (AI) có thể giúp họ thực hiện nhiệm vụ khó khăn là kiểm duyệt các bài đăng từ hàng tỷ người dùng. Mới đây, công ty mẹ của Facebook là Meta đang thực hiện một bước có thể giúp thực hiện mục tiêu khó khăn đó: Chế tạo siêu máy tính đầu tiên.

Meta đã công bố AI Research SuperCluster (RSC) mới. Đây là một siêu máy tính được sử dụng cho các dự án nghiên cứu AI. Siêu máy tính đã được nghiên cứu trong hai năm qua và cuối cùng có thể giúp Meta phát triển phần mềm AI mạnh mẽ hơn nhiều.

Meta cũng tuyên bố RSC hiện là một trong những siêu máy tính chạy AI nhanh nhất trên thế giới. Người phát ngôn của Meta cho biết công ty đã hợp tác với các nhóm từ Nvidia, Pure Storage và Penguin Computing để xây dựng siêu máy tính này.

Các kỹ sư của Meta Kevin Lee và Shubho Sengupta hy vọng RSC sẽ giúp xây dựng các hệ thống AI hoàn toàn mới, chẳng hạn như có thể cung cấp khả năng dịch giọng nói theo thời gian thực cho nhiều nhóm người, mỗi người nói một ngôn ngữ khác nhau, để họ có thể cộng tác liền mạch trong một dự án nghiên cứu hoặc chơi một trò chơi tương tác AR.

Meta xây dựng siêu máy tính khổng lồ có tên AI Research SuperCluster.

Dự án RSC đã bắt đầu cách đây một năm rưỡi, các kỹ sư của Meta thiết kế các hệ thống khác nhau của máy như làm mát, nguồn, mạng và cáp từ số không. Giai đoạn một của RSC đã được thiết lập và vận hành, bao gồm 760 hệ thống Nvidia GGX A100 chứa 6.080 GPU được kết nối (một loại bộ xử lý đặc biệt tốt trong việc giải quyết các vấn đề về học máy). Meta cho biết nó cung cấp hiệu suất được cải thiện tới 20 lần cho các nghiên cứu về thị giác máy tính. Giai đoạn hai của RSC dự kiến hoàn thành trong năm 2022, chứa tổng cộng 16.000 GPU và có thể đào tạo các hệ thống AI với hơn một nghìn tỷ thông số trên các tập dữ liệu lớn như một exabyte.

Meta cho biết các nhà nghiên cứu đã bắt đầu sử dụng siêu máy tính này để đào tạo các mô hình lớn liên quan đến xử lý ngôn ngữ tự nhiên và thị giác máy tính. Các nhà nghiên cứu sẽ có thể sử dụng siêu máy tính để phân tích liền mạch văn bản, hình ảnh và video cùng nhau và đưa ra công cụ thực tế tăng cường.

Dần dần, Meta hy vọng siêu máy tính sẽ cho phép công ty xây dựng các hệ thống AI hoàn toàn mới có thể thực hiện các nhiệm vụ khó tính toán như dịch theo thời gian thực cho một nhóm lớn những người nói các ngôn ngữ khác nhau.

Công ty cho biết các cuộc thử nghiệm ban đầu cho thấy siêu máy tính này có thể đào tạo các mô hình ngôn ngữ lớn nhanh hơn ba lần so với hệ thống mà nó đang sử dụng. Điều đó có nghĩa là một mô hình AI sẽ mất 9 tuần để đào tạo với hệ thống hiện có, nhưng có thể được đào tạo trong ba tuần với siêu máy tính.

Hiện siêu máy tính mạnh nhất thế giới thuộc về cỗ máy Fugaku, do Fujitsu và Viện nghiên cứu quốc gia Riken Nhật Bản phát triển với tốc độ tính toán 442 petaflop, hay 442 triệu tỷ phép tính mỗi giây. Con số này cao gần gấp ba so với siêu máy tính xếp thứ hai là Summit của IBM với 148 petaflop. Đứng thứ ba là Sierra, hệ thống đặt tại Phòng thí nghiệm quốc gia Lawrence Livermore (Mỹ) với tốc độ 94,6 petaflop.

Khôi Nguyên (T/h)