Nvidia ra mắt GPU mới được thiết kế cho suy luận ngữ cảnh dài

Tại Hội nghị thượng đỉnh về cơ sở hạ tầng AI vào thứ ba, Nvidia đã công bố một GPU mới có tên là Rubin CPX , được thiết kế cho các cửa sổ ngữ cảnh lớn hơn 1 triệu mã thông báo.

Là một phần trong dòng sản phẩm Rubin sắp ra mắt của gã khổng lồ chip, CPX được tối ưu hóa để xử lý các chuỗi ngữ cảnh lớn và được thiết kế để sử dụng như một phần của phương pháp tiếp cận cơ sở hạ tầng "suy luận phân tách" rộng hơn . Về phía người dùng, kết quả sẽ mang lại hiệu suất tốt hơn cho các tác vụ ngữ cảnh dài như tạo video hoặc phát triển phần mềm.

Nguồn ảnh: David Paul Morris / Bloomberg / Getty Images

Chu kỳ phát triển không ngừng nghỉ của Nvidia đã mang lại lợi nhuận khổng lồ cho công ty, với doanh thu từ trung tâm dữ liệu đạt 41,1 tỷ đô la trong quý gần đây nhất .

Rubin CPX dự kiến ​​sẽ có mặt trên thị trường vào cuối năm 2026.