Samsung Electronics ra mắt công nghệ bộ nhớ AI thế hệ tiếp theo

Samsung cho biết công nghệ liên kết tấm bán dẫn (wafer-bonding) của họ có thể mang lại mật độ bộ nhớ cao gấp 10 lần so với bộ nhớ HBM5 thông thường, đồng thời tăng gấp ba lần hiệu quả sử dụng năng lượng và giảm hơn một nửa mức điện trở nhiệt.

Tòa nhà Samsung tại Milan, Ý. Nguồn ảnh: Unsplash.

Samsung Electronics đã giới thiệu một thế hệ công nghệ bộ nhớ trí tuệ nhân tạo (AI) mới vào hôm thứ Ba, nhằm củng cố vị thế dẫn đầu về sản xuất chip trong bối cảnh thị trường AI đang bùng nổ.

Nhà sản xuất chip nhớ lớn nhất thế giới đã chọn hội nghị Tương lai của Bộ nhớ và Lưu trữ (FMS) năm nay tại Santa Clara, California, để giới thiệu nguyên mẫu V10 Bonding V-NAND, hay BV-NAND, của mình. Con chip này sở hữu hơn 400 lớp cùng kiến trúc liên kết tấm bán dẫn mới nhằm gia tăng mật độ lưu trữ và thúc đẩy hiệu suất.

Khi khối lượng công việc của AI mở rộng vượt ra ngoài việc huấn luyện các mô hình ngôn ngữ lớn để tiến tới quá trình tạo ra câu trả lời cho các truy vấn của người dùng, nhu cầu đối với bộ nhớ NAND dung lượng cao cũng theo đó gia tăng. Bộ nhớ flash NAND được sử dụng để lưu trữ dữ liệu như hình ảnh, video và ứng dụng trên các thiết bị, bao gồm cả điện thoại thông minh.

Công ty cho biết công nghệ BV-NAND của họ giúp tăng mật độ bộ nhớ lên khoảng 58% so với thế hệ V9 NAND trước đó, đồng thời cải thiện hiệu suất đọc, ghi và đầu vào/đầu ra (I/O) để đáp ứng nhu cầu ngày càng tăng từ các hệ thống AI đòi hỏi khả năng lưu trữ có dung lượng lớn hơn và tiết kiệm năng lượng hơn.

Samsung cũng đã trình diễn các mô hình khái niệm về kiến trúc zHBM và zNAND-O mà họ mô tả là đầu tiên trong ngành, phác thảo tầm nhìn của công ty về bộ nhớ 3D thế hệ tiếp theo, vốn xếp chồng các ô nhớ theo chiều dọc để chứa được nhiều dữ liệu hơn.

Không giống như bộ nhớ băng thông cao (HBM) thông thường được đặt cạnh các bộ xử lý AI, công nghệ zHBM của Samsung xếp chồng bộ nhớ theo chiều dọc ngay phía trên các bộ tăng tốc AI nhằm giảm thiểu khoảng cách di chuyển của dữ liệu, qua đó gia tăng băng thông đồng thời cải thiện hiệu quả sử dụng năng lượng.

Samsung cho biết công nghệ liên kết tấm bán dẫn của họ có thể mang lại mật độ bộ nhớ cao gấp 10 lần so với bộ nhớ HBM5 thông thường, đồng thời tăng gấp ba lần hiệu quả sử dụng năng lượng và giảm hơn một nửa mức điện trở nhiệt.

Mặc dù một số nhà đầu tư đã lên tiếng lo ngại về nhu cầu dài hạn đối với chip nhớ một khi nhu cầu điện thoại thông minh tại Trung Quốc suy yếu, các nhà phân tích lại chỉ ra nhu cầu cực kỳ mạnh mẽ từ lĩnh vực AI.

Trở lại thời điểm tuần trước, bản chất mạnh mẽ của nhu cầu AI đã được nhấn mạnh qua tiết lộ của Samsung rằng các thỏa thuận dài hạn với khách hàng cuối cùng có thể chiếm từ 60% đến 70% doanh số bộ nhớ của hãng.

Trở lại thời điểm tháng trước, các nhà phân tích của Citi cho biết trong một bản ghi chú rằng lượng hàng tồn kho trên cả chuỗi cung ứng DRAM và NAND vẫn ở mức thấp hơn nhiều so với lịch sử, bất chấp những lo ngại về sự suy yếu của nhu cầu tại thị trường cuối.