Micron, SK hynix ra mắt RAM SOCAMM 128GB cho Nvidia GB300
Micron, Samsung và SK hynix đã giới thiệu các mô-đun bộ nhớ gắn nén kích thước nhỏ (SOCAMM) sử dụng công nghệ LPDDR5X, hướng tới các máy chủ AI và máy chủ tiêu thụ điện năng thấp. Các SOCAMM – sẽ được sử dụng đầu tiên trên các máy chủ dựa trên hệ thống Nvidia GB300 Grace Blackwell Ultra Superchip – được thiết kế để kết hợp dung lượng cao, hiệu suất vượt trội, kích thước nhỏ gọn và mức tiêu thụ điện năng thấp.
Một mô-đun SOCAMM có kích thước 14x90mm – chỉ bằng một phần ba so với RDIMM truyền thống – và có thể chứa tới bốn ngăn xếp bộ nhớ LPDDR5X 16-die. Các mô-đun SOCAMM đầu tiên của Micron sẽ cung cấp dung lượng 128GB và sử dụng các thiết bị bộ nhớ LPDDR5X của công ty, được sản xuất trên công nghệ DRAM 1β (1-beta, thế hệ thứ 5 quy trình 10nm). Micron không tiết lộ tốc độ truyền dữ liệu mà các thanh SOCAMM ban đầu hỗ trợ, nhưng cho biết bộ nhớ của họ được đánh giá lên tới 9.6 GT/s. Trong khi đó, SOCAMM của SK hynix, được trình diễn tại GTC 2025, đạt tốc độ lên tới 7.5 GT/s.
Bộ nhớ chiếm một phần đáng kể trong mức tiêu thụ điện năng của máy chủ. Ví dụ, mức tiêu thụ điện của DRAM trong các máy chủ được trang bị hàng terabyte bộ nhớ DDR5 trên mỗi socket vượt quá mức tiêu thụ của CPU. Nvidia đã thiết kế CPU Grace của mình dựa trên bộ nhớ LPDDR5X, vốn tiêu thụ ít điện hơn DDR5, đồng thời triển khai một bus bộ nhớ rộng (học hỏi từ các bộ xử lý cấp trung tâm dữ liệu của AMD và Intel) để cung cấp băng thông bộ nhớ cao. Tuy nhiên, với các máy dựa trên GB200 Grace Blackwell, Nvidia buộc phải sử dụng các gói bộ nhớ LPDDR5X hàn chết vì không có mô-đun bộ nhớ LPDDR5X tiêu chuẩn nào đáp ứng được yêu cầu về dung lượng.
SOCAMM của Micron thay đổi điều này bằng cách cung cấp một giải pháp mô-đun tiêu chuẩn có thể chứa bốn ngăn xếp bộ nhớ LPDDR5X 16-die, mang lại dung lượng tiềm năng khá ấn tượng. Micron cho biết các SOCAMM 128GB của họ chỉ tiêu thụ một phần ba điện năng so với RDIMM DDR5 có cùng dung lượng 128GB, điều này thực sự rất quan trọng. Tuy nhiên, vẫn chưa rõ liệu SOCAMM của Micron có trở thành tiêu chuẩn ngành được JEDEC hỗ trợ hay chỉ là một giải pháp độc quyền do Micron, Samsung, SK hynix và Nvidia phát triển cho các máy chủ chạy CPU Grace và Vera.
Các thanh SOCAMM của Micron hiện đã được sản xuất hàng loạt, vì vậy hãy mong đợi các hệ thống dựa trên Nvidia GB300 Grace Blackwell Ultra Superchip sẽ sử dụng loại bộ nhớ này. Bộ nhớ mô-đun giúp đơn giản hóa việc sản xuất và bảo trì máy chủ, điều này sẽ ảnh hưởng tích cực đến giá thành của các thiết bị này.
"AI đang thúc đẩy một sự thay đổi lớn trong lĩnh vực điện toán, và bộ nhớ chính là trung tâm của sự tiến hóa này," ông Raj Narasimhan, phó chủ tịch cấp cao kiêm tổng giám đốc Bộ phận Kinh doanh Tính toán và Mạng của Micron, cho biết. "Những đóng góp của Micron vào nền tảng Nvidia Grace Blackwell mang lại lợi ích đáng kể về hiệu suất và tiết kiệm điện năng cho các ứng dụng huấn luyện và suy luận AI. Các giải pháp bộ nhớ HBM và LPDDR giúp mở khóa khả năng tính toán vượt trội cho GPU".
