此前有報道稱,英偉達已經與存儲器製造商交換SOCAMM(Small Outline Compression Attached Memory Module)原型進行測試。其使用低功耗LPDDR5X內存,並採用了可拆卸模塊設計,在性能和能效方面優於小型個人電腦和筆記本電腦使用的傳統DRAM。在GTC 2025上,SK海力士和美光都公布了自家的SOCAMM內存模塊,英偉達計劃用於Blackwell Ultra GB300產品線。

據TomsHardware報道,英偉達已經推遲了採用SOCAMM內存模塊的計劃,現在該為與下一代代號「Rubin」的GPU一起推出。傳聞推遲的部分原因是英偉達改變了GB300的主板設計,從最初的Cordelia改成了Bianca設計。
Bianca設計是單主板上擁有2顆B300 GPU和1顆Grace CPU,可以支持SOCAMM內存模塊,而Cordelia設計則是4顆GPU和2顆Grace CPU,利用SXM插槽接口相連,而且只能使用LPDDR內存模塊。按照之前的說法,Cordelia設計存在信號丟失的問題。此外,SOCAMM也存在可靠性和發熱問題。
-
與RDIMM相比,SOCAMM在相同容量下提供超過2.5倍的帶寬,允許更快地訪問更大的訓練數據集和更複雜的模型,以及提高推理工作負載的吞吐量;
-
SOCAMM的尺寸為14 x 90 mm,僅為行業標準RDIMM尺寸的三分之一,可實現緊湊、高效的伺服器設計;
-
利用LPDDR5X,SOCAMM產品的功耗僅為標準DDR5 RDIMM的三分之一,直接影響AI架構中的功耗性能曲線;
-
SOCAMM解決方案使用了4顆16-die堆疊的16Gb LPDDR5X顆粒,從而實現了128GB容量,結合128-bit位寬和8533 MT/s速率,對於更快的AI模型訓練和增加推理工作負載的並發用戶來說至關重要;
-
SOCAMM內存模塊還有這
優秀的可擴展性和可維護性,增強的糾錯功能具有以數據中心為中心的測試流程,為數據中心提供了優化的內存解決方案。
與LPCAMM2類似,SOCAMM也是單面四顆粒,通過三固定螺絲孔固定。不過與LPCAMM2不同的是,SOCAMM頂部沒有凸出的梯形結構,進一步降低了整體高度,更適合伺服器的安裝和液體散熱環境。