隨著AI伺服器出貨規模擴大,需要更多地處理上下文數據(Key-Value cache,即KV緩存
),已開始形成瓶頸,為此英偉達
打算通過上下文儲存(Context Memory Storage,即CMX
)來緩解這一問題。目前英偉達用於AI伺服器的CMX需要576塊SSD,容量達到了9600TB。有業內人士預計,2026年CMX需要的總容量約為3500萬TB,2027年將繼續大幅上漲,達到1億TB以上。

據TrendForce報道,Vera Rubin平台出貨開始提升,對儲存的影響已經從HBM延伸到NAND快閃記憶體,其中TLC NAND快閃記憶體現貨價格從6月的低谷反彈,逐漸走高。市場數據顯示,本周價格相比上周上漲了4.97%,相比三周前上漲了11.6%。雖然英偉達的大部分TLC NAND快閃記憶體供應是通過長期協議來獲得保障,但是相關需求仍然給現貨市場帶來了壓力,從而引發了價格的持續上漲。
之前有消息稱,繼通用型DRAM、HBM、以及晶圓代工領域建立合作關係後,三星與英偉達進一步擴大合作範圍,延伸到了NAND快閃記憶體領域。三星已經向英偉達大批量供應第9代V-NAND快閃記憶體,另外也在推動第10代V-NAND快閃記憶體的量產,以滿足英偉達CMX方面的需求。
另外今年鎧俠(Kioxia)推出了新款CM10系列PCIe 6.0 SSD,首次搭載了最新的第十代BiCS FLASH TLC快閃記憶體,是一款支持CMX架構的產品。其相較於上一代產品,順序讀取性能提升約92%,隨機讀取性能提升約85%,而且支持直接冷板液冷散熱。






