如今的記憶體漲價已經失控，一年來價格漲了5-10倍，主要推動力就來自AI數據中心需求，但這波漲價缺貨很可能也會遇到狙擊，技術突破也是來自AI優化。
大家都知道AI大模型對記憶體的容量及頻寬都有極高的需求，所以高性能AI晶片大多上了HBM記憶體，其用量是DDR5記憶體的2-3倍，導致了這一次的記憶體缺貨漲價。
記憶體缺貨因AI而起，最終解決還得靠AI本身，想要減少記憶體用量就得優化記憶體架構，OpenAI分拆出來的一個團隊在這方面已經取得了重大突破，主要是記憶體效率方面的，技術很快會宣布。
I'm posting this prediction now so I can quote it later. There has been a significant breakthrough in architecture - specifically around memory efficiency - not by one of the big labs, but by a team that was spun out of OpenAI (not SSI). They will probably announce it soon.
雖然這個技術具體是什麽沒公布，但已經有AI領域的網友提到了這可能跟KVCache緩存有關，熟悉DeepSeek的網友對這個詞應該不會陌生，V4價格能這麼低的原因就是KVCache利用到了極致。
OpenAI的這個技術突破有可能也是在這方面作文章，既然記憶體又貴還缺貨，那就減少對記憶體的需要，將數據放到容量更大、價格更低的NAND快閃記憶體晶片上。
如果再聯繫到業界此前在研究的HBF快閃記憶體，OpenAI很有可能這次會把這種高性能快閃記憶體推向實際部署，雖然延遲、寫入速度上還無法跟HBM記憶體相比，但1638GB/s的讀寫頻寬跟HBM4是一樣的。
這個技術最終大規模部署的話，那麼AI算力中心對記憶體的用量肯定會大幅減少，記憶體缺貨、漲價的動力就嚴重受限了。
但是壞消息是這可能會加速快閃記憶體的漲價，只不過快閃記憶體本身的價格比記憶體低很多，權衡之下肯定還是優先減少記憶體用量。
