隨著AI模型的持續擴展，HBM可能難以滿足未來顯存容量的需求，也促使行業將GPU驅動的儲存架構視為潛在的下一個技術前沿。去年就有消息稱，英偉達分別與SK海力士和鎧俠合作，推動AI SSD的開發，使用量身定製的SSD部分取代HBM作為GPU顯存的擴展器。另外今年SK海力士還與閃迪合作，帶來了面向AI推理時代的下一代儲存器解決方案HBF（High Bandwidth Flash），也是為了解決相同的問題。
據TrendForce報道，英偉達正在推進GPU直接訪問儲存的架構開發，計劃從Vera Rubin平台引入，啟動GIDS（GPU-Initiated Direct Storage Access）功能。外界認為，這一轉變可能加速HBF的發展。
GIDS與現有的GDS（GPU Direct Storage）功能有所不同，兩者之間是有差異的：在GDS里，CPU在數據傳輸到GPU之前先向儲存設備發出數據請求，而到了GIDS，GPU直接訪問儲存設備，中間會跳過CPU和DRAM來實現。
GIDS和GDS都旨在克服傳統計算架構中的數據傳輸瓶頸，傳聞微軟和AMD也在探索類似的方法。主要問題還是在於傳統的數據傳輸方式效率較低，CPU在線程處理上結構受限，而GPU則能生成數萬個並行線程。目前GPU-HBM數據傳輸已占系統總功耗大概一半，這進一步支持HBF架構，將超高速的NAND快閃記憶體更靠近GPU，以應對未來的AI瓶頸。
GIDS的出現可能使NAND快閃記憶體在AI儲存系統中扮演更為重要的角色，同時減輕HBM在容量方面的壓力。這種轉變需要性能更高的NAND快閃記憶體，以便跟上GPU的處理速度。NAND快閃記憶體的優勢在於位密度，約為DRAM的30倍，在相近的占用空間下實現了更大的儲存容量。
可是NAND快閃記憶體的耐久度有限，而DRAM擁有幾乎無限的寫入能力。因此HBF被認為更適合儲存AI模型參數，因為這部分數據在推理過程中基本保持不變，僅作為只讀工作負載使用。
