隨著人工智慧應用對數據訪問速度的需求持續攀升,英偉達
今日宣布將其高性能cuFile垂直數據儲存棧的應用程式接口(API)開源,實現毫秒級數據訪問。
與此同時,英偉達還宣布聯合多家科技領域領導企業,共同發起名為"Storage-Next"的大規模行業倡議,致力於通過GPU驅動優化內存與儲存能力。該倡議旨在匯聚儲存廠商、控制器供應商、熱設計、散熱及編排服務提供商,協同標準化機構,共同探索以GPU為核心驅動的優質儲存解決方案。
英偉達在"內存與儲存未來大會"上宣布,cuFile API可實現毫秒級別的安全儲存訪問。
cuFile於2021年7月隨公司的GPU訪問工具包CUDA Toolkit 11.4正式發布。在此之前,它一直作為英偉達GPUDirect Storage軟體的核心組件運行。cuFile提供本地分布式儲存與GPU內存之間的直接高速數據訪問通道,允許GPU繞過中央處理器和系統主內存,從而大幅降低內存訪問延遲。
藉助直接內存訪問(DMA)技術,cuFile可將數據從NVMe驅動器等儲存設備直接傳輸至GPU內存。AI推理的主要計算發生在GPU及專用加速卡上,這些硬體主要與GPU內存交互;而內存的刷新通常由另一軟體層負責,該層利用GPU進行編排和決策。cuFile省去了這一"中間環節",提供直接訪問路徑並支持GPU自主編排,使其能夠快速拉取更多數據。
這一機制使海量數據集的同步速率能夠匹配頂級GPU的處理速度。若數據頻寬因瓶頸受阻,將引發"GPU飢餓"循環——分布式GPU陣列中部分GPU因等待數據就緒而處於空閒狀態。
更高的速度與毫秒級低延遲,為檢索增強生成和智能體AI構建了一條連接深層儲存與GPU的低延遲"超級通道",使大規模數據集的運行效率顯著提升。
為GPU可訪問儲存引入開放標準
Storage-Next已匯聚40家領先儲存和快閃記憶體廠商,包括DataDirect Networks(DDN)、鎧俠(Kioxia)和美光科技(Micron Technology)。各參與方將與英偉達共同推動下一代AI儲存技術的發展。
英偉達將基於SCADA(可擴展加速數據訪問,Scaled Accelerated Data Access)構建其高速數據訪問儲存方案。該方案為大規模並行GPU以高頻寬、極低延遲拉取數據奠定基礎。現代AI訓練需要同時訪問海量數據,而AI推理如今還涉及超大規模混合專家模型,這類模型"思考"極為迅速,能夠快速拉取數據並為智能體工作流調用各類工具。
DDN首席技術官斯文·厄默表示:"AI的成功不取決於企業擁有多少基礎設施,而取決於如何高效利用這些基礎設施。我們與英偉達的合作正在構建GPU與數據之間更直接、更高效的連接,使加速計算資源保持高效運轉,縮短洞察獲取時間,幫助客戶從AI投資中獲得更強勁的業務和財務回報。"
英偉達表示,SCADA支持高速儲存層在安全環境下運行。然而,此類直接訪問儲存介質的技術也存在潛在風險——它可能繞過防止數據"覆寫衝突"(即兩個進程同時向同一數據寫入、互相覆蓋對方內容)的安全機制,這是一個安全隱患,而非正常功能。
此外,直接訪問路徑也可能繞過加密和特權訪問等安全防護機制,為惡意攻擊者留下可利用的漏洞。
SCADA通過分離訪問權限來應對上述挑戰:將訪問任務劃分給不同角色——應用程式的用戶側部分享有原始速度,但處於加密、安全可信計算基之外;獨立的特權計算組件則遵循Linux協議配置受保護訪問,防止數據覆寫衝突的發生。
Q&A
Q1:英偉達cuFile API開源後有什麼實際意義?
A:cuFile API開源意味著開發者和儲存廠商可以直接基於該接口進行優化開發,無需再依賴英偉達的封閉實現。cuFile提供GPU內存與本地分布式儲存之間的直接高速通道,繞過CPU和系統主內存,大幅降低延遲。開源後,更多生態參與者可以針對自身硬體和應用場景進行深度定製,加速AI訓練和推理中的數據讀寫效率,緩解GPU飢餓問題。
Q2:Storage-Next倡議是什麼?有哪些企業參與?
A:Storage-Next是英偉達發起的大規模行業倡議,目標是通過GPU驅動推動儲存與內存技術的優化升級。目前已匯聚40家領先儲存和快閃記憶體廠商,包括DDN、鎧俠和美光科技等。該倡議將儲存廠商、控制器供應商、散熱及編排服務商與標準化機構整合在一起,共同制定下一代AI儲存技術規範,為大規模AI工作負載提供更高頻寬和更低延遲的儲存解決方案。
Q3:SCADA技術是如何解決直接儲存訪問帶來的安全問題的?
A:SCADA(可擴展加速數據訪問)通過拆分訪問權限的方式解決安全隱患。直接儲存訪問可能繞過防止數據覆寫衝突的保護機制,也可能繞過加密和特權訪問控制。SCADA的解決方案是將訪問任務分配給兩個獨立角色:應用程式的用戶側獲得高速原始訪問,但被隔離在安全可信計算基之外;獨立的特權計算組件則依照Linux協議配置受保護訪問,確保數據安全不被破壞。






