智能體帶來的一個很明顯的變化，就是上下文變得更長、更連續。
AI Coding是一個典型場景，隨著工程規模擴大，一個任務涉及的代碼、文檔和歷史交互越來越多，上下文很容易達到幾十兆甚至上百兆。
中科曙光集中式儲存產品部總經理郭照斌提到，在這種情況下，如果KV Cache不能及時卸載並在後續推理中復用，即使GPU算力足夠強，也會因為大量重複計算影響Token輸出效率。
針對推理過程中出現的這些新需求，中科曙光在2026年CCF全國資訊儲存技術學術會議上發布了全新疊代升級的AI推理原生儲存FN Neo。與傳統集中式儲存更多承載資料庫、虛擬化和文件共享等通用業務相比，FN Neo將KV Cache納入儲存管理範圍，希望用一套儲存承載中小規模私有化推理中的多類數據。
推理變長之後，集中式儲存還能不能用
推理過程中需要處理的也不只有KV Cache，模型參數、Agent運行的容器環境以及共享數據，都在使用不同層級的儲存資源。
郭照斌提到，從HBM、內存到後端外置儲存，儲存在推理過程中的使用越來越多。對企業來說，如果不同類型的數據分別配置不同的儲存設備，成本也會跟著增加。
集中式儲存需要經過網路訪問，距離GPU也比本地盤更遠，傳統NAS、SAN的協議路徑又相對較長，在追求低延遲的推理場景中，很容易被認為不夠合適。
「無論是大規模共享集群，還是中小規模算力集群，後端採用什麼硬體形態只是其中一個因素，協議處理能力、橫向和縱向擴展能力，以及能不能支撐共享訪問，同樣會影響使用效果。」郭照斌說道。
本地盤位於計算節點內部，訪問時不需要經過外部儲存網路，因此通常具有更短的數據訪問路徑。FN Neo選擇直接提供KV原生語義，希望減少中間環節，同時利用集中式儲存的共享能力，讓多個計算節點訪問同一套後端儲存。
集中式儲存過去存的主要是文件和資料庫，到了AI推理階段，KV Cache也開始進入共享儲存。它會被反覆寫入、讀取和復用，對延遲的要求也更高。FN Neo把KV語義直接放到儲存側，目的就是讓這條訪問鏈路更短。
集中式儲存做推理，四道關要過
FN Neo在多協議、高性能、高可靠和可擴展四方面進行了面向AI推理的深度優化。
要讓集中式儲存真正進入推理鏈路，KV Cache的訪問路徑首先得縮短。FN Neo從統一儲存池直接提供KV、SAN和NAS三種原生協議，減少中間協議和數據轉換。
郭照斌多次提到「原生直出」。協議層級越多，數據經過的路徑越長，延遲也越難控制。三種協議共用底層CPU、內存、網路和NVMe資源，儲存空間也可以在不同業務之間調度。
為了減少共享資源帶來的爭用，中科曙光還在FN Neo中使用了「超級隧道」技術。
「超級隧道」首先解決的是硬體資源競爭。資源共享雖然提高了調度靈活性，但內存、網路、硬碟等硬體資源本身有限。多個協議同時運行，或者單一協議下出現大量並發請求時，如果缺少統一規劃，請求很容易集中到某個節點、網卡或硬碟，形成熱點。「超級隧道」以CPU核心為中心，把鄰近的內存、網路和硬碟資源組織成相對獨立的資源通道，並將儲存陣列和CPU核心劃分到不同的資源線上，先從底層減少不同任務之間的資源爭搶。
另一類解決的是軟體上的競爭。為了保證運行邏輯和數據語義的正確性，傳統軟體通常需要通過鎖機制協調不同任務，但由此也會帶來排隊，時延難以預測。「超級隧道」通過繞開部分作業系統路徑，自定義內存管理和協程機制，並引入無鎖設計、原生語義處理和看板機制，減少軟體層面的等待。再疊加XNIO、XDIO等零拷貝能力，縮短整個數據通路。
基於這套架構，新的協議和語義能力可以直接疊加到現有通路上。比如要支持文件協議，就增加一個處理文件的微服務；要支持KV原生語義，就增加一個處理KV操作的微服務。其他底層能力仍然依託「超級隧道」，這樣既能保持資源調度的靈活性，也能減少新增協議對整體性能的影響。
除了資源劃分外，FN Neo還通過三級負載均衡，對整個數據鏈路進行統一調度。無論一個卷承載的是文件、塊，還是KV原生語義，都可以把請求分散到整個陣列，充分利用底層資源。用戶只需要定義一個卷，就可以調用整個陣列的性能，不需要為了提高並行度再人為拆分多個卷、分別進行並發操作。
在可靠性方面，FN Neo也繼承了FlashNexus全閃陣列已有的能力，包括控制器故障保護、硬碟故障及多盤同時故障保護，以及慢盤的自動檢測和隔離。同時，系統對硬碟的狀態監控、管理和運維進行統一管控，儘量把底層硬體故障對上層業務的影響降到最低。
最後可擴展性方面，為了適應推理算力和儲存需求的變化，FN Neo支持大規模擴展，控制器最多可以擴展到1024個，面向數據中心級的大規模推理應用。擴展分為縱向和橫向兩種方式。如果只是容量不足，可以直接增加不帶CPU的硬碟框，以更低成本擴充儲存容量。如果性能和容量都需要提升，則可以增加控制框，相當於新增一套完整的FN Neo，實現性能和容量同步擴展。
智能體推理全場景，一套儲存怎麼支撐
FN Neo支撐推理場景，要先從原生KV語義說起。當前一種常見做法，是通過文件系統接口完成KV Cache的回讀和回寫，但文件系統本身有一套完整的協議和語義要求，數據在進入KV Cache讀寫鏈路之前，還要經過相應的文件操作。相比之下，KV原生語義直接面向KV Cache的讀寫需求，中間環節更少，協議路徑也更短。
這種差別最終會體現在訪問效率上。對於KV Cache來說，讀寫本身並不複雜，影響性能的一個重要因素是中間經過了多少層協議、多少次數據處理。FN Neo由儲存側直接提供KV能力，省去部分文件系統操作和協議轉換，減少訪問時延和回讀、回寫開銷。
FN Neo還結合了GPU訪問後端儲存的GDR能力，並結合「超級隧道」的零拷貝技術，讓數據儘量減少在CPU、內存和儲存之間的反覆搬運。這樣GPU可以更直接地訪問後端儲存，KV Cache在GPU和儲存之間的流轉路徑也進一步縮短。
在KV原生能力之外，FN Neo還針對元數據和空間管理做了優化。通過高效的空間管理機制，KV相關元數據可以儘可能保留在緩存中，再配合基於Cache Line的檢索加速技術，一次KV定位到具體儲存位置的時間可以控制在300ns以內。郭照斌提到，這樣一來，KV查找本身在回讀、查詢和回寫鏈路中的開銷被進一步壓低，儘量避免檢索過程成為新的性能瓶頸。
KV原生協議除了可以適配曙光近期發布的ParaCache高效管理解決方案，還能夠與LMCache、HiCache等大模型緩存組件對接，也可以作為Mooncake的KV後端，直接提供KV原生語義和相關能力。客戶端採用全用戶態組件，對計算節點上的上層應用改動較小，也降低了接入現有推理系統的複雜度。
從測試結果來看，在單節點8卡的計算環境下，使用DeepSeek-R1模型時，開啟FN Neo的KV Cache卸載能力後，不同上下文長度下的性能可以提升7-12倍。擴展到多節點場景，在兩個節點、每節點8卡的集群中，使用千問2.5模型進行測試，開啟KV Cache卸載後的性能相比未卸載也有6-10倍提升。
FN Neo還可以在多個計算節點之間提供共享NAS儲存能力。相比每個節點各自使用本地盤的文件系統，共享儲存既能提高空間利用率，也能提升單卷訪問能力。郭照斌介紹，本地盤的訪問頻寬通常受單盤能力限制，大約在7GB/s到10GB/s。FN Neo的單卷文件系統頻寬可達到70GB/s，塊協議單卷頻寬則可達到160GB/s，單卷訪問能力相比單盤提升10倍以上。
比如10個計算節點如果都使用本地盤，每個節點都要保存一份相同的模型數據，相當於額外存了9份副本。採用共享儲存後，模型數據只需要保存一份，就可以供多個計算節點共同訪問。
除了NAS協議，FN Neo還提供原生塊協議，用於支持推理過程中常見的向量資料庫場景。對於實時向量資料庫這類對訪問延遲要求較高的應用，可以通過塊儲存提供低延遲的數據訪問能力。另外Docker鏡像可以按需從共享儲存池中劃分空間，不需要再為這類數據單獨準備一套儲存資源。
FN Neo還提供獨享卷和共享卷兩種訪問方式。推理過程中產生的臨時文件、模型文件等中間數據，可以通過儲存端API按需寫入FN Neo。對於lustre、GPFS、BeeGFS等開源並行文件系統，它也可以作為後端儲存底座，承載元數據和共享數據，並在上層提供Posix語義，用來滿足超節點和容器環境下的儲存需求。
寫在最後
儲存一直跟著計算和應用變化，FN Neo也是在推理負載發生變化之後，對原有集中式儲存做出的調整。
FN Neo具備兩大特質：一方面，用一套儲存承載KV Cache、NAS和塊儲存等多類推理需求，儘量降低中小規模私有化部署的起步成本；另一方面，隨著算力集群擴大，再通過橫向和縱向擴展繼續增加容量和性能。
FN Neo想解決的，就是讓這套儲存既能從中小規模推理起步，並隨集群規模擴大增加容量和性能。
