2022年底，ChatGPT的發布標誌著AI流量史無前例的爆發。儘管彼時仍是一款基礎的生成式AI聊天機器人，其月訪問量在2022年11月便急速攀升至1.52億次，此後三個月內突破10億次，到2024年底更接近40億次。而這，僅僅是AI浪潮的第一波。
數據中心專家、AIDC Debate播客聯合主持人弗拉基米爾·加拉博夫表示："2025年釋放的第二波生成式AI浪潮，將在2030年前推動流量增長100倍，而智能體AI的興起將使這一數字再躍升15倍。"
如此規模的流量需要大量圖形處理器（GPU）和驚人的電力供應。然而，一個鮮少被關注的領域同樣不可或缺——那就是支撐AI工作負載體量與速度的網路骨幹基礎設施。
思科董事長兼首席執行官查克·羅賓斯在2026年6月的思科Live大會主題演講中指出："AI將在三年內使網路流量增至三倍。"
這一信號對數據中心運營商和設計師而言已十分明確：AI基礎設施規劃不能再止步於GPU、電力與冷卻系統。隨著AI工作負載不斷擴大且日趨分散，網路正在成為整體設計方程中更為核心的組成部分。
AI驅動的網路流量激增，部分原因在於AI工作負載類型的轉變。聊天機器人的請求往往帶來高度波動的網路需求——查詢和響應呈現出驟升驟降的峰谷形態。而智能體AI則截然不同，其工作模式更為持續穩定，通常能長期保持高負荷運行狀態。
思科總裁兼首席產品官傑圖·帕特爾指出，AI智能體消耗的網路資源是人類的數倍之多。
"這一網路超級周期意味著，隨著AI工作負載規模不斷擴大，數據中心應當系統審視其網路基礎設施。"帕特爾說。
計算密集，通信同樣密集
大語言模型的訓練與AI推理，都依賴於在數千乃至數十萬塊GPU之間傳輸海量數據。一旦網路跟不上節奏，利用率將下滑，延遲將攀升，數據中心的經濟性也將隨之崩塌。
Dell'Oro集團副總裁薩梅·布傑勒貝內表示："網路實際上就是電腦本身。AI工作負載不僅是計算密集型，更是通信密集型的。"
她指出，AI數據中心已從根本上改變了行業格局——網路不再是單一的層級結構，而是正在演變為三張相互獨立的結構層：
縱向擴展：通過在機架內部添加更強大的設備和GPU來提升單機架的算力上限。
橫向擴展：通過增加更多機架來擴大整體計算規模。
跨域協同：將多個數據中心聯動起來，使其協同運作，相當於一台超大型電腦，共同應對複雜的AI計算任務。
布傑勒貝內進一步指出，AI流量的增長不會是線性的。由於這些網路層級的存在以及AI應用的不斷演進，流量將呈指數級複合增長。
"每一層都會帶來遠超傳統數據中心網路的頻寬倍增效應，"她說，"橫向擴展的AI網路所需頻寬約為傳統非AI網路的10倍，而縱向擴展則可能將這一需求推至近100倍。"
例如，更大的模型會在集群內部產生更多的東西向流量。隨著推理工作負載逐步超越訓練工作負載，網路壓力也從偶發性的訓練任務轉向了始終在線的生產負載。
智能體AI又疊加了新的倍增效應——智能體並非只需回答一次，而是需要持續規劃、調用工具、檢索數據、生成內容、執行校驗並完成多步驟行動。網路負載隨著模型規模、用戶需求以及工作流複雜度的提升而同步攀升。
網路刷新的考量
思科近期推出了一系列專為AI設計的網路、交換與路由新產品，Marvell、Arista Networks、英偉達
和博通等廠商也相繼推出了AI網路設備。
StorageIO諮詢公司創始人兼高級分析師格雷格·舒爾茨指出，提升網路速度和頻寬的升級改造必然伴隨一定成本。但隨著AI使用量的持續增長，這筆投入將越來越難以推遲。
"將眾多IT資源互聯互通以支撐AI，是機架內外、集群內外乃至數據中心之間流量傳輸的共同瓶頸，"舒爾茨說，"除了流量體量的增長，流量速率同樣將大幅提升，與AI應用和工作負載相關的流量在規模與類型上也將呈現出巨大差異。"
如何備戰網路超級周期
面對密集伺服器和滿載GPU機架的擴容規劃，數據中心設計者和運營商在網路層面應當做哪些準備？
持續監測：舒爾茨建議，應及時掌握網路、計算/GPU、儲存以及軟體與應用的運行狀態，形成動態感知能力。
建立歷史視圖：同時需要對應用工作負載及其資源使用情況、功耗與冷卻需求保持歷史維度的追蹤與記錄。
為智能體間通信與私有AI做好準備：舒爾茨表示，"數據中心應預判智能體間的交互流量將顯著增加，更多模型將以私有化、本地化方式訓練和部署，雲端及資源提供商之間的AI活動與流量也將全面提升。"
部署AI賦能的管理工具：舒爾茨指出，這不僅需要更充裕的電力、冷卻與網路資源，還需要具備AI能力的網路與數據基礎設施，以及相應的資源管理工具，用於異常檢測、流量負載均衡、優先級策略與性能優化，以及對未來資源需求的預測研判。
讓網路真正匹配AI的需要
當前，行業的大量注意力集中在如何獲取並充分利用儘可能多的GPU上，由此自然引發了關於如何獲取更多電力、如何保持GPU冷卻的討論。而網路這一環節，長期以來獲得的關注相對有限，如今已是正視其重要性的時候了。
"真正的問題不僅僅是一個機架里能塞下多少塊GPU，"布傑勒貝內說，"而是網路結構能否讓這些GPU保持高利用率、實現高效協同並在規模上持續高效運行。"
她對數據中心設計者的建議是：轉變傳統觀念，不要再將網路視為純粹的後端管道。
"在高密度GPU集群中，網路本身就是AI系統的組成部分，"她說，"從第一天起，就應將頻寬、延遲、擁塞控制、拓撲結構、光學互連、遙測能力和系統韌性納入核心設計考量。"
Q&A
Q1：AI智能體為什麼會大幅增加數據中心的網路流量？
A：與普通用戶的單次問答不同，AI智能體需要完成多步驟任務，包括規劃、調用工具、檢索數據、生成內容、執行校驗等一系列操作，每個步驟都會產生網路通信。此外，智能體通常保持長時間高負荷運行，而非產生短暫的流量峰值。據思科總裁傑圖·帕特爾表示，AI智能體消耗的網路資源是人類用戶的數倍，因此其大規模部署將對數據中心的網路基礎設施帶來前所未有的壓力。
Q2：數據中心網路的三張結構層分別是什麼？
A：根據Dell'Oro集團副總裁薩梅·布傑勒貝內的劃分，AI數據中心網路正演變為三張獨立的結構層：一是縱向擴展，即在單個機架內增加更強大的GPU和設備；二是橫向擴展，即增加更多機架以擴大整體計算規模；三是跨域協同，即將多個數據中心聯動運作，使其如同一台超大型電腦協同處理複雜AI任務。每一層都會帶來大幅超越傳統網路的頻寬需求，橫向擴展約需傳統網路10倍頻寬，縱向擴展甚至可達100倍。
Q3：數據中心該如何為網路超級周期做準備？
A：StorageIO諮詢公司的格雷格·舒爾茨給出了四點建議：第一，持續監測網路、GPU、儲存及應用的實時運行狀態；第二，建立歷史視圖，追蹤工作負載的資源消耗與功耗趨勢；第三，提前為智能體間通信和私有AI部署做好準備；第四，引入具備AI能力的網路管理工具，實現異常檢測、流量均衡、資源優化與需求預測。總體而言，網路應從設計之初就被納入AI系統的核心組成部分來考量，而非事後補充的基礎設施。
