生成式AI對各行各業正在產生深遠影響,比如電信行業。隨著生成式AI日益進入商業和消費者的生活方式中,以合適的成本構建合適的基礎設施是網路運營商面臨的最大挑戰之一。
為了更好地擁抱生成式AI,運營商需要構建基礎設施,而面對生成式AI,運營商需要改變已有數據中心,成為面向AI和5G的數據中心。
對加速計算和生成式AI的需求正在推動數據中心架構的根本性變革。軟銀正在創建一個互連的數據中心網路,用於共享資源並託管一系列生成式AI應用。相比以往的數據中心,這些新數據中心需要能夠同時處理AI和5G工作負載。
通過與NVIDIA合作,軟銀使用全新NVIDIA MGX參考架構和基於Arm Neoverse的GH200超級晶片託管生成式AI和無線應用的數據中心,在生成式AI和5G應用之間動態分配GPU資源,以降低成本和更節能。
其中NVIDIA MGX以一個為加速計算優化的伺服器機箱作為基礎系統架構入手,GPU、DPU和CPU可以自由組合。AI訓練和5G等多種任務可以在一台機器上處理,而且可以輕鬆地升級到未來多代硬體。MGX還可以輕鬆集成到雲和企業數據中心。
這些特質顯然對運營商具有巨大的吸引力,一方面他們可以擁抱AI,同時又可以優化已有基礎設施,實現降本增效。
NVIDIA技術正在塑造未來5G、 6G無線和影片通信。
當前運營商正在擁抱RAN,特別是開放式vRAN,而NVIDIA也在強化對vRAN的支持,讓運營商在開放與性能表現取得兼顧。
NVIDIA Grace Hopper和NVIDIA BlueField-3 DPU將加速軟體定義的5G vRAN以及生成式AI應用,而無需定製硬體加速器或專用5G CPU。
此外,配備BlueField-3的NVIDIA Spectrum以太網交換機將為5G提供高精度時間同步協議。
該解決方案在NVIDIA加速的1U MGX伺服器設計上實現了突破性的5G速度,根據公開的5G加速器數據,它實現了業內吞吐量最高的36Gbps下行鏈路容量。
NVIDIA Aerial是一個應用程序框架,實現了5G無線局域網(RAN)的GPU加速信號和數據處理。通過將NVIDIA Aerial軟體引入到高性能的軟體定義的雲原生5G網路中,這些5G基站將允許運營商動態地分配計算資源,並實現比競品高2.5倍的能效。
結語
對於處於轉型中的運營商而言,他們希望能夠抓住5G和生成式AI帶來的市場機遇,而NVIDIA推動以加速計算和AI為標誌的計算革新,幫助運營商構建一個強有力的基礎設施,驅動自身的業務創新。