Nvidia今天宣布廣泛推出下一代DGX超級計算平台Nvidia DGX Cloud，使企業能夠訪問Oracle Cloud Infrastructure及其雲服務上的數千個GPU。
Nvidia表示，今年3月在Nvidia GTX大會上公布的DGX Cloud是一項雲託管的AI超級計算服務，讓企業客戶可以獲得他們開始訓練那些面向生成式AI和其他應用的最先進模型所需的一切。
該服務基於Nvidia廣受歡迎的DGX平台，DGX是一種專用硬體產品，企業可以購買並設置在自己的本地數據中心運行。藉助 DGX Cloud，企業不再需要等著直接購買昂貴且頻繁需要使用的平台，而是可以按月租用AI工作負載所需的基礎設施。換句話說，Nvidia正在向更多企業提供它的AI超級電腦，包括那些無力自行部署和管理其系統的企業。
Nvidia解釋說，DGX Cloud的每個實例都支持8個80 GB Tensor Core GPU，意味著每個節點有640 GB的GPU內存。該平台構建在高性能、低延遲的網路結構之上，確保工作負載可以跨互連繫統集群進行擴展，通過這種方式，多個DGX Cloud實例就可以充當一個巨大的GPU來處理最苛刻的工作負載。
DGX Cloud平台與Nvidia AI Enterprise軟體配合使用，讓客戶可以訪問100多個AI框架和預訓練模型，這樣他們就可以構建、完善和操作定製的大型語言，並且用他們自己專有的數據訓練生成式AI模型，用於獨特的、特定領域的任務。
Nvidia還提供了對Base Command軟體的訪問，用於管理和監控DGX Cloud上的訓練工作負載，確保DGX Cloud可以與本地DGX平台協同工作，從而讓企業在需要時可以把這些資源組合起來。
Nvidia此前曾宣布，單個DGX Cloud實例的起價為每月36999美元，並且可以根據客戶需求立即擴展。
DGX Cloud率先登陸Oracle的雲基礎設施，隨後是微軟的Azure平台上，以及Google Cloud。目前Nvidia還沒有提及雲行業領導者AWS是否也將託管DGX Cloud。
Constellation Research副總裁兼首席分析師Andy Thurai表示，隨著企業希望構建更大、更好的生成式AI模型，單個GPU集群已經不足以滿足他們的需求了，因此超級電腦就變得很有意義。他指出，Nvidia並不是唯一一家走超級電腦路線的公司，HPE（及其Cray）和Cerebras Systems等初創公司已經證明了這一點。
Thurai表示，儘管Nvidia在AI訓練領域占據主導地位，但實際上可能面臨來自這些競爭對手的激烈競爭。他說：「就HPE而言，GreenLake for Large Language Models產品可能更具吸引力，因為它更環保，碳足跡接近於零。相比之下，Nvidia的超級電腦集群是一個巨大的能源消耗體。」
Thurai指出，這可能會在某些高性能計算AI用例中產生影響，例如基因組分析、藥物發現和蛋白質模型，這些都需要高強度的計算能力。
儘管如此，Nvidia仍然是迄今為止最重要的AI訓練基礎設施提供商，因此DGX Cloud看起來與其他任何事情一樣，都是一項戰略性的舉措。Thurai解釋說：「鑑於GPU的供應短缺和極高的需求，Nvidia並不想出售晶片並賺取數萬億美元，而是希望擁有這些晶片並將其作為服務出租以賺取更多的錢。」
然而，Thurai質疑Nvidia按月租用DGX Cloud的做法對於某些客戶來說是否太過分了。相比之下，HPE和Cerebras都是計劃通過即用即付的模式提供服務。他說：「月租可能會吸引一些非常大的語言模型構建者，但這是一個臃腫且非常昂貴的提議，被許多企業視為矯枉過正。」
無論如何，Nvidia相信，DGX Cloud的上市將為生成式AI帶來巨大的福音，加速推進生成式AI的潛在用例。Nvidia指出，該平台的早期採用者已經取得了一些令人印象深刻的成就。
例如，有多家醫療公司一直在使用DGX Cloud訓練蛋白質模型並加速藥物發現和臨床報告。與此同時，有些金融服務公司正在使用該平台優化投資組合、預測趨勢、構建推薦引擎和智能聊天機器人。還有保險公司使用DGX Cloud構建可以自動化大部分索賠流程的模型。
Moor Insights & Strategy分析師Patrick Moorhead在Nvidia提供的評論中表示，快速採用生成式AI已經成為企業的一項關鍵業務需求，許多企業一直在熱切等待DGX Cloud的推出。他補充說：「Nvidia DGX Cloud的上市提供了一個新的、幾乎可以即時訪問的AI超級計算資源池。」
