AI現在風頭正勁。圍繞生成式AI湧現了一系列舉措,幾乎每家科技企業都急於將大型語言模型整合到他們的產品中。其中,微軟是ChatGPT背後公司OpenAI的長期投資者。上周,微軟向我們展示了大型語言模型將如何顯著改變微軟辦公產品的用戶體驗,很有說服力。
但是,AI並不僅僅局限於大型語言模型,正如近日Nvidia在年度GTC大會上提醒我們的。AI正在改變從零售防損到醫療診斷的方方面面,通過數據解釋可以帶來更高價值任何方面都適合試水AI。
Nvidia正處於這場革命的中心。Nvidia的GPU是業內最常見、最強大的。除了硬體之外,NVIDIA還通過軟體工具推進Nvidia的普及,這些軟體工具涵蓋了從邊緣推理到自動駕駛再到醫學成像的各個領域,潛力無限。奇妙的是,Nvidia大部分的軟體都是可以免費使用的,只需要Nvidia的GPU即可真正交付。
生成式AI的吸引力
生成式AI(例如OpenAI的ChatGPT)推動了對最新一代Nvidia加速器的強勁需求。Nvidia公司首席執行官黃仁勛告訴我們,由於過去三個月這個領域發生的變化,與大型語言模型推理直接相關的加速器銷量已經「飆升」到Nvidia對該技術的看法「發生了巨大變化」的程度。
即使是處理生成式AI的推理任務也需要大量資源,這對小公司來說成本過高,導致企業資本支出較高,這時候雲就可以發揮作用了。黃仁勛對此表示認同,並稱,雲服務提供商正在推動巨大的需求,而我們才剛剛開始。
在他看來,雲服務提供商化身AI「工廠」,其中生成的最終產品都是智能的,這些公司將混合本地環境和雲環境,其中雲占據大多數。
雲中的Nvidia
使用最先的機器學習,其挑戰之一就是硬體相對成本較高。Nvidia沒有公布自己高端加速器的價格,但估計最新一代基於Hopper的GH100價格就接近30000美元。如果你使用了其中一款加速器,那麼投入的資本就很多了。這時候公有雲就可以派上用場了。
每個雲服務提供商都提供了基於Nvidia產品的加速實例,其中很多產品可以追溯到多代之前。在高端方面,Azure、AWS、Google Cloud和Oracle Cloud都提供了基於Nvidia A100加速器的實例類型,而且這些雲服務提供商很快也將支持最新一代的H100,其中Azure已經在預覽新的實例了。
根據Liftr Insights對全球六大雲服務提供商的雲實例進行追蹤顯示,Nvidia GPU在公有雲GPU加速實例中占到了93%多。其中,絕大多數是基於Nvidia Ampere架構的;其他還包括Nvidia的A100、A10G和A10加速器,未來還將包括新的H100加速器。
市場正在對雲驅動的AI模型做出響應。在Nvidia最近的財報電話會議上,首席財務官Colette Kress表示,「隨著越來越多的企業客戶轉向採用雲優先方法,去年雲服務提供商客戶收入增長顯著超過了數據中心收入的整體增長。雲服務提供商客戶連續四個季度占到我們數據中心收入的約40%。」這一點很重要。
Kress接著說,以收入計算,2022年第四季度市場對新H100加速器的需求已經「遠高於」A100。
Nvidia DGX雲
Nvidia早在2017年就推出了交鑰匙型的DGX「深度學習超級電腦」,並隨著新一代加速器的推出不斷對其更新。最新一代Nvidia的DGX H100是一款功能強大的系統。該系統結合了8個Nvidia H100 GPU和640 GB的GPU內存,以及2個最新的英特爾至強處理器的56核版本,全部與Nvidia NVLink進行互連,可以提供32 petaFLOPS的性能。
黃仁勛在最近一次財報電話會議上宣布,將以Nvidia「DGX Cloud」的方式直接通過雲服務提供商提供這種DGX系統。他表示,「NVIDIA DGX是一台AI超級電腦,也是正在全球建設的AI工廠藍圖。構建AI超級電腦既困難又耗時,今天我們宣布推出Nvidia DGX Cloud,是擁有自己的DGX AI超級電腦最快、也是最簡單的方法。您只需打開自己的瀏覽器即可獲得。目前,Oracle Cloud infrastructure和微軟Azure已經提供Nvidia DGX雲,未來谷歌GCP等公司也將提供支持。」
這個強大的系統為AI研究人員和那些希望利用前沿AI技術的商業實體降低了准入門檻。在推出DGX Cloud之前,IT管理員被迫通過公有雲產品組裝他們的AI基礎設施。DGX雲通過這個過程消除了一定的複雜性。
Nvidia DGX提供了多種選擇,其中包括獨立的NVIDIA DGX A100和H100系統、NVIDIA DGX BasePOD參考架構和NVIDIA DGX SuperPOD一站式人工智慧數據中心解決方案。目前DGX雲是通過雲服務提供商提供的DGX H100。
分析師觀點
Nvidia數據中心業務的表現讓遊戲業務黯然失色。在過去的二十年裡,Nvidia戰略性地投資於支持企業AI。利用Nvidia提供的工具為一系列支持AI的應用構建系統是非常簡單的,而且這在工業邊緣是真實的,你可以想像得到,它在最高性能的深度學習集群中同樣奏效。
Nvidia的優勢在於硬體工程和軟體支持。Nvidia種類繁多的雲原生軟體讓這一切變得簡單,而高性能是通過Nvidia硬體體現的。
通過公有雲合作夥伴直接向用戶提供DGX是很有意義的,這些合作夥伴已經為Nvidia的財報帶來的好處。這種模式為高性能AI帶來了類似雲的效率。雲服務提供商吸收資本支出,同時將其分攤到廣泛的客戶群中,而最終客戶則獲得了負擔得起的雲接入。
在過去六個月中,大型語言模型帶來的變化令人難以置信。將其與AI世界中其他一切結合在一起,可能帶來無限的可能性,只有通過Nvidia的不斷創新才能實現的可能性。