
關注IT支出的朋友可能發現一個悖論:用於支持生成式AI的基礎設施開銷正在迅速提升,英偉達收入與利潤兩路狂飆的現實已經清楚證明了這一點。然而數據中心硬體層面的總支出並沒有發生太大變化,且目前來看支出的主要增長點將集中在服務領域,其更多是為了減輕其他類型的工作、而非指望生成式AI獨力支撐起銷售預期。
當然,超大規模基礎設施運營商和雲服務商是個例外,他們每季度都會砸下幾百億美元來構建龐大的AI訓練與推理系統。這裡想要強調的是,哪怕作為整體已經在IT行業的支出中占據主導地位,這些巨頭大廠也並不是全球經濟的全部。另一半支出比例仍在為生成式AI進行概念驗證與早期部署,而且進展比預想中更加緩慢。
在回顧Gartner發布的IT支出最新預測以及該公司在《IT支出預測,2024年第一季度更新版:生成式AI——錢都花到哪裡了?》報告中的統計數據後,我們不禁要對生成式AI造就的繁榮景象做出一番深入剖析。
對於「錢都花到哪裡了?」這個問題,答案倒是非常明確:都跑到英偉達手裡去了。
但實話實說,根據IDC和Gartner去年公布的伺服器與存儲支出數據,似乎可以斷言除了網際網路巨頭之外,IT組織其實一直在刻意推遲在通用型IT基礎設施方面的支出,並把省下的錢投入到生成式AI設施中去。而且與此同時,超大規模基礎設施運營商和雲服務商也有類似的戰略方針。於是乎,伺服器、存儲與交換機層面的總體支出並沒有隨著生成式AI的普及而大幅增長。事實上,多年以來搭載GPU加速器的AI伺服器的主要作用,僅僅是支撐起伺服器的平均售價、進而拉高伺服器的整體收入。這就讓人們很容易產生一種錯覺,以為世界上每一家負責提供基礎設施(包括列印、文件、Web、應用程序和資料庫伺服器)的伺服器業務廠商都在健康運行。事實並非如此,在這個競爭激烈的製造業領域,OEM和ODM廠商早已沒有什麼利潤空間可言。
Gartner剛剛發布的最新IT支出預測整理於3月底,我們在其中同樣看不到網際網路行業在伺服器支出方面的繁榮態勢。一起來看下表:

2023年及2024年的預測與實際數據中心系統支出均發生了一系列變化,我們認為這肯定是反映出超大規模基礎設施運營商及雲服務商在AI支出方面的增長。
以具體數字入手。2023年7月,Gartner表示據各IT供應商的統計,2022年數據中心系統總支出為2212億美元,到2023年這一支出下降1.5%至2179億美元,2024年則將增長8.1%至2355億美元。
今年1月除公布2022年及2023年數據中心系統銷售額最新數據之外,Gartner還對2024年提出了新的預測。根據最新調整,Gartner估計2022年伺服器、存儲及交換機的銷售總額為2269億美元,而2023年將同比增長7.1%至2431億美元,2024年進一步增長7.5%至2613億美元。也就是說,2023年的IT支出絕對值將增加252億美元,2024年則預計增加258億美元。要想知道這些增長從何而來,我們就得按IT產品類別與年度/季度周期具體分析。
在4月剛剛公布的最新預測中,Gartner發現數據中心系統的銷售額比預期要低一些,為2362億美元,增幅僅4%。但預期銷售額將增長10%,達到2597億美元。而且雖然有這10%的增長空間,但其絕對值仍低於今年1月時的預期,而且多出來的增長比例純粹是因為2023年的銷售額就沒達到目標。從絕對值來看,最新預測認為2023年數據中心系統的銷售額將比之前的預期減少69億美元,2024年將減少17億美元。所以還是同樣的結論:除AI伺服器以外的伺服器支出將呈現出進一步衰退的態勢。
下面我們先來看IT支出的長期趨勢,而後深入了解Gartner眼中的生成式AI支出走向。
下面是一份巨大的表格,其中包含Gartner過去十幾年來的全部公開IT支出統計與今年的預測數據:

在此表當中,Devices(設備)一行是指個人電腦、平板電腦及智慧型手機,Telecom Services(電信服務)則指全球企業在語音及數據服務方面的支出。為所有服務提供商(包括電信公司及有線電視運營商)提供的應用程序與系統服務,均隸屬於IT Services類別,超大規模基礎設施運營商及雲服務商提供的免費IT服務同樣屬於這個部門。
為了增強數據的相關性,我們提取出所謂核心IT收入,即數據中心系統加企業軟體再加IT服務的部分,並根據每年的全球國內生產總值(GDP)增幅來衡量其實際增長。我們還計算了核心IT收入在IT總支出中所占的比例。
如大家所見,除了少數例外,核心IT的增長速度普遍高於全球GDP,在某些情況下甚至是高得多。而且更重要的是,在這短短十幾年時間裡,核心IT所占的IT支出比例已經由三分之一強增長至超過一半,甚至可能在不久的將來進一步增長至三分之二。
下圖所示,為全球GDP、核心IT支出與IT總體支出的比照結果:

以下圖表則明確展示了IT總支出的增長情況,以及核心IT三大組成部分的各自增長態勢:

儘管數據中心業務仍在不斷擴張,但這也是一條相當艱難的發展路線。隨著IT基礎設施變得越來越複雜,配套軟體和服務也與日俱增,這一切都要求從業企業以承包或者聘請顧問的形式從外部尋求助力。
最後,在討論生成式AI掀起的增長效應之前,先來看數據中心系統在這13年間的原始支出以及計算通貨膨脹之後的情況:

2018年伺服器、存儲及交換機支出的這一波激增,屬於多種因素綜合作用之下的結果:超大規模基礎設施運營商和雲服務商在通用基礎設施上的投入迅速增長,第一波大規模AI設施投入出現,再加上姍姍來遲的企業設施升級周期等等。而且在新冠疫情流行期間,即使是考慮到通貨膨脹的因素之後,IT支出也仍然保持增長,反映的是AI發展的又一波衝擊。我們認為,數據中心系統支出的增長主要歸結於AI伺服器,其他證據也佐證了這一點。
根據Gartner副總裁兼分析師John-David Lovelock的介紹,預計2024年AI伺服器的採購總量將達到608億美元。超大規模企業(即前文中的超大規模基礎設施運營商及雲服務商)將在其中占據57.6%的份額,其他規模較小的服務提供商占據11.5%,即70億美元。普通企業在AI伺服器支出中占100億美元,比例為16.4%。另外還有88億美元,即14.5%的比例源自其他組織支出——我們猜測為初創公司、高性能計算(HPC)中心等。
根據Lovelock展示的圖表,普通企業的AI伺服器支出預計將比2023年增長近一倍——也就是來到45億美元左右;服務提供商預計增長至2023年的約1.4倍,而超大規模企業較2023年增長至1.6倍。而如果反向計算,則意味著AI伺服器的支出將從2023年的315億美元增長接近2倍(具體為1.95倍)。
但在從Gartner發布的2023年及2024年數據中心系統數據中提取素材時,必須小心謹慎。因為我們無法剝離AI系統中的交換機與存儲組件,可又不能放任不管。因為如果假定AI集群中的網路組件平均占總硬體成本的15%、而存儲約占10%,那麼2024年AI數據中心系統的支出將增長至約810億美元,占整個數據中心系統市場的31%。
更進一步來看,假設2023年AI集群的交換機與存儲支出比例不變,那麼2023年AI系統支出約為420億美元,占所有工作負載及系統類型數據中心總支出的18%左右。這意味著今年內AI伺服器的支出預計將增長近一倍。(請注意,這些都是我們的判斷和算法,與Gartner無關。)
從感性層面分析,這些數字基本符合預期,也基本符合IDC在2023年10月伺服器數據報告中提供的AI伺服器支出細分走勢。
所以讓我們繼續推進。
我們認為2022年AI數據中心系統的支出相對較低,可能只相當於2023年的四分之一。如果我們對市場上的通用伺服器部分進行計算,那麼2023年非AI數據中心系統的總收入下降了10.3%至1920億美元。再結合前文提到的各項數字,意味著非AI數據中心系統收入將在2024年進一步降低8%,來到1790億美元。
到這裡,「錢都去哪了」的問題已經有了明確答案:全世界都在為生成式AI項目買單。但跟之前的網際網路繁榮時代不同,那時候恰逢1998年的「千年蟲」危機,導致企業採購大量冗餘系統。而如今,買家們實際是在壓縮常規IT支出,用省下來的錢購買AI基礎設施。
總之,除了財力雄厚的超大規模基礎設施運營商和雲服務商之外,人們普遍變得更加明智,選擇不斷延長伺服器、存儲及交換機的使用年限,同時以持幣觀望的心態見證這波生成式AI浪潮的未來走勢。