儘管伺服器總出貨量有所減少，但平均每台伺服器搭載8塊H100，AI熱潮仍為英偉達帶來可觀收益。
Omdia發布統計，認為在一定時期之內，伺服器市場將繼續以GPU為最主要的核心組件。這家市場研究機構估計，單英偉達H100 GPU這一款產品在今年第二季度的出貨量就超過了900噸。
這個引人注目的數字來自Omdia最新一輪雲與數據中心市場統計更新，報告提到數據中心的投資重心正持續發生顯著轉變。報告稱，市場對配備八GPU的AI處理型伺服器的旺盛需求推高了平均價格，同時也擠占了本應用於其他領域的投資。
有鑑於此，Omdia再次將2023年的伺服器年出貨總量下調100萬台，較去年下降17%至1160萬台。但與此同時，隨著超大規模基礎設施運營商花重金購置這些高規格伺服器，目前伺服器的平均交易價格的環比與同比增幅均已超過30%。
這份報告還指出，已經有超30萬塊英偉達H100 GPU進入到伺服器製造商的裝配線。而「900噸」這個數字是按單GPU加散熱器約3公斤的重量相乘得出。
目前每塊H100的價格約為2.1萬美元，簡直令人瞠目結舌。據此計算，Omdia預計2023年全球伺服器市場的總收入將達到1140億美元，同比增長8%，但單位出貨量會出現顯著下滑。
Omdia表示，這波對搭載高端GPU的AI伺服器「尖貨」的巨大需求，主要是由超大規模基礎設施運營商和雲服務商所推動。而新浪潮的受益者，自然就是那些伺服器原始設計製造商（ODM），即我們俗稱的白盒供應商。
Omdia方面宣稱，第二季度內出貨的八GPU伺服器當中，有很大一部分是由ZT Systems所製造。這是一家總部位於美國的雲伺服器私營製造商，近段時間發展勢頭相當迅猛。而之所以有此判斷，是因為英偉達第二季度135億美元的收入當中有17%來自單一供應商，而英偉達CEO黃仁勛在台北電腦展期間展示過一台由ZT Systems製造的DGX伺服器。
Omdia還認為，第二季度市場對八GPU伺服器需求的增長，可能主要歸功於Meta的批量採購。因為英偉達此前曾經表示，本季度有22%的收入由單一雲服務商貢獻而來。
展望未來一段時間，這股勢頭似乎並無放緩的趨勢。這份報告預測，今年下半年及2024年上半年，用於處理AI負載的伺服器還將繼續廣受歡迎、遍地開花。
但Omdia同時預測，隨著企業需求的回升，當前第三季度和今年下一季度的常規伺服器需求將出現超越正常季節性波動的強勢反彈。預計第三季度收入將同比增長13%，第四季度更將加速至29%。
Omdia還給出具體預測數字，認為八GPU伺服器的持續部署將拉動伺服器市場在2024年上半年實現同比51%的收入增幅，屆時預計將有100萬塊H100 GPU完成部署實裝。
但這家分析機構也警告稱，超大規模基礎設施運營商和雲服務商在AI訓練領域的快速投資，並不能直接反映AI技術的快速普及。報告強調，目前AI技術的使用率仍然普遍較低，其中還援引一項調查結果，發現只有18%的美國原價使用過ChatGPT。據技術媒體The Register的最近報道，生成式AI目前在企業雲計算成本中仍只占很小一部分。
此外，巨額投資撐起的這些AI訓練用GPU系統往往能耗巨大，吞噬自然資源的速度遠超想像。最近一位媒體行業高管就警告稱，除非採取更激進的行動來貫徹可持續實踐方案，否則AI最終將「吸乾整個世界」。
在線廣告跟蹤技術商Ad Signal公司CEO兼創始人Tom Dunning在本月於阿姆斯特丹召開的國際廣播大會（IBC）上發表講話，稱雖然不可能強行阻止各類組織放棄AI背後的商業利益，但顯然「迫切需要最大限度降低由此帶來的碳排放負擔」。
Dunning宣稱，目前數據中心設施的二氧化碳排放量已經占全球總體二氧化碳排放量的2.5%至3.7%。而從現在到2030年，AI技術的普及預計將以37%的複合年增長率（CAGR）長期保持遞增。
