過去三年裡,人工智慧(AI)熱潮席捲了科技行業,也為雲服務供應商和晶片製造商帶來了不少的麻煩,一直無法滿足日益增長的市場需求。最早是GPU,後來又到了DRAM和NAND閃存,始終伴隨著供應短缺的問題。現在存儲類的需求仍然沒有滿足,另外一個潛在的供應問題已經開始顯現,那就是CPU。

據Wccftech報道,GPU早已經不是雲服務供應商的最大瓶頸,現在問題轉移到了CPU身上。之前執行AI任務的GPU主要是簡單的推理任務,隨著新模型的出現,這些任務也在不斷演變。伴隨模型數量激增和需求呈指數增長,代理AI
現被用於調用資料庫,並與高度依賴CPU的任務進行對接。這些調用資料庫和更多CPU密集型任務,導致雲數據中心的CPU使用率急劇上升。
現階段GPU在服務AI群體的雲伺服器中依然占據主導地位,但是CPU與GPU之間的差距正在縮小,GPU與CPU的比例相近。CPU無法滿足龐大的需求已經導致資料庫不穩定,用戶提交的請求不能得到及時的回應。
早在數個月前,英特爾已經發出了警告,將更多的產能放到伺服器產品上,並提高了消費端產品的價格,隨後AMD也作出了類似的決定。Arm CPU受到的衝擊更為嚴重,過去x86供應較少,Arm資源較多,不少公司將代碼庫從x86遷移到Arm,使得現在情況變得更加棘手。






