如今AI行業可謂蓬勃發展，廠商們也願意花費大價錢去購買AI訓練以及推理設備，可以說現在的AI設備已經處於嚴重供不應求的狀態，完全就是搖錢樹和印鈔機，因此越來越多的廠商投入到AI訓練以及推理晶片的研發中，目前著名的移動處理器製造商高通就宣布了兩款為AI特別打造的加速卡，主要用於AI推理等領域，具備超大規模的內存以及帶寬。
據悉高通推出了兩款加速卡叫做AI200及AI250，基於高通自家的Hexagon NPU打造，其架構與手機版的NPU相差不大，不過高通並沒有表示這兩款加速卡的具體規格是多少。據悉考慮到這兩款加速卡主要是為AI推理打造，因此需要巨大的內存以及帶寬，高通稱它們可以最高搭配768GB的LPDDR系列內存，除此之外高通也針對內存通信進行了特別的優化，大幅提升了內存的能效，從而降低在滿載情況下加速卡的功率。
相比較AI200，AI250可以提供10倍的內存帶寬，這對於重度AI推理企業來說尤其重要，此外高通還準備了液冷散熱系統以及160KW機櫃來滿足加速卡的滿載運行。據悉高通希望AI200計算卡在2026年和大家見面，至於2027年則將推出AI250加速卡。目前已經有客戶選用了高通計算卡，在沙特開始建造全新的數據中心，以滿足AI推理的需求。
可以說隨著越來越多的廠商進入到AI行業，AI加速卡的供應將會越來越多，預計整個行業的單位推理成本也將有所下降，當然AI也將給這些企業帶來巨大的營收與利潤。
