NVIDIA可以說吃盡了AI的紅利,推出的推理卡供不應求,從而讓企業的營收大幅增加,此外由於NVIDIA打造了相對完善的AI生態,因此許多客戶都願意選購NVIDIA的AI計算卡,也讓NVIDIA的計算卡越來越貴。當然AI這塊肥肉顯然不只是NV獨享,其他廠商也想要從NV手中搶奪更多的市場份額,例如AMD。目前AMD就表示本周將會推出全新的Instinct MI350系列AI計算卡,擁有數十倍的AI推理能力提升,未來將會成為NVIDIA最強大的競爭對手。
作為AMD旗下最強大的AI計算卡,Instinct MI350系列能夠擁有288GB的HBM3E內存,顯存帶寬達到了8TB/s,採用3nm製程工藝,同時採用AMD下一代「CDNA 4」架構,此外在算力上,Instinct MI350單卡支持4.6PFLOPS的FP16算力,FP4算力為18.45PFLOPS,而Instinct MI355X單卡則擁有20.1TFLOPS的FP4算力,當然如果你覺得這些計算卡的性能還不夠,AMD也準備了AI超算,通過多塊計算卡實現更高的推理性能。相比較上一代,Instinct MI350系列計算卡最高可以實現35倍的推理性能提升。
除此之外,考慮到數據中心對於功耗的敏感度,因此Instinct MI350在提供更高AI運算性能的同時,也大幅優化了運行的效率,進而減少計算卡的能源消耗,AMD希望未來AI廠商可以購買AMD Instinct MI350計算卡來組建能夠與NVIDIA相抗衡的AI超算以及AI生態系統,對NVIDIA在AI領域幾乎壟斷的局面進行有效地挑戰。