近日LaminiAI首席執行官Sharon Zhou表示,AMD已經出貨用於人工智慧(AI)和高性能計算(HPC)的Instinct MI300X計算卡。據了解,LaminiAI得到了多台裝載Instinct MI300X的機器,每台配有8塊Instinct MI300X計算卡。這意味著,Instinct MI300X開始為企業運行大型語言模型(LLM)。
AMD開始出貨Instinct MI300系列已經有一段時間了,預計新產品可能成為其歷史上銷售最快的產品,目前已達到10億美元。對於AMD來說,這是一個重要的里程碑,將向英偉達主導的人工智慧晶片領域發起挑戰。首批Instinct MI300系列提供了兩款產品,分別是Instinct MI300A(CPU GPU)和Instinct MI300X(純GPU)。
Instinct MI300X採用了小晶片設計,混用5nm和6nm工藝,電晶體數量達到了1530億個。其使用了第四代Infinity Fabric解決方案,共有28個模塊晶片,其中包括8個HBM和4個計算晶片,而每個計算晶片擁有2個基於CDNA 3架構的GCD,共80個計算單元,意味著有320個計算單元和20480個流處理器。出於良品率的考慮,AMD削減了部分計算單元,實際使用數量為304個計算單元和19456個流處理器。此外,HBM3容量達到192GB,提供了5.3TB/s的內存帶寬和896GB/s的Infinity Fabric帶寬。Instinct MI300A則是一款APU設計。其擁有24個基於Zen 4架構的核心,另外減少了1個計算晶片,使得計算單元數量也減至228個,對應14592個流處理器。
目前已經有不少大型雲端伺服器運營商採購Instinct MI300系列產品,有消息稱,今年預計出貨量為30萬至40萬,其中最大的客戶是谷歌和微軟,不過LaminiAI是首家確認已在使用Instinct MI300X計算卡的公司。