AMD在太平洋標準時間2023年12月6日早上10點(推出了新一代針對數據中心的Instinct MI300系列計算卡。AMD表示,新產品具有業界領先的生成式AI內存帶寬,在大型語言模型(LLM)訓練和推理方面具有領先性能,結合了最新的CDNA 3架構和Zen 4架構,可為HPC和AI工作負載提供突破性的性能。
首批Instinct MI300系列提供了兩款產品,分別是Instinct MI300A(CPU GPU)和Instinct MI300X(純GPU)。
Instinct MI300X採用了小晶片設計,混用5nm和6nm工藝,電晶體數量達到了1530億個。其使用了第四代Infinity Fabric解決方案,共有28個模塊晶片,其中包括8個HBM和4個計算晶片,而每個計算晶片擁有2個基於CDNA 3架構的GCD,共80個計算單元,意味著有320個計算單元和20480個流處理器。出於良品率的考慮,AMD削減了部分計算單元,實際使用數量為304個計算單元和19456個流處理器。此外,HBM3容量達到192GB,提供了5.3TB/s的內存帶寬和896GB/s的Infinity Fabric帶寬。
在此次大會上,AMD還宣布Instinct MI300A已進入量產階段,這是一款APU設計。其擁有24個基於Zen 4架構的核心,另外減少了1個計算晶片,使得計算單元數量也減至228個,對應14592個流處理器。
有消息稱,預計明年Instinct MI300系列的出貨量為30萬至40萬,其中最大的客戶是谷歌和微軟。