AI算力需求還在往上頂，但行業討論的焦點已經悄悄換了位置：大家不再只問哪顆GPU峰值算力更高，而是問哪套平台能把算力更高效地用起來、擴出去。在今年的Advancing AI 2026大會上，AMD帶來了首個完整的機架級解決方案，針對AI數據中心設計的「Helios」機架級平台。其中包括了代號「Venice」的EPYC 9006系列伺服器處理器、Instinct MI455X計算卡、以及Pensando Vulcano網卡，這次整套系統的發布，等於把這個轉向擺到了檯面上。

贊助商廣告

AI算力進入新戰場：競爭從一顆晶片走向整個系統

先看兩個基本盤。過去兩年，AI每月消耗的token數量增長了約158倍；訓練算力的規模自2020年起以每年約5倍的速度膨脹。但比「變多」更要緊的是結構變了：訓練與推理的算力配比正從60:40向40:60傾斜，推理正在取代訓練，成為消耗算力的主體。

這個轉向帶來的連鎖反應是：瓶頸不再只落在GPU的浮點算力上。

顯存容量決定模型與KV Cache裝不裝得下，決定並發與上下文長度；互聯頻寬決定幾十、上百張卡能不能「像一張卡一樣」協同； CPU 決定智能體的編排、調度與工具調用跟不跟得上；網路決定一個機櫃能不能擴成幾千卡、乃至千兆瓦級集群；軟體決定上面這些硬體到底能被用出幾成。

換句話說，AI應用進入規模化落地之後，客戶真正要買的是「更高效、更具擴展性、能夠支撐大規模AI部署的整體算力平台」，而不只是一張更快的卡。理解AMD這一整年的布局，得從這個變化說起。

從參數競爭到系統競爭：AMD全面押注AI基礎設施

這一代AMD端出來的東西橫向鋪得很開：面向前沿AI與AI工廠的Instinct MI455X、面向HPC與科學計算的MI430X，把GPU、CPU、網路、軟體擰在一起的Helios機架級方案，第6代EPYC 9006，Pensando的Salina DPU與Vulcano AI NIC，還有主打開發者體驗的ROCm.ai。

值得玩味的是AMD選擇拿什麼來打對比。在Helios對陣NVIDIA Vera Rubin NVL72的官方對比里，幾乎清一色是系統級指標，而不是單卡參數：

贊助商廣告

競爭規則正在改變：從FLOPS之爭走向Token效率之爭

維度	過去的焦點	現在的焦點
算力	單卡峰值FLOPS	單機櫃可用算力與利用率
顯存	容量與頻寬的絕對數字	能否裝下更大的模型與KV Cache
互聯	卡間互聯是否夠快	共享內存域能撐到多大（片內 → 機櫃）
軟體	能否跑起來	遷移成本、開放度與疊代速度
計價	單卡價格 / 每瓦性能	每token成本、每機櫃投資回報超能網制作 GPU不再只是加速卡：從算力引擎升級為AI基礎設施核心單元這代Instinct MI455X身上有三件事，恰好對應了前面說的三種瓶頸。一是把顯存拉滿。單卡432 GB HBM4、23.3 TB/s頻寬，相比上代MI355X容量提升1.5倍、頻寬提升約2.9倍。更值得注意的是scale-up域從8卡節點擴到72卡同域：通過UALoE把72顆GPU並成一個共享內存pod，統一可用31 TB HBM4。原先塞不進8卡節點的模型，現在可以整域推理。二是把互聯做厚。單卡scale-up頻寬3.6 TB/s（36條鏈路），scale-out可掛3張Pensando Vulcano 800 AI NIC、雙向600GB/s。對動輒萬億參數的MoE模型來說，互聯早就不是配套設施，而是能不能跑起來的前提。三是讓軟體真的跑得快。AMD 給出的數據是：在同一代MI355X硬體上，最新版ROCm相比ROCm 7，推理平均提速3.3倍、訓練平均提速2.4倍；而MI455X相比MI355X，在DeepSeek V4 Flash的FP4服務場景下吞吐最高可提升18倍。硬體代際的躍遷之外，軟體層面的持續優化，正在把紙面算力兌成可用算力。顯存、互聯域、軟體疊代速度，這三樣加在一起指向同一個結論：GPU已經不再是插在伺服器里的加速卡，而是AI工廠里可被編排、可被池化、可按token計價的基礎設施單元。從單點突破到系統成型：GPU、CPU、網路與軟體全面協同一台完整的AMD Helios機櫃，就是把Instinct MI455X、EPYC 9006、Pensando 網路與ROCm軟體整合進單一機架級架構，可從單櫃擴展到千兆瓦級集群。 CPU負責重新分工。 AMD提出「三級智能體數據中心」：跑agent、執行工具調用的agent sandbox，餵GPU的AI host node，以及跑企業業務的通用伺服器。第6代EPYC 9006用一套架構覆蓋這三類角色，旗艦級的EPYC 9006 SP7可提供256核/512線程的最大性能；EPYC 9006 SP8講究高效與恰到好處；EPYC 9006X SP7搭載了3D V-Cache大緩存；EPYC 9006 LP是AI主機節點專用型號。支撐這一判斷的，是智能體負載下一個被反覆引用的變化：CPU與GPU的數量比正從1:4走向1:1。再疊加AMD自己的一組數據：第5代EPYC已拿下伺服器CPU約46%的收入份額，這也是Gartner把AMD稱為「企業級AI伺服器CPU賽道中最難被擊敗的公司」的背景。網路負責把機櫃連成集群。Pensando Salina DPU管前端（對比NVIDIA BlueField-3，網關性能1.4倍），Vulcano AI NIC 管scale-out（單GPU 2.4 Tbps）；機櫃內的算力則由UALoE織成一張260 TB/s的scale-up網。開放是這套方案里被反覆強調的詞：用標準以太網替代專有互聯，就是不想讓客戶被迫鎖死在某一家手裡。軟體負責把遷移成本壓下去。 ROCm.ai是這次軟體側的重點：ROCm CLI 統一安裝、驗證、部署與排障；AMD Skills把AMD自己的工程經驗直接塞進Claude、Cursor、Codex這些開發者已經在用的AI編程助手；Hyperloom用代理式流程自動做端到端推理優化，把過去要花幾周專家功夫的調優壓縮到幾小時。Helios之上還壓著一整套棧：Fabric Manager管72卡的fabric，Rack Infrastructure Manager把整櫃當一台系統來運維，Cluster Controller對接Kubernetes / Slurm做集群編排。 AMD賣的東西變了：不再是零件，而是把GPU、CPU、網路、軟體擰成一股繩的開放平台。正面切入CUDA護城河：AMD從軟體、互聯與架構三線推進 CUDA這道護城河，本質上是「通用可編程性 + 遷移成本」兩件事把開發者綁住了：為了可編程和生態成熟，客戶願意為通用GPU付出溢價，也容忍它在能效與成本上的低效。AAI 2026最值得琢磨的，是AMD從三個層面同時下手。軟體層：讓CUDA代碼「drop-in」 AMD把ROCm定位成CUDA的「Drop-In」替代：主流ML框架與Triton核心可直接遷移；cuBLAS → rocBLAS、cuSparse → rocSparse、cuFFT → rocFFT、cuDNN → MIOpen都有對應庫；CUDA到HIP的移植由HIPIFY工具自動完成，官方口徑可覆蓋70–80%的工作量。再疊加ROCm.ai把AMD經驗注入開發者已經在用的編程助手，護城河最厚的那一段（遷移成本）正在被工具鏈削平。「從CUDA搬過來」一旦從數月工程變成幾周，生態黏性就開始鬆動。互聯層：把機櫃從專有變成開放 scale-up用UALoE（Ultra Accelerator Link over Ethernet），基於標準以太網、支持多廠商互通；scale-out走UEC標準以太網；機櫃交換機的網路作業系統基於開源SONiC。對照NVLink / InfiniBand的專有封閉路線，AMD的意圖很清楚：讓72卡同域、31TB統一內存這種能力不再是某一家專屬，客戶不必為互聯再簽一張鎖定協議。互聯一旦不再是護城河，競爭就回到算力與成本的正面比較。架構層：Taalas讓 CUDA「沒那麼必要」 2026年8月6日，AMD宣布達成最終協議，收購專用AI推理晶片公司Taalas。Taalas的思路極其「反通用」：把模型權重和數據流直接刻進矽片，用SRAM替代HBM，從架構層面繞開「內存牆」。其首款HC1晶片採用台積電N6工藝、約530億電晶體、只編碼Llama 3.1 8B，官方公布性能約1.7萬tokens/秒/用戶。代價當然也很硬：靈活性幾乎為零，換一個模型就要重新流片。但Taalas最值錢的，恰恰是它把為某個模型定製一顆晶片壓縮到大約兩個月、兩組掩模（模型權重 + 數據流）的工程動作。這帶來三層影響：讓「可編程性溢價」失效。當推理成為最大負載，而推理又能被模型專用矽以數量級效率服務時，通用GPU最值錢的那部分能力，在推理戰場上被系統性削弱。讓「專用」變得敏捷。兩個月的定製周期，意味著「專用」不必再和漫長、高風險劃等號。專用的門檻降下來，「通用」的黏性也就跟著鬆動。由AMD自己掌控。 AMD的官方說法是把這套技術整合進加速器路線圖，與Instinct GPU組成系統級方案。至於兩者怎麼分工，按其邏輯推測，更可能是GPU守住prefill這類吃算力的通用環節，專用矽專攻decode這類拼延遲的環節。英偉達把Groq放進Rubin機架也是這個思路，區別在於Groq對英偉達是外部授權的能力，Taalas則是被AMD直接收進自己的產品線。繞開那堵牆，讓它慢慢變得無關緊要。這可能是「打破護城河」里成本最低的一條路。Taalas短期內更像是AMD推理版圖裡的「特種兵」，而非替代GPU的主力。它真正的價值，在於證明「繞開通用GPU」這條路在工程上走得通。從晶片供應商到基礎設施提供者：AMD正在重塑自身角色把AAI 2026這一盤棋連起來看，AMD想講的已經不是「我們的新卡更快」，而是「我們能交付一套從單晶片、到單機櫃、再到千兆瓦級AI工廠的開放基礎設施」。MI400與Helios提供算力、顯存和互聯，EPYC負責編排與餵卡，Pensando把機櫃連成集群，ROCm與ROCm.ai讓這些硬體真正被用起來，Taalas則在最賺錢的推理戰場上，給「通用GPU + 封閉生態」這套敘事開了一道口子。 AMD已經不再是「新品供應商」，而是「AI基礎設施提供者」。市場已經為這場轉變投了票。過去十年，AMD經歷了從傳統晶片廠商向AI與高性能計算重要參與者的轉變，其股價從約1美元一度上漲至580美元，市值最高達到約9000億美元，曾一度達到英特爾同期市值的2倍，並躋身全球市值Top 20。行業層面的判斷同樣明確：隨著AI應用進入規模化落地階段，市場對GPU的需求已經從更強的單卡性能轉向更高效、更具擴展性、能夠支撐大規模AI部署的整體算力平台。未來AI晶片競爭的勝負手，也會從誰的單卡更強變成誰能讓客戶更省心、更省錢地把算力用起來、擴出去。這場圍繞「護城河」的競爭，表面上是不同技術路線之間的較量，本質上則是開放平台與封閉生態之間的博弈。面對已經形成深厚積累的生態壁壘，AMD並沒有試圖用單一產品正面取代整個體系，而是從軟體、互聯、系統架構到晶片設計多個層面同時推進：ROCm降低軟體遷移門檻，開放互聯削弱專有架構的綁定，Helios將GPU、CPU、網路與軟體整合為完整的機架級平台，而Taalas則進一步打開了專用AI推理晶片的技術路徑。這些動作單獨來看，或許都不足以改變行業格局，但當它們沿著同一個方向持續疊加，AMD正在逐步改變AI基礎設施的競爭方式。它所做的並不是簡單地複製一套既有生態，而是在硬體、軟體和系統層面不斷打開新的切入口，讓客戶擁有更多選擇，也讓原本高度集中的生態壁壘出現鬆動。從這個角度看，AMD真正要挑戰的，並不只是一張GPU或一款晶片，而是AI基礎設施的整體競爭規則。從軟體兼容到開放互聯，從整機櫃方案到專用推理架構，AMD正在一步步把這些「楔子」打入AI產業鏈的不同環節。最終能否撼動現有生態格局仍需要時間驗證，但可以確定的是，AMD已經從單純的晶片競爭者，走向了AI基礎設施的領軍者。