8月25號，OpenAI公布了首款自己研發的晶片Jalapeño的性能測試數據，這個和博通一起開發的推理專用ASIC，在能效和延遲這兩個關鍵指標方面，比英偉達
GB300要好上不少！
先看配置。Jalapeño是純推理晶片，不做訓練，從設計之初就圍繞大模型推理負載優化，砍掉了通用GPU所有圖形計算冗餘。
台積電3nm工藝，搭配定製Arm CPU和博通Tomahawk交換晶片，配HBM4高頻寬內存。標稱TDP只有700W——GB300是1400W，下一代Rubin平台1800W起步。
最誇張的是開發周期，行業常規是18到36個月，但這款晶片從設計啟動到流片就用了9個月！為什麼能那麼快？因為晶片開發全程大量採用了AI輔助設計。
OpenAI官方公布的推理性能數據：GPT-OSS 120B模型下，每瓦混合吞吐量比GB200高出1.9倍，端到端推理延遲低約1.7倍；在DeepSeek R1 670B這種大參數模型上，700W的Jalapeño也穩壓1400W的GB300。
第三方半導體機構SemiAnalysis測出來的數據是，單卡推理的時候，吞吐量差不多是1459 tokens/s，GB200才535 tokens/s，差不多有2.7倍的優勢，端到端任務延遲，Jalapeño就只要1.65秒，GB300得接近6秒，差距有3.6倍。
還有一個細節，Jalapeño不只是適配GPT系列，各種開源大模型都能流暢運行，甚至還能移植運行經典遊戲《Doom》，這就說明它的架構有一定通用性。
OpenAI為什麼要自己做晶片？答案就一個詞：成本。推理占AI全生命周期算力負載的80%到90%，是最大的算力市場。Jalapeño的核心目標是把大模型推理的總體擁有成本降約50%，擺脫對通用GPU的依賴。
一顆700W的晶片干1400W的活，電費省一半，對OpenAI這種按token計費跑推理的巨頭來說，省下來的錢是天文數字。
短期來看，Jalapeño今年年底才規模化部署，而且只自用不對外賣，不會搶英偉達的第三方客戶。但現在谷歌、Meta、亞馬遜都在推自研推理ASIC，這也足夠讓英偉達有些頭疼了。
