周三，OpenAI正式發布了其首款自研推理處理器，該晶片由OpenAI與Broadcom合作設計製造，命名為Jalapeno。這款處理器專為OpenAI推理系統的獨特需求量身打造，OpenAI表示，公司旗下的AI模型也參與了晶片的研發過程。
目前晶片仍處於測試階段，但OpenAI稱早期測試結果顯示，其每瓦性能表現明顯優於當前業界最先進的同類產品。
OpenAI與Broadcom的合作關係於去年10月正式對外宣布。此前業界早有傳言稱OpenAI正謀求研發自有晶片，以降低對英偉達
GPU的依賴。谷歌和亞馬遜均已推出各自的定製晶片，此類晶片通常被稱為"AI加速器"，是專為加速機器學習工作負載而設計的專用處理器。
OpenAI總裁格雷格·布羅克曼在Broadcom合作宣布後不久，在公司內部播客中闡述了OpenAI的晶片研發思路。"我們對自身的工作負載有著深入的理解，"布羅克曼表示，"我們一直在尋找那些尚未被充分滿足的特定工作負載場景，思考如何打造出能夠加速突破邊界的產品。"
Jalapeno專為推理任務而設計，即響應用戶指令、運行預訓練AI模型的過程。在發布公告中，OpenAI重點強調了該晶片在運行實時編程模型時的低運營成本。預訓練等計算密集型任務可能仍將依賴英偉達硬體，但即便是推理成本的小幅下降，也將對公司整體盈利能力產生積極影響。
推理系統的優化，有望成為未來AI經濟模型中的關鍵變量，且這一優化將在技術棧的每一個層面上同步推進。OpenAI已在構建Codex等智能體產品及其背後的模型，同時也在建設運行這些模型所需的數據中心。向定製晶片領域的延伸，使公司得以在全棧布局上走得更深。OpenAI在公告中寫道："OpenAI不僅在開發前沿模型，也在其之上構建產品；同時還在設計支撐這一切的底層基礎設施，涵蓋晶片架構、核心、內存系統、網路、調度、部署系統及產品體驗。正因為OpenAI橫跨整個技術棧運營，每一層都可以圍繞同一目標進行優化：讓模型對用戶而言更快、更可靠、更實惠。"
Q&A
Q1：OpenAI自研晶片Jalapeno是做什麼用的？
A：Jalapeno是OpenAI與Broadcom聯合設計製造的推理專用處理器，主要用於響應用戶指令、運行預訓練AI模型的推理任務。該晶片專為OpenAI推理系統的獨特需求設計，早期測試結果顯示其每瓦性能明顯優於當前業界最先進的同類產品，尤其在運行實時編程模型時具備較低的運營成本。
Q2：OpenAI為什麼要自研晶片，不用英偉達GPU了嗎？
A：OpenAI研發自有晶片的主要動機是降低對英偉達GPU的依賴，同時通過優化推理成本來改善公司盈利能力。不過，Jalapeno目前專注於推理任務，預訓練等計算密集型工作預計仍將繼續依賴英偉達硬體。谷歌、亞馬遜此前也推出了類似的定製AI加速器晶片，OpenAI此舉是向全棧自研基礎設施邁出的重要一步。
Q3：OpenAI的全棧基礎設施布局包括哪些內容？
A：根據OpenAI官方聲明，其全棧基礎設施布局涵蓋晶片架構、核心、內存系統、網路、調度、部署系統及產品體驗等多個層面。除自研晶片外，OpenAI還在構建Codex等智能體產品及其驅動模型，並自建數據中心。OpenAI表示，橫跨整個技術棧的運營能力，使每一層都能圍繞讓模型更快、更可靠、更實惠的目標進行協同優化。
