英特爾今天宣布推出了一款新的AI晶片——Gaudi 3，並承諾該晶片的性能是英特爾上一代晶片的4倍。
英特爾在Intel Vision 2024大會上詳細介紹了該產品，並分享了有關英特爾AI戰略的最新資訊。英特爾計劃與合作夥伴展開合作，對於融合了多廠商組件的AI硬體系統將加大供貨量。在此事件的背景下，競爭對手AMD也正在通過推出面向互聯設備市場的新片上系統增強了自己的AI處理器陣容。
英特爾Gaudi 3
英特爾在2019年通過20億美金收購初創公司之後獲得的處理器系列如今已經更新到第三代——Gaudi 3。與前身相比，這款新的晶片承諾在處理BF16格式（這種格式被AI應用廣泛使用）的數據時性能可提高4倍，同時還具有更高的網路帶寬，這意味著部署在同一個AI集群中的Gaudi 3晶片可以更快地與另一個晶片交換數據。
該晶片使用兩組板載核心進行計算。第一種核心類型——TPC經過優化，可以加速深度學習模型在處理數據時通常執行的幾種類型的計算，這些計算包括批量歸一化，一種通過將深度學習模型接收到的原始輸入數據轉換為更好的格式來加速深度學習模型操作。
Gaudi 3中還包括了所謂的MME核心。這些核心同樣旨在加速AI模型用於處理數據的計算，但與TPC核心不同的是，它側重於不同的計算集。MME電路可以加速運行卷積層的任務，卷積層是圖像識別模型中常見的軟體構建塊。
Gaudi 3具有64個TPC核心和8個MME核心，分布在兩個模片（或半導體模塊）上。這些模塊相互連接，可以作為單一的晶片使用，此外還提供了128 GB板載HBM2e內存支持，這種高速RAM可讓AI模型快速訪問計算所需的數據。
英特爾上一代Gaudi晶片採用的是台積電7納米工藝製造。到了Gaudi 3，英特爾已經改用更新的5納米節點，從而能夠生產出更快速、更節能的電晶體。
英特爾表示，一台伺服器可以安裝8個Gaudi 3晶片，每個晶片都包含21個以太網鏈路，用於與鄰近的Gaudi 3單元交換數據。每個處理器上還有另外3個網路鏈路（總共24個），用於與主機伺服器外部的晶片進行交互。
英特爾表示，Gaudi 3的性能不僅優於上一代晶片，還優於Nvidia的H100。在內部評估中，英特爾確定Gaudi 3可以將主流Llama 2大語言模型某些版本的訓練速度提高50%，還承諾推理速度比H200快30%。H200是Nvidia H100晶片的增強版，專門針對大型語言模型進行了優化。
英特爾高級副總裁、數據中心和AI事業部總經理Justin Hotard表示：「企業會權衡可用性、可擴展性、性能、成本和能源效率等因素。英特爾 Gaudi 3作為生成式AI的替代方案脫穎而出，是一個結合了具有令人信服的性價比、系統可擴展性和價值實現時間優勢的組合。」
在這次發布Gaudi 3的Intel Vision活動上，英特爾還透露了有關英特爾AI戰略的最新資訊。英特爾表示，正在與包括Red Hat和SAP在內的十多家合作夥伴合作，創建一個「企業AI開放平台」，該計劃的目標是讓企業能夠使用整合了多家廠商硬體和軟體的AI優化型系統。
據英特爾稱，這些系統經過優化可以運行具有RAG功能的AI模型。RAG（檢索增強生成）是一種機器學習技術，可以讓大型語言模型吸收新的資訊並將其納入回答中，而無需進行高成本的再訓練過程。
作為該計劃的一部分，英特爾將發布參考實現，展示如何使用帶有Gaudi和Xeon晶片的伺服器來運行AI工作負載，還將為Tiber Developer Cloud增加更多基礎設施容量。Tiber Developer Cloud是一個雲平台，在該平台上英特爾客戶可以使用英特爾處理器來訓練和運行AI模型。
AMD的新AI晶片
在英特爾Intel Vision活動的背景下，競爭對手AMD也宣布推出了兩個新的晶片產品線，主要設計用於為智能汽車子系統等邊緣計算設備提供動力，並且這兩個晶片系列都加入了英特爾現有的Versal產品組合，這是英特爾2022年以500億美金收購Xilinx獲得的。
Versal產品組合中的所有處理器都包含兩種類型的電路。有些電路是為特定任務而構建的，例如運行AI模型或者處理傳感數據。每個Versal晶片還包括適應性強的計算模塊，客戶可以根據自己的特定要求進行調整。這些模塊基於FPGA技術，而這項技術最初就是由Xilinx開發的。
AMD這次推出的兩個Versal晶片系列中，第一個是AI Edge Series Gen 2，該系列中的每個處理器都包含三組計算模塊，有基於Arm設計的CPU核心，AI優化的電路以及可定製的FPGA模塊。FPGA電路可以將來自連接設備中的傳感器數據轉換為更易於設備板載AI模型處理的格式。
Subaru公司是Versal AI Edge Series Gen 2的早期客戶之一，該公司計劃在多款汽車中安裝這個系列的晶片，並利用這些處理器為自己的EyeSight先進駕駛輔助系統提供動力。該系統提供了自適應巡航控制和自動制動等安全功能。
AMD今天詳細介紹了AI Edge Series Gen 2，以及另一個名為Prime Series Gen 2的新晶片系列，其設計與之前的產品系列類似，但不包括AI優化的計算模塊。Prime Series Gen 2系列中的每款晶片均採用基於Arm的CPU核心、針對處理影片流進行優化的模塊以及可定製的FPGA電路。
