在以「AI無處不在 創芯無所不及」為主題的2023英特爾新品發布會暨AI技術創新派對上，英特爾正式推出第五代英特爾至強可擴展處理器（代號 Emerald Rapids，以下簡稱第五代至強）。
本次是英特爾至強可擴展處理器系列產品在一年內進行的第二次發布，相較於上一代產品，第五代至強可在相同熱設計功耗 （TDP）範圍內提供更高的算力和更快的內存。
英特爾數據中心與人工智慧集團副總裁兼中國區總經理陳葆立告訴記者，相較於前一代產品，第五代至強不僅「軟體兼容」，同時也是「平台兼容」，這意味著中國大陸的產業合作夥伴能夠在第一時間快速升級至最新產品，並給終端用戶帶來性能可靠的雲服務及相關產品。
第五代至強亮點多多
第五代至強擁有多達64核，三級緩存是上一代產品的近3倍。與此同時，該處理器具備8條DDR5通道，支持高達5600MT/s的傳輸速率，且採用英特爾超級通道互聯（英特爾UPI）2.0以增加跨插槽內帶寬，提供高達20GT/s的傳輸。此外，雲服務供應商（CSP）採用基於第五代英特爾至強可擴展處理器的實例，將能夠使用CXL Type 3內存設備來擴展內存容量。
火山引擎IaaS產品負責人李越淵表示，生成式AI對於CPU的能力，包括算力、內存、帶寬都提出了很高要求。單晶片的能力，甚至單服務器的能力未必能夠滿足生成式AI的訴求，所以互聯互通的能力非常重要。「隨著CPU在AI能力上越來越強，性能越來越好，性價比也越來越高。」
與上一代產品相比，第五代至強在相同的熱設計功率範圍內，平均性能提升21%，並在一系列工作負載中將每瓦性能提升高達36%。對於遵循典型的五年更新周期並從更前一代處理器進行升級的客戶，總體擁有成本最多可降低77%。
以ChatGPT為例的生成式人工智慧帶來了一個全新的火爆趨勢，眾多軟、硬體公司正在加速推進AI在各行各業的應用和落地。
自第一代至強處理器開始，英特爾一直注重加速AI工作負載，比如推出AVX512等指令集。第四代至強則搭載了英特爾AMX（英特爾高級矩陣擴展）內置加速器，在相較於前一代產品進行疊代性能提升之外，同時致力於為產品帶來更優的AI性能。
在AI加速方面，第五代至強更是可將參數量多達200億的大語言模型的推理性能提高42%，延遲低於100毫秒。現階段，英特爾至強可擴展處理器也是唯一一款擁有MLPerf訓練和推理基準測試結果並持續提升性能的CPU。
第五代至強可以說是為AI而生。不管是在雲、網絡，還是在邊緣，英特爾至強處理器可配合業界成熟的軟體解決方案來支持常見的自然語音處理、圖像識別等AI應用。
英特爾可信域拓展（英特爾TDX）提供虛擬機（VM）層面的隔離和保密性，從而增強隱私性和對數據的管理。今年年初發布的第四代英特爾至強可擴展處理器中已集成英特爾TDX，而且特定的CSP已經能夠應用該功能，隨著新產品的推出，所有OEM和CSP解決方案提供商均可啟用該功能。在基於英特爾TDX的機密虛擬機中，客戶機操作系統和虛擬機應用被隔離開來，而不會被雲端主機、虛擬機管理程序和平台的其他虛擬機訪問。
同時，第五代至強與上一代產品的引腳兼容，包括思科、戴爾、HPE、浪潮信息、聯想、超微電腦等在內的大型原始設備製造商 （OEM）將從2024年第一季度提供多款單核和雙核處理器供市場選擇，而主流CSP則將在明年逐步推出基於該款新產品的實例。使客戶能夠升級並大幅增加基礎設施的使用壽命，同時降低成本和碳排放。
陳葆立表示，除了CPU，英特爾還提供FPGA、面對數據中心的GPU，以及AI加速晶片Gaudi等產品組合，滿足不同客戶在不同場景下對於AI算力的需求。「 憑藉全棧的產品和解決方案，在不同場景和不同需求下我們可以給客戶提供不同的解決方案，包括端側、數據中心、邊緣計算等。」
阿里雲服務器研發事業部高級總監王偉表示，未來AI應用場景中更多的算力會消耗在AI推理業務，並且會使用不同的處理器架構進行AI推理，以滿足雲端AI算力多樣化、雲端AI算力普惠的訴求。未來的大模型AI推理，也會隨著應用場景的細分和成熟，部分場景也會降低對AI算力的消耗，發展到端雲結合的模式。
在提供晶片產品的基礎上，英特爾提供例如oneAPI的軟體工具，幫助開發者和軟體商能夠基於英特爾晶片，創新他們的AI應用模型。
生態夥伴有話說
開放性的生態產業發展的關鍵，而封閉性的生態顯然無法持久發展。
英特爾在中國的戰略是「在中國，為中國」，與中國生態合作夥伴進行全方面的合作。這一生態鏈條也非常廣泛，比如OEM廠商、網際網路用戶、IDC等。
陳葆立說，現在產品疊代非常快，在每次新產品發布之前，英特爾會提前一年甚至是一年半的時間介入和中國的合作夥伴合作，讓他們知道英特爾的技術方向，他們也能夠在自己的產品上做出及早的投入和驗證。「英特爾已經與中國大陸眾多生態合作夥伴一起，完成了基於第五代至強的驗證。目前在中國大陸，已有超過20家的硬體夥伴，超過7家雲服務商基於第五代至強，準備好了全新的服務器和雲服務。」
百度與英特爾進行了針對大規模推理的早期測試，使用700億參數的Llama 2開源大模型進行推理，採用4台內含第五代至強的服務器，並通過100G的高速網絡聯合在一起，相比單台的服務器，其性能提升了2.85倍。
隨著第五代至強的上市，阿里雲第八代計算實例也迎來了全面的計算升級。結合阿里雲CIPU的架構，阿里雲第八代實例在計算、存儲、網絡和安全等方面迎來了全面的性能提升。
王偉表示，阿里雲第八代實例會更好的使能晶片加速引擎的能力，結合阿里雲自身優勢的軟體基礎棧能力，為用戶提供更易用、更普惠的雲端算力。經過數據測試對比，在英特爾AMX和TDX技術加持下，阿里雲在多媒體、資料庫、數據壓縮和加解密、數據安全以及AI推理的多個場景中均獲得了15%~25%的性能提升。
大語言模型是顯存帶寬密集型和顯存容量密集型工作負載，第五代至強增加了內存帶寬和L3Cache，有益於未來通過CPU進行生成式AI應用場景的運用。「阿里最近在第八代服務器上進行了各種AI的嘗試，目前已經可以輕鬆的在CPU實例上運行各種生成式AI的模型。阿里雲通義72B大模型，近期登頂開源社區排行榜，用戶目前已經可以使用阿里雲第八代ECS實例，運行阿里雲通義72B大模型推理應用。」
阿里雲在第四代至強晶片時代便已經在阿里雲第八代實例上提供TDX機密計算服務。近期的AI熱潮之下，用戶也非常關心AI模型和AI數據安全的話題，結合英特爾TDX技術，阿里雲第八代機密計算實例可以保障用戶在整個AI推理過程中，模型和數據全流程的數據安全。
平安科技採用英特爾TDX技術，並就其聯邦智能平台解決方案展開了技術合作。平台解決方案展開了技術合作。TDX技術可使聯邦計算大模型在第五代至強上進行平滑地部署，其訓練和推理的過程，均在加密的虛擬機內存當中執行，而節點之間的通信也能夠通過加密及身份認證保證安全，由此構建一個可信的數據空間，實現數據共享，更好地保護合作方的利益和數據隱私安全。
依託字節跳動在雲計算領域多年的積累和最佳實踐，火山引擎和字節跳動採用同源的架構，提供大規模雲原生的基礎設施，幫助客戶輕鬆應對各種流量高峰。
李越淵表示，為了追求極致的性能、規模、穩定性，火山引擎選擇了「全棧自研，軟硬一體」的策略打造差異化競爭力。伴隨著第五代至強可擴展處理器的發布，火山引擎也在積極地準備算力疊代，結合自研技術，火山引擎三代英特爾實例進行全面的升級。
在最新的實例上，火山引擎計劃推出多種基於英特爾硬體原生加速的能力，以Nginx為例，使用QAT進行數據壓縮和證書驗證的操作吞吐量最高可提升5倍，在RocksDB使用IAA進行數據壓縮讀寫的吞吐最高可以提升1.9倍。
結語
第五代至強的推出，標誌著英特爾正在持續推動自身產品路線圖發展。據悉，下一代英特爾至強可擴展處理器明年即將推出。具備多達288個核心的能效核（E-core）處理器——Sierra Forest將於2024年上半年推出，性能核（P-core）處理器Granite Rapids也將緊隨其後發布。展望2025年，代號為Clearwater Forest的下一代至強能效核處理器將基於Intel 18A製程節點製造。
英特爾這一兩年一直在以穩健的執行力推動產品路線圖發展，並按四年五個節點的節奏如期推進。英特爾的速度在加速，響應市場對於更新更快算力的需求。
英特爾立足技術創新，助力產業發展，繁榮生態建設，與生態合作夥伴一起，在人工智慧大浪的驅動下，共創未來。
