處理器大廠英特爾於Hot Chips 2024發布從數據中心、雲計算和網路，到邊緣和PC等各種AI應用場景的最新進展，展現其技術的深度與廣度。
英特爾這次發布的新產品包括用於高速AI數據處理的首款全面集成光學運算互聯 （optical compute interconnect，OCI） 小晶片。英特爾也公布預計於2025年上半年推出的Intel Xeon 6 SoC （代號Granite Rapids-D） 最新細節。
首先、英特爾院士暨網路與邊緣運算晶片設計工程師Praveen Mosur說明Intel Xeon 6系統單晶片 （System-on-Chip，SoC） 設計的新細節，以及它如何克服不穩定網路連接以及有限空間和功率等邊緣應用場景中出現的挑戰。
其藉由全球超過9萬次邊緣布局所累積的知識經驗，這款SoC將成為英特爾目前為止最符合邊緣應用的優化處理器。從邊緣設備擴展到邊緣節點，通過單系統架構和集成的AI加速功能，企業能更輕鬆、更有效率、更保密地管理從數據截取到推論的完整AI工作流程，有助於改善決策、提升自動化程度，為客戶創造價值。
英特爾強調，Intel Xeon 6 SoC結合Intel Xeon 6處理器的運算小晶片以及基於Intel 4處理技術打造的邊緣優化I/O小晶片，使這款SoC的性能、能耗效率和電晶體密度與先前相比都有顯著改善。另外，Intel Xeon 6 SoC特色還包括32個信道的PCI Express（PCIe）5.0、16個信道的Compute Express Link（CXL）2.0、雙埠100G以太網路、4個和8個內存信道，採用兼容的BGA封裝、以及強化邊緣應用的功能，包括擴大工作負載溫度範圍和提升工業級可靠度，成為高性能堅固型設備的理想選擇。
英特爾表示，Intel Xeon 6 SoC還有專為提高邊緣和網路工作負載性能和效率的設計，包括新媒體加速，強化即時OTT、VOD和廣播媒體的影片轉碼和分析能力，提高推論性能的Intel Advanced Vector Extensions和Intel Advanced Matrix Extensions，可完成更有效率網路和存儲性能的Intel QuickAssist技術，降低虛擬化RAN功耗的Intel vRAN Boost。此外，還支持Intel Tiber Edge Platform，用戶可利用此平台在標準硬體上進行如雲計算般簡易的構建、布局、執行、管理並擴展邊緣和AI解決方案。
英特爾客戶端CPU SoC資深設計工程師Arik Gihon探討了Lunar Lake客戶端處理器，以及其設計如何提升x86處理器的能耗效率，並提供領先的核心、繪圖處理與客戶端AI性能。全新P-core和E-core有著驚人的性能，與上一代產品相比，系統單晶片功耗可降低高達40%。新的神經元處理單元 （Neural Processing Unit，NPU） 速度最多可提升4倍，執行生成式AI任務的表現優於上一代產品。此外，新的Xe2 GPU核心也將遊戲和繪圖性能提高到上一代的1.5倍。Lunar Lake的更多詳細資訊將在9月3日的Intel Core Ultra發布會中分享。
至於，英特爾AI加速器首席設計工程師Roman Kaplan也介紹了需要大量運算能力的生成式AI模型訓練和布局。隨著系統從單節點擴展到數千個節點的大型集群，也帶來了巨大的成本和能耗挑戰。
Intel Gaudi 3 AI加速器運用優化的架構改善運算、內存和網路架構，解決了上述的問題；通過採用高效率的矩陣乘法引擎 （Matrix Multiplication Engines ，MME）、雙階層 （two-level）緩存集成和廣泛的RoCE（RDMA over Converged Ethernet） 網路通信等策略，Gaudi 3 A I加速器能夠實現顯著的性能和能耗效率表現，使AI數據中心的運行更具成本效益與可持續發展性，解決布局生成式AI工作負載時的可擴展性問題。Gaudi 3 AI加速器和未來Intel Xeon 6產品的相關資訊將在9月的發布會中分享。
最後，英特爾集成光學解決方案 （Integrated Photonics Solutions，IPS） 業務部展示業界最先進的首款全面集成光學運算互聯 （OCI） 小晶片，能與英特爾CPU共同封裝並處理即時數據。
英特爾工程師暨光學集成 （Photonics Integration） 負責人Saeed Fathololoumi介紹了OCI小晶片，其設計可在長達100米的光纖上雙向支持64個信道、32 Gbps數據傳輸。 Fathololoumi也說明了OCI小晶片如何滿足AI基礎設施對更高帶寬、更低功耗和更大覆蓋範圍日益增加的需求。英特爾的OCI小晶片使高帶寬互聯獲得重大進展，可實現未來CPU/GPU集群連接的可擴展性和新式運算架構，包括數據中心和高性能計算 （HPC） 應用的新興AI基礎設施，也可達到一致的內存擴展和資源分散。
(首圖來源：官網)
