英特爾打破使用限制，為企業生成式AI市場提供新選擇
英特爾在Vision 2024大會上，宣布推出Intel Gaudi 3 AI加速器，與前代產品相比，Gaudi 3為BF16提供4倍AI運算能力、1.5倍內存帶寬以及2倍網路帶寬，可擴展大規模系統，將有助大型語言模型（LLM）和多模態模型的AI訓練和推理，大幅提升性能和生產力。
Intel Gaudi 2 AI加速器是市場上唯一通過MLPerf基準測試的LLM解決方案，性能和效率皆通過驗證。英特爾通過開源社交媒體軟體和符合業界標準的以太網路，為客戶提供可靈活擴展系統的新選擇。
英特爾執行副總裁暨數據中心與AI解決方案宏觀經濟理Justin Hotard表示：「AI市場瞬息萬變，但產品間仍存在巨大差距。不論是來自客戶還是更廣泛市場的反饋，皆反映對更多選擇的渴望。企業須權衡可用性、可擴展性、性能、成本和能源效率等因素。Intel Gaudi 3作為生成式AI的新選擇，憑藉性價比、系統可擴展性和時間成本優勢的完美結合脫穎而出。」
金融、製造和醫療保健等關鍵領域的企業，目前正快速提升AI的普及化，並積極將生成式AI計劃從試驗階段轉為全面實施。為了應對轉型、推動創新並完成營收增長目標，企業需要開放、符合成本效益且更節能的解決方案和產品，以符合投資報酬率（ROI）和運營效率需求。
Intel Gaudi 3加速器將滿足這些需求，並通過開放社交媒體軟體和開放標準的以太網路，協助企業靈活擴展AI系統和應用。
定製化基礎架構如何提升生成式AI性能和效率：Intel Gaudi 3加速器專為高效的大規模AI運算打造，採用相較前一代產品更先進的5納米製程。其設計允許同時啟動所有引擎以提升速度，包括矩陣乘法引擎（MME）、張量處理器核心（TPC） 和網路適配器（NIC），進而實現更高速、高效的深度學習運算和規模擴展。Gaudi 3加速器的主要特點包括：
Intel Gaudi 3加速器將為領先生成式AI模型的訓練和推理，帶來顯著的性能提升。與Nvidia H100相比，Gaudi 3加速器的平均性能預期將為：
Intel Gaudi 3加速器將於2024年第二季，向OEM提供通用基板和開放加速器模型（Open accelerator module, OAM）的業界標準配置。包含戴爾科技、慧與科技（HPE）、聯想和美超微等知名OEM，都將採用Gaudi 3。Intel Gaudi 3加速器預計於2024年第三季全面上市，Intel Gaudi 3 PCIe附加卡預計於2024年第四季上市。
Intel Gaudi 3加速器也將支持多個高成本效益LLM基礎架構，協助訓練和推理，並為包括NAVER在內的組織提供性價比優勢和選擇。
開發者從今日起即可訪問Intel Developer Cloud上以Intel Gaudi 2為基礎的實例，以學習、創建原型、測試和執行應用程序與工作負載。
Intel Gaudi 3加速器的發展將為英特爾下一代針對AI和高性能計算的GPU Falcon Shores奠下基石。Falcon Shores將集成Intel Gaudi和Intel Xe的智慧財產權（IP），以及創建在Intel oneAPI規範的單一GPU可程序化界面。
