宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

英特爾至強6處理器、Gaudi 3 AI加速器 Intel Vision 2024大會帶來重磅發布

2024年04月10日 首頁 » 熱門科技

我們說AI正在重塑各行各業,半導體產業也是,作為「賣鏟人」,晶片企業更是火力全開。

美國當地時間4月9日,在Intel Vision 2024大會上,英特爾帶來諸多產品更新,其中包括我們熟悉的至強處理器和Gaudi AI加速器。

英特爾至強6處理器、Gaudi 3 AI加速器 Intel Vision 2024大會帶來重磅發布

品牌煥新,英特爾至強6

在數據中心領域,英特爾至強也迎來全新命名,即英特爾至強6。配備能效核(E-cores)的英特爾至強6處理器將於2024年第二季度推出,提供卓越的效率,配備性能核(P-cores)的英特爾至強6處理器將緊隨其後推出,帶來更高的AI性能。

英特爾至強6處理器、Gaudi 3 AI加速器 Intel Vision 2024大會帶來重磅發布

其實全新至強6不只是品牌煥新那麼簡單,配備能效核的英特爾至強6處理器(代號為Sierra Forest)與第二代英特爾至強處理器相比,每瓦性能提高2.4倍,機架密度提高2.7倍。

英特爾至強6處理器、Gaudi 3 AI加速器 Intel Vision 2024大會帶來重磅發布

而配備性能核的英特爾至強6處理器(代號為Granite Rapids)包含了對MXFP4數據格式的軟體支持,與使用FP16的第四代英特爾至強處理器相比,可將下一個令牌(token)的延遲時間最多縮短6.5倍,能夠運行700億參數的Llama-2模型。

英特爾至強6處理器、Gaudi 3 AI加速器 Intel Vision 2024大會帶來重磅發布

對標NVIDIA,Gaudi 3

Gaudi在英特爾是一個獨特的存在。

英特爾至強6處理器、Gaudi 3 AI加速器 Intel Vision 2024大會帶來重磅發布

疊代到Gaudi 3,與上一代產品相比,英特爾Gaudi 3將帶來4倍的BF16 AI計算能力提升,以及1.5倍的內存帶寬提升。

英特爾至強6處理器、Gaudi 3 AI加速器 Intel Vision 2024大會帶來重磅發布

英特爾Gaudi 3預計可大幅縮短70億和130億參數Llama2模型,以及1750億參數GPT-3模型的訓練時間。此外,在Llama 7B、70B和Falcon 180B大語言模型(LLM)的推理吞吐量和能效方面也展現了出色性能。

英特爾至強6處理器、Gaudi 3 AI加速器 Intel Vision 2024大會帶來重磅發布

英特爾Gaudi 3提供開放的、基於社區的軟體和行業標準以太網網路,允許企業靈活地從單個節點擴展到擁有數千個節點的集群、超級集群和超大集群,支持大規模的推理、微調和訓練。英特爾Gaudi 3將於2024年第二季度面向OEM廠商出貨。

AI開放系統戰略

在產品更新的同時,英特爾也公布了面向開放的、可擴展的AI系統的戰略,其中包括硬體、軟體、框架和工具。英特爾讓廣泛的AI開放生態系統參與者,如設備製造商、資料庫提供商、系統集成商、軟體和服務提供商等,能夠提供滿足企業特定生成式AI需求的解決方案。與此同時,亦讓企業與他們已知、信任的生態系統合作夥伴展開合作並採取相應解決方案。

英特爾至強6處理器、Gaudi 3 AI加速器 Intel Vision 2024大會帶來重磅發布

英特爾聯合Anyscale、Articul8、DataStax、Domino、Hugging Face、KX Systems、MariaDB、MinIO、Qdrant、RedHat、Redis、SAP、VMware、Yellowbrick和Zilliz共同宣布,將創建一個開放平台助力企業推動AI創新。這一凝結全行業力量的計劃旨在開發開放的、多供應商的生成式AI系統,通過RAG(檢索增強生成)技術,提供一流的部署便利性、性能和價值。RAG可使企業在標準雲基礎設施上運行的大量現存專有數據源得到開放大語言模型(LLM)功能的增強,加速生成式AI在企業中的應用。

在該計劃的初始階段,基於安全的至強處理器和Gaudi解決方案,英特爾將面向生成式AI進程(pipelines)推出參考實現,發布技術概念框架,並繼續增進英特爾Tiber開發者雲平台基礎設施的功能,以便為RAG及未來進程的生態系統開發和確認打下基礎。英特爾鼓勵生態系統進一步參與到這一開放平台的創建中來,以促進企業採用該平台,擴大解決方案的應用範圍,並取得業務成果。

結語

對於英特爾而言,自身的轉變不可避免。全面轉向AI已經勢不可擋,既有的護城河已經不復存在,新的競爭優勢有待建立。已有的產品是歷史包袱還是新的起步階梯,我們拭目以待。

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2025 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新