宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

打造未來計算及AI的基石 Arm擴展Neoverse平台產品路線圖

2024年02月28日 首頁 » 熱門科技

如今,計算正越來越專用化,通用CPU已經無法滿足業界對於算力的需求。於是越來越多的科技公司基於Arm平台構建新一代系統和基礎設施。例如NVIDIA、亞馬遜雲科技(AWS)和微軟等推出了自己的定製化晶片。

打造未來計算及AI的基石 Arm擴展Neoverse平台產品路線圖

在Arm高級副總裁兼基礎設施事業部總經理Mohamed Awad看來,他們選擇Arm的原因很簡單,因為Arm獨特的定位能賦予合作夥伴快速創建定製解決方案的能力,並充分利用到強大的生態系統,正是這些特性使Arm Neoverse夯實了全球AI願景的根基。

近日,Arm宣布推出兩款基於全新第三代Neoverse IP構建的新的Arm Neoverse計算子系統(CSS)。Arm Neoverse CSS是具革新意義的產品。作為一套經優化、集成和驗證的平台,Neoverse CSS匯集了構成系統級晶片(SoC)核心的關鍵技術。

打造未來計算及AI的基石 Arm擴展Neoverse平台產品路線圖

Mohamed Awad說,過去幾年,Arm為何能在基礎設施領域收穫累累碩果?簡單來說,原因有三:首先是卓越性能,Arm的工程團隊堅持不懈地實現疊代提升;其次是靈活性,Arm賦能技術合作夥伴定製晶片,以支持其專用的工作負載和系統,而非採用一體適用的方案;最後是生態系統,Arm在軟體、IP和晶片生態系統中提供出色性能和靈活性,從而降低配置的總成本並加速產品上市。Arm獨特的定位,皆因結合這些優勢,幫助合作夥伴隨時隨地以任何方式進行部署。Arm Neoverse CSS將這些優勢演繹得淋漓盡致。

Neoverse CSS已廣受頭部雲服務提供商、初創公司等業內各類企業青睞,並採用於雲計算、網路、數據中心基礎設施,以及AI等多樣化的應用中。據悉,有一家合作夥伴通過使用Neoverse CSS節省了長達80人/年的工程師時間。另一個合作夥伴案例則是從項目啟動到流片僅耗時九個月。

擴展產品路線圖

當前,基礎設施正在發生變革。頭部雲計算和網路企業對其數據中心、計算設備及運行其中的工作負載非常熟悉,他們高度專注於優化其基礎設施的每一層,目的是讓這些多樣化的工作負載獲得最佳性能,更重要的是獲得最佳的每瓦性能。

軟體和硬體在過去分別由不同的公司負責開發,而這樣老舊的模式已經無法滿足現在客戶對性能的需求,也無法適配軟體或硬體的複雜性。客戶希望其部署的硬體,甚至是微架構層面,都能被優化,以便順利運行其軟體工作負載。此類聯合優化很難實現,需要軟硬體雙方做出巨大的投入才能夠完成。

Arm基礎設施事業部產品解決方案副總裁Dermot O』Driscoll表示,通過與Arm的協作模式,合作夥伴可以在Arm IP的開發過程中,在對應IP的典型系統上運行其工作負載。這種協作模式直接影響Arm架構的發展方向,以及Arm在IP產品中實現微架構的方式。在交付IP之後,Arm也將為合作夥伴提供貫穿整個晶片開發周期的支持。通過模擬和仿真,Arm幫助他們評估由Arm提供的設計選擇,並在開發與配置的全流程中提供支持,從而縮短產品上市進程。

Arm進一步擴展Neoverse CSS,推出了CSS N3和CSS V3。這兩款新品則是分別基於新的Neoverse N3和V3核心。N系列在壓縮方面取得了性能優勢,可降低雲服務運營商的成本,並最終降低雲服務客戶的成本。同樣地,V系列顯著提高了協議緩衝區的性能,這是在數據中心內傳輸數據的一項關鍵功能。

CSS N3的首個實例可提供32核,熱設計功耗(TDP)低至40W。其可擴展性非常強,可覆蓋電信、網路和DPU等一系列應用,並支持最新的PCIe和CXL I/O標準以及UCIe芯粒標準。

與CSS N2產品相比,CSS V3的單晶片性能提高了50%。CSS V3在單晶片上最多可擴展至128核,並支持最新的高速內存和I/O標準。

在人工智慧(AI)類應用工作負載方面,Arm的表現也可圈可點。在AI數據分析工作負載用例中,通過改進分支預測,更好地管理最後一級緩存和相關內存帶寬,以及大幅增加L2緩存,N3的性能相較於N2提升了高達196%。

打造未來計算及AI的基石 Arm擴展Neoverse平台產品路線圖

與此同時,Arm也關注於生成式AI和大語言模型(LLM)工作負載。目前行業重點更多放在訓練LLM上,但隨著生成式AI廣泛應用於實際業務場景,其工作重點將轉向推理。CPU推理將是生成式AI計算應用的關鍵組成,但並非所有AI處理都將在CPU上進行,AI加速器也將起到重要作用。以NVIDIA為例,該公司不僅利用其領先的Hopper GPU,同時也使用了基於Neoverse V2平台的緊耦合計算芯粒Grace。這種緊耦合的CPU加上加速器配置,有助於大參數LLM,以及對檢索-增強-生成(RAG)等新興方法。

強大的生態賦能

生態系統是Arm有力的資產之一。Mohamed Awad表示,Arm獨特的優勢,也是Arm的強項之一就是,能夠賦能廣泛的生態系統進行創新。

為了讓合作夥伴能夠快速且成功地交付定製解決方案,Arm稍早推出了Arm全面設計(Arm Total Design)生態項目,旨在匯集合作夥伴致力於無縫交付基於Neoverse CSS的定製SoC。

打造未來計算及AI的基石 Arm擴展Neoverse平台產品路線圖

Arm基礎設施事業部營銷副總裁Eddie Ramirez表示,Arm全面設計匯集了半導體領域的各路領先企業,囊括了晶片設計合作夥伴、IP供應商、EDA工具提供商、代工廠和固件開發商等,共同加快並簡化基於Neoverse CSS的系統開發。

Arm同時宣布,Arm全面設計生態項目已吸引超過20家來自各方技術合作夥伴的加入,他們均致力於確保高性能、高效率解決方案的廣泛可觸及性,助力滿足AI加速未來的計算需求。基於Neoverse CSS的技術,這些合作夥伴已在方方面面攜手合作,從驗證IP、定製固件,到在全球先進的工藝節點上打造芯粒。

芯粒已成為管理良率的常用機制,能讓企業在單個晶片上利用到多種工藝節點。基於Arm全面設計生態夥伴的反饋意見,Arm打造出近期發布的芯粒系統架構(Chiplet System Architecture,CSA)。CSA旨在定義一個功能強大、支持通用的芯粒生態系統。

打造未來計算及AI的基石 Arm擴展Neoverse平台產品路線圖

去年十月,Socionext成為首家宣布計劃在台積公司領先的2納米工藝上開發基於CSS芯粒的合作夥伴。這款配置32核的芯粒可與其他芯粒結合使用,提供可擴展且經濟高效的計算解決方案。該設計將基於Neoverse CSS V3進行打造。

智原科技也在構建基於芯粒的伺服器晶片,該晶片將搭載64顆N系列核心,並基於英特爾代工服務的18A工藝節點進行生產製造。

此外,ADTechnology將提供高性價比的16核CSS N系列邊緣伺服器平台,他們將與三星代工廠合作,為邊緣計算釋放更強大的算力。

雲豹智能是Arm全面設計生態項目在中國市場的首家合作夥伴。雲豹智能是一家專注於雲計算和數據中心數據處理器晶片(DPU)和解決方案的領先半導體公司。Arm全面設計正幫助雲豹智能將業務拓展到其他領域,並有助於其開發其他類型的基礎設施系統級晶片(SoC)。

除了充滿活力的硬體生態系統,Arm的軟體生態系統也在迅速擴展,幫助開發者簡化部署流程,同時提高採用Arm技術的硬體的生產效率。去年,Arm達到了一個重要的里程碑,80%的雲原生計算基金會(CNCF)畢業項目原生支持Arm架構。

Arm Neoverse軟體生態系統正在不斷擴展,以滿足所有開發者的需求。從主流編程語言、軟體工具、所有主要Linux發行版,到支持網路、存儲和大數據以及AI應用的項目,這包括軟體棧各個級別的知名開源企業。此外還包括大量獨立軟體供應商(ISV),他們可提供各類應用和SaaS產品。這一生態系統正成為雲服務提供商部署其雲服務的上佳之選,以便能夠充分利用Arm提供的TCO優勢。超過15年在Neoverse軟體生態系統的投資,讓Arm實現了強大的軟體支持水平,助力超過五萬家公司在支持Arm的基礎設施上部署關鍵工作負載。這也是Arm及合作夥伴生態系統降低部署成本,並提高正在部署的各類定製晶片可用性的另一種方式。

例如Oracle發布的Oracle Database 19c支持基於Arm架構的伺服器,可用於雲端和本地部署。Oracle Database的客戶正在使用需要更高處理需求的數據,以構建日益複雜的應用。現在這些客戶可以在具有可預測性能、成本更低的伺服器上運行。SAP還成功地將SAP HANA Cloud移植到了基於Arm架構的AWS Graviton處理器上面,這包括遷移近300個為SAP HANA提供支持的微服務。

結語

Arm Neoverse平台的發展勢頭令人振奮,基於Neoverse平台的技術、系統、軟體和晶片的生態繁榮,為數字經濟的發展提供源源不斷的動力。Arm平台是未來計算及AI的基石。

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2025 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新