在人工智慧驅動下,雲計算行業正在經歷根本性的轉變,需要一種全新的設計方法。Ampere Computing為提升雲計算的效率和性能而設計處理器。
Ampere 首席產品官 Jeff Wittich告訴記者,Ampere在業內首創了雲原生處理器的類別,其專為可持續的雲而設計。這表現為雲原生處理器能夠實現性能和能效的雙領先,天然適合雲基礎設施。
繼Ampere Altra和Ampere Altra Max之後,Ampere Computing宣布推出全新AmpereOne系列處理器,該處理器擁有多達192個單線程Ampere核,核心數量為業界最高。這是第一款基於Ampere新自研核的產品,由Ampere自有IP全新打造。
01 自研核,AmpereOne不止於此
Jeff Wittich表示,AmpereOne現已投產並交付給客戶。AmpereOne能夠為雲工作負載提供更高的性能、更高的可擴展性以及更高的密度。這是第一款基於Ampere新自研核的產品,由Ampere自有IP全新打造,擁有多達192個單線程Ampere核,核心數為業界最高,幫助Ampere進一步擴大在每機架性能方面的優勢。
不管是雲端工作負載還是AI應用,它們需要更多算力IO、內存以及帶寬。192個核心為AmpereOne帶來了巨大的性能優勢,比如在雲環境中運行虛擬機(VM),AmpereOne每機架運行的虛擬機數量是AMD Genoa的2.9倍,是英特爾Sapphire Rapids的4.3倍。
在生成式AI方面,相比AMD Genoa,AmpereOne可每秒多提供2.3倍的幀數(圖像),在運行穩定的擴散模型中勝出。此外在運行DLRM模型的推薦系統中,通過AmpereOne響應的查詢數量是AMD Genoa的每秒查詢數量的兩倍多。
除了192個自研設計的Ampere核,AmpereOne能夠為AI工作負載以及其他的雲工作負載提供出色的性能和能效以外,還能夠提供一些新功能滿足其他領域的需求,比如網格擁塞管理(Mesh Congestion Management)、細粒度電源管理(Fine Grained Power Management)和內存標籤(Memory Tagging)等,為高性能、高利用率的多用戶環境(如雲)提高了性能一致性、可管理性和安全性。
AmpereOne系列處理器中採用Chiplet設計,能夠具備更高的靈活度和可擴展性、平衡的高性能,加快了整個晶片設計周期,產品上市的速度會更快。
02 產品組合更完整,滿足客戶多樣化需求
隨著AmpereOne的正式推出,Ampere豐富了產品組合,同時進一步提升了產品的性能、可擴展性和效率,滿足所有雲原生計算需求——從最低的功耗、最多的限制條件,到規模最大的客戶需求。
此外,Ampere Altra和Ampere Altra Max將繼續為雲以及其他需要以最低能耗提供最高性能的關鍵細分市場服務。
Jeff Wittich說,AmpereOne系列處理器並不是要取代Ampere Altra系列,而是在它的基礎之上,進行持續的擴張。「在未來很長一段時間裡,Ampere Altra系列處理器還會繼續銷售,為我們的客戶提供服務支持。我們希望能夠滿足不同客戶的需求。」
需要注意的是因為AmpereOne系列處理器和Ampere Altra系列處理器都是基於ARM ISA。所有能夠在Ampere Altra系列處理器上運行的代碼,在全新的AmpereOne系列處理器上運行不存在兼容性問題,不需要進行任何改動。
對於這些不同產品的組合,客戶可以根據不同的場景需求選擇合適的產品,比如在邊緣計算場景,客戶可以選擇32核、功耗40瓦的Ampere Altra處理器;而對於更大算力需求的客戶,比如大規模數據中心用戶,他們可以選擇高達192核的AmpereOne系列處理器。
目前整個AI正對數據中心產生深遠影響,特別是生成式AI加劇了對算力的需求。通常AI工作負載分為AI訓練和AI推理,而通過Ampere雲原生處理器進行AI推理,可獲得卓越的可擴展性和性能,也打破了效率的瓶頸,而這正是令雲服務提供商(CSPs)困擾的問題,因為使用GPU會帶來極高的能耗,而且容量擴展會受到制約,可部署的伺服器數量也會受到限制。而Ampere的雲原生處理器通過提供卓越的性能和能效,恰好能夠解決這些行業痛點,尤其是對於AI推理來說。
三年前,Ampere收購了專注於創建AI軟體的OnSpecta公司,OnSpecta通過創建AI軟體助力硬體在AI負載之下運行更快。過去幾年Ampere的AI團隊的主要工作包括:建立形成標準框架的Libraries(庫),助力人們以更高性能運行Ampere Altra。
除了在軟體方面有所布局外,Ampere的AI團隊還和硬體團隊、架構團隊在AmpereOne的特性上進行優化合作,為AmpereOne的核心帶來了卓越的AI性能,比如 AmpereOne系列處理器提供了全新的 BF16支持,確保不同數據格式的支持。
Ampere的客戶群正在不斷擴大,包括谷歌雲、微軟Azure、甲骨文雲、阿里雲、百度雲、京東雲和騰訊雲等領先的雲服務提供商(CSP),以及HPE和Supermicro等領先的原始設備製造商(OEM),Ampere持續擴張生態合作,讓Ampere的產品面向更多的用戶,觸手可及。
Ampere將繼續在多種不同的雲應用上繼續擴展。Ampere Altra系列處理器目前不只是應用於公有雲,也有私有雲、企業、混合雲、邊緣計算等場景中,都有相應的部署。邊緣是雲的延伸,Ampere Altra系列處理器具備更高的核數,提供更高的算力,在資源限制較多的邊緣環境也可以帶來更優異的整體性能的表現。
「Ampere已經在高性能、高效率的雲原生處理器中占領了一席之地,並一直引領市場,而且我相信我們會持續擴大這方面的領先優勢。除了能效和性能,我認為很重要的是,Ampere就是純粹為雲打造,並且是真正的雲原生。」Jeff Wittich最後說。