宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

Supermicro:攜手合作夥伴塑造高能效AI基礎設施

2024年07月15日 首頁 » 熱門科技

對於Supermicro的總裁兼CEO梁見後而言,「We Keep IT Green」的理念早已根植於心,並深深貫徹在Supermicro的企業文化之中。

2004年,一部名為《The Day After Tomorrow》的電影進一步加深梁見後對環境保護的緊迫感。這一年開始,Supermicro開始專心做節能減碳的產品線,到2015年梁見後成立The Green Earth Foundation「綠色地球基金會」,再到如今Supermicro 站在為AI時代的重大創新進行「綠色賦能」潮頭。「We Keep IT Green」的「綠色信仰」一直貫穿著Supermicro的整體業務和技術戰略,更是成為了Supermicro ESG戰略的關鍵詞。

綠色計算是Supermicro整體企業ESG戰略和可持續發展目標的核心組成部分。面對人工智慧、大型語言模型(LLMs)和高性能計算(HPC)快速發展的當下,計算基礎設施的冷卻解決方案成為用戶必須關注的重點。

梁見後深知,IT基礎設施在全球電力消耗中占有相當比例,也是碳排放的重要來源,尤其是在AI時代來臨後大量數據帶來的高能耗背景下。所以,引領行業可持續高性能計算解決方案,支持業務和環保便成為了Supermicro如今的目標和首要任務

如今,綠色計算的理念已融入Supermicro的設備運營實踐中。通過優化電力傳輸和使用共享基礎設施組件,Supermicro致力於降低設備運營成本並提高能源效率。這包括使用共享電源和風扇的多節點和刀片伺服器,從而降低整體功耗並提高冷卻效率。通過共享風扇和電源,Supermicro的產品可以減少約10%的電力消耗。此外,通過採用液冷技術,Supermicro旨在顯著降低高性能計算(HPC)和人工智慧(AI)工作負載場景下的冷卻運營能耗。

創新——讓AI代的數據中心「能效高、性能強、更經濟」

Supermicro的綠色計算創新,體現在其產品與設計層面的不斷突破,專注於開發滿足現代數據中心需求的節能產品,特別是針對人工智慧(AI)和其他高性能應用的需求。

一直以來,液冷技術以其高效的能耗控制而備受青睞,尤其適用於那些配置密集、功耗高的系統負載。Supermicro 的液冷技術液冷解決方案能夠大幅降低能耗,其直抵晶片的冷卻和浸沒式冷卻,得益於液體比空氣具有更優秀的熱傳遞性能,可顯著降低了冷卻IT設備所需的能耗,有潛力將數據中心的能耗降低高達40%,且成本僅為傳統風冷系統的十分之一,是AI、機器學習和大規模數據處理等高性能計算需求的理想選擇。

Supermicro 的液冷機架系統,利用負責管理冷卻液循環高效的冷卻液分配單元(CDU),有效地從密集部署的伺服器中移除熱量,不僅顯著提升了電源使用效率(PUE),更能通過降低冷卻相關的能源消耗,大幅減少總體擁有成本(TCO)。針對AI負載,Supermicro 還提供了預配置的機架級人工智慧(AI)解決方案,以優化性能、持多種電源配置(如208、230、415或480VAC)以及集成的48VDC設施,進一步提升了數據中心的運行效率。

Supermicro市場營銷和網路安全高級副總裁Michael McNerney直言道:「Supermicro的液冷解決方案在我們致力於綠色計算的過程中發揮了關鍵作用,使數據中心能夠在保持高性能的同時更加可持續性地運行。」

同樣的,Supermicro 數據中心的液冷配置設計幾乎免費,並能持續降低用電量,這也是Supermicro提供的額外價值。

這也回應了在COMPUTEX期間,梁見後問出的那句話——「你相信液冷會比氣冷便宜嗎?」

Supermicro:攜手合作夥伴塑造高能效AI基礎設施

Supermicro市場營銷和網路安全高級副總裁 Michael McNerney

然而,儘管液冷解決方案在許多尖端應用中已成為首選,但在特定場合,風冷解決方案仍舊是最合適的選擇。一般而言,風冷技術通常應用於需要中等冷卻能力的通用伺服器,適用於小型數據中心或擁有標準IT基礎設施的環境。且風冷系統部署的時間更短,適合對部署速度有嚴格要求的場景。

Michael McNerney介紹說:「在2024年台北國際電腦展(COMPUTEX 2024)上,Supermicro推出的SuperCluster產品,提供了液冷和風冷兩種選擇,讓客戶可以根據自己的業務需求選擇最合適的技術路徑。同時,憑藉進一步縮小風冷和液冷之間的部署時間成本差異,Supermicro 最新推出的液體冷卻整體解決方案將成為顛覆行業的一大革新。」

Supermicro不僅發力數據中心、伺服器陣列能效優化,同樣重視單個伺服器內部的硬、軟體效率。

為了優化系統級能效,Supermicro通過同步匹配工作負載與 CPU 和 GPU 的設計演進,顯著降低了運行應用時的能耗。隨著每代 CPU 和 GPU 性能的顯著提升,Supermicro 的最新伺服器能夠在功率性能上達到前代產品的3倍。這不僅極大地增強了數據中心在相同或更低電力需求下的服務能力,還通過優化特定工作負載的伺服器配置和採用多節點及刀片伺服器設計,進一步提升了能源效率。此外,這些伺服器的設計支持易於升級的內部組件(可兼容各種 CPU 和 GPU),有效減少了因伺服器報廢產生的電子垃圾。

「為加快實現全球可持續發展目標,踐行最大限度減少環境足跡的承諾。我們力求通過分解式伺服器設計儘可能利用可再生能源以減少電子廢棄物。」Michael McNerney如是說。

攜手——推進綠色計算倡議 打造AI時代的高效基礎設施

Supermicro為致力於減少能耗和提升單位能耗下的性能,不斷與NVIDIA、AMD、Intel、Red Hat等行業翹楚攜手,共同推進綠色計算倡議。「在集成配備先進的冷卻技術後,設備溫控對於在不過度消耗能源的情況下保持性能至關重要。」Michael McNerney直言道。

為了兼顧高性能和高能效,Supermicro的解決方案選用了Intel Xeon®系列、AMD EPYC™處理器以及NVIDIA的RTX A6000和HGX H100 GPU等先進的處理器和GPU。同時,為了能夠讓用戶根據實際需求隨時調整計算資源,Supermicro伺服器的可擴展性,能夠讓用戶根據具體任務,以靈活的配置方式更高效地分配資源,並減少不必要的能源消耗。

「與AMD和Intel的合作使得Supermicro能夠整合適配先進冷卻解決方案的高性能處理器,進一步推動數據中心的能效優化。」Michael McNerney特別強調,將最新的GPU技術和AI框架融入Supermicro的系統中,是優化性能和降低能耗的關鍵,為此Supermicro與NVIDIA的緊密協作。

這其中,對NVIDIA AI Enterprise 的支持,顯著增強了 Supermicro SuperCluster 的性能,用於部署和管理人工智慧應用程序,專門針對LLM訓練、深度學習以及大規模與大批量推理優化。

關鍵是,Supermicro的SuperCluster支持NVIDIA AI Enterprise,其中包括NVIDIA NIM微服務和NVIDIA NeMo平台,能實現端對端生成式AI定製,並針對NVIDIA Quantum-2 InfiniBand以及具有每GPU 400Gb/s網速的新型NVIDIA Spectrum-X以太網路平台優化,可擴展到具有數萬個GPU的大型計算叢集。

Supermicro:攜手合作夥伴塑造高能效AI基礎設施

NVIDIA AI Enterprise 涵蓋開發、管理和部署 AI 模型所需的所有必要工具,確保了 Supermicro SuperCluster 能夠配備一個全面且安全的 AI 解決方案。通過NVIDIA AI Enterprise 的NVIDIA NIM 微服務簡化了AI 應用程序從初步開發到全面生產的擴展過程,有效避免了基礎設施複雜性帶來的常見問題。NVIDIA AI Enterprise 的NVIDIA NeMo 平台支持通過數據管理、進階自定義以及檢索增強生成(Retrieval-Augmented Generation,RAG)技術,開發定製的企業級模型,進一步推動企業解決方案的發展和優化。

在亞太市場, Supermicro已經採取戰略舉措和相關布局,以滿足市場對先進計算能力日益增長的需求。 Michael McNerney介紹說:「Supermicro NVIDIA HGX B200 SuperCluster液冷優化解決方案,專為大型語言模型訓練和推理任務而設計。這種解決方案特別適用於專注於生成式人工智慧和深度學習應用的企業和研究機構。此外,這些舉措使亞太地區的企業能夠建設可擴展的、高性能的AI基礎設施,滿足現代AI應用的需求。」

如今,Supermicro的技術發展路徑愈發清晰——計劃通過融合尖端的冷卻技術,打造出卓越的機架級系統,以迎接日益增長的市場需求。這不僅僅是技術革新的展示,更是與行業巨頭攜手共進的戰略舉措,共同推動AI基礎設施的高效運轉。預計,在不久的將來,全新的將液冷方案在數據中心中的市場份額提升至15%。

AI時代,節能與環保是人類共同的責任與挑戰,Supermicro一直踐行著承諾,正如梁見後所言「Supermicro立志走在前面,攜手邁向一個更加綠色的未來。」

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2025 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新