宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

NVIDIA發布可擴展式「AI工廠」搭建藍圖

2024年10月30日 首頁 » 熱門科技

NVIDIA所謂的AI工廠,其真正含義是旨在實現「製造智能性」的高性能安全數據中心,而且NVIDIA認識,到構建這種工廠的任務對任何企業來說都是十分艱巨的。

NVIDIA發布可擴展式「AI工廠」搭建藍圖

挑戰在於組織必須在未知領域中進行探索,因為以前沒有人建造過AI工廠。隨著大型語言模型功能和軟體框架的快速發展,構建此類數據中心的最佳實踐和標準化方法仍處於起步階段,讓人很難滿懷信心地投資數據中心基礎設施。

NVIDIA希望能夠改變這種狀況,為此,NVIDIA推出了一系列Enterprise Reference Architectures,這些藍圖將幫助組織確保其AI工廠能夠不斷發展和擴大,以支持未來幾年的創新。

據說,這些藍圖提供了有關AI工廠所需全棧硬體和軟體的詳細建議,以及有關最佳伺服器、集群和網路配置等方面的指導。

據NVIDIA稱,企業通過使用NVIDIA Enterprise RA就可以構建和部署「具有成本效益的加速基礎設施」,這種基礎設施可以與各種第三方硬體和軟體組件實現互操作,因此將來是可以輕鬆更新的。

當然,NVIDIA認為大多數組織的AI工廠都需要集成自己的大量硬體,因此參考架構為NVIDIA認證的伺服器提供了建議,這些伺服器配置了為大多數AI應用提供動力的NVIDIA GPU。

這個參考架構還為使用NVIDIA Spectrum-X AI Ethernet平台和NVIDIA BlueField-3數據處理單元進行AI優化網路提供了指導方針,以確保峰值性能和未來擴展靈的活性。

NVIDIA的AI Enterprise平台是參考架構的另一個組成部分,其中包括了用於構建和部署AI應用的NVIDIA NeMo和NVIDIA NIM等微服務。NVIDIA Base Command Manager Essentials也是如此,它提供了用於基礎設施配置、工作負載管理和資源監控的工具。

NVIDIA表示,將通過戴爾、HPE、超微和聯想等伺服器製造合作夥伴將這個藍圖提供給企業,意味著企業在他們想要用來為其AI工廠提供動力的底層伺服器平台方面,仍然有很大的靈活性。

使用NVIDIA參考架構的最大好處也許就是能夠更快地啟動和運行,因為客戶只需要遵循其結構化的方法,而不必自己摸索。NVIDIA還表示,他們有信心利用這些藍圖確保企業能夠從其伺服器硬體中實現最大性能。

另一個關鍵優勢是和規模有關的。這個面向未來的參考架構經過精心設計,可以隨著更多硬體和軟體創新的出現輕鬆進行升級。

NVIDIA公司副總裁、企業平台總經理Bob Petter表示:「Enterprise RA提供了一種蔣健的方法,來構建靈活且經濟高效的加速基礎設施,從而縮短了部署AI基礎設施解決方案的時間以及降低了成本。」

Constellation Research分析師Holger Mueller表示,儘管遵循這些藍圖不可避免地需要承諾使用NVIDIA的硬體和軟體,但企業組織很可能會選擇這麼做的。他認為,大多數企業根本沒有必要的技能和經驗來自己打造用於AI項目的基礎設施,更別說AI技術還在快速發展中。

「NVIDIA在幾乎所有生成式AI項目中都發揮著關鍵作用,這些藍圖將使組織能夠更輕鬆地構建和升級他們的內部AI架構,只要企業樂於使用NVIDIA的晶片——許多企業確實如此,那麼這就是一個雙贏的局面。企業可以更快速地啟動他們的AI項目,而NVIDIA也可以獲得另一個長期客戶。」

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2025 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新