宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

微軟推出配備英偉達GPU的ND H100 v5虛擬機

2023年08月09日 首頁 » 熱門科技

微軟推出配備英偉達GPU的ND H100 v5虛擬機

近日微軟表示,ND H100 v5虛擬機系列將在Azure雲平台上全面上市,為客戶提供訓練和運行大模型所需的強大計算基礎設施。

此外,微軟還擴展了Azure OpenAI服務,客戶可以通過該服務探索來自ChatGPT創建者OpenAI LP的、最先進的人工智慧模型。該公司表示,Azure OpenAI現已在全球多個地區推出。

微軟的ND H100 v5 虛擬機似乎是該公司迄今為止最強大的計算產品之一。這些虛擬機現已在Azure的美國東區和西部地區上市,配備了八個英偉達最新、最強大的 H100 GPU。

英偉達去年推出了H100 GPU,並表示它們採用了全新的Hopper架構。與用於訓練原始ChatGPT 的Nvidia A100 GPU相比,H100 GPU的處理能力要高出幾個數量級。

英偉達在推出H100 GPU時曾表示,H100 GPU的優勢在於它們能提供比上一代GPU「更快的AI 模型性能」。ND H100 v5實例還採用了英特爾最新的第四代英特爾至強可擴展中央處理器,並通過英偉達的Quantum-2 CX7 InfiniBand技術實現了低延遲聯網。它們還採用了PCIe Gen5,為每個GPU提供每秒64千兆字節的帶寬,並採用了DDR5內存,實現了更快的數據傳輸速度,用以處理最大的人工智慧訓練數據集。

微軟在大力宣傳ND H100 v5實例的性能,比如矩陣乘法運算速度將提高六倍,大語言模型(如 OpenAI 的 GPT-BLOOM 175B)的推理速度將提高1.8倍,並承諾明年將向客戶提供數十萬個H100 GPU。

ND H100 v5虛擬機針對的是生成式人工智慧工作負載,因此微軟同時擴展Azure OpenAI服務是完全合理的,該服務可直接訪問OpenAI的尖端人工智慧模型GPT-4和GPT-35-Turbo。Azure OpenAI服務於今年1月推出,最初只在Azure的美國東部、法國中部、美國中南部和歐洲西部地區提供,但現在已經擴展到加拿大東部、美國東部2區、日本東部和英國南部。

Constellation Research的Holger Mueller表示,微軟對擴大其人工智慧產品的規模並使其更強大充滿熱情,並希望其得到更廣泛的應用。他表示:「微軟希望向更多客戶提供OpenAI,並提供基於英偉達產品的虛擬機,供客戶運行自定義的AI模型並以此盈利。」「推出的速度、可及性和穩定性是客戶採用的關鍵,因為很多企業由於數據駐留和安全要求而被束縛在特定區域。」

微軟表示,Azure OpenAI 服務已經得到了11000多家企業客戶採用,而新用戶在以每天約100家的速度增長。

微軟Azure HPC、人工智慧、SAP和機密計算總經理Nidhi Chappell表示:「作為此次擴展的一部分,我們將在新的地區擴大我們最先進的生成式人工智慧模型GPT-4的可及性。」「這一改進能夠讓更多的客戶能夠利用GPT-4的功能來實現內容生成、文檔智能、客戶服務等功能。」

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2025 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新