近日微軟表示,ND H100 v5虛擬機系列將在Azure雲平台上全面上市,為客戶提供訓練和運行大模型所需的強大計算基礎設施。
此外,微軟還擴展了Azure OpenAI服務,客戶可以通過該服務探索來自ChatGPT創建者OpenAI LP的、最先進的人工智慧模型。該公司表示,Azure OpenAI現已在全球多個地區推出。
微軟的ND H100 v5 虛擬機似乎是該公司迄今為止最強大的計算產品之一。這些虛擬機現已在Azure的美國東區和西部地區上市,配備了八個英偉達最新、最強大的 H100 GPU。
英偉達去年推出了H100 GPU,並表示它們採用了全新的Hopper架構。與用於訓練原始ChatGPT 的Nvidia A100 GPU相比,H100 GPU的處理能力要高出幾個數量級。
英偉達在推出H100 GPU時曾表示,H100 GPU的優勢在於它們能提供比上一代GPU「更快的AI 模型性能」。ND H100 v5實例還採用了英特爾最新的第四代英特爾至強可擴展中央處理器,並通過英偉達的Quantum-2 CX7 InfiniBand技術實現了低延遲聯網。它們還採用了PCIe Gen5,為每個GPU提供每秒64千兆字節的帶寬,並採用了DDR5內存,實現了更快的數據傳輸速度,用以處理最大的人工智慧訓練數據集。
微軟在大力宣傳ND H100 v5實例的性能,比如矩陣乘法運算速度將提高六倍,大語言模型(如 OpenAI 的 GPT-BLOOM 175B)的推理速度將提高1.8倍,並承諾明年將向客戶提供數十萬個H100 GPU。
ND H100 v5虛擬機針對的是生成式人工智慧工作負載,因此微軟同時擴展Azure OpenAI服務是完全合理的,該服務可直接訪問OpenAI的尖端人工智慧模型GPT-4和GPT-35-Turbo。Azure OpenAI服務於今年1月推出,最初只在Azure的美國東部、法國中部、美國中南部和歐洲西部地區提供,但現在已經擴展到加拿大東部、美國東部2區、日本東部和英國南部。
Constellation Research的Holger Mueller表示,微軟對擴大其人工智慧產品的規模並使其更強大充滿熱情,並希望其得到更廣泛的應用。他表示:「微軟希望向更多客戶提供OpenAI,並提供基於英偉達產品的虛擬機,供客戶運行自定義的AI模型並以此盈利。」「推出的速度、可及性和穩定性是客戶採用的關鍵,因為很多企業由於數據駐留和安全要求而被束縛在特定區域。」
微軟表示,Azure OpenAI 服務已經得到了11000多家企業客戶採用,而新用戶在以每天約100家的速度增長。
微軟Azure HPC、人工智慧、SAP和機密計算總經理Nidhi Chappell表示:「作為此次擴展的一部分,我們將在新的地區擴大我們最先進的生成式人工智慧模型GPT-4的可及性。」「這一改進能夠讓更多的客戶能夠利用GPT-4的功能來實現內容生成、文檔智能、客戶服務等功能。」