微軟正在擴展自己的Azure雲平台，新增了一個旨在運行AI模型的新實例系列——ND H100 v5系列的實例系列近日首次亮相。
微軟公司Azure高性能計算和人工智慧群組首席項目經理Matt Vegas在博客文章中寫道：「為我們的客戶兌現高級人工智慧的承諾，這需要超級計算基礎設施、服務和專業知識，以應對呈指數級增長的規模和最新模型的複雜性。在微軟，我們憑藉長達十年的超級計算經驗以及支持最大型AI訓練工作負載的經驗來應對這一挑戰。」
每個ND H100 v5實例都配備了8個Nvidia H100 GPU。H100是Nvidia在去年三月推出的最先進的數據中心GPU，它訓練AI模型的速度要比Nvidia此前的旗艦晶片快9倍，執行推理、模型運行的速度最多快30倍。
H100採用了4納米工藝生產800億個電晶體，其中包括一個稱為Transformer Engine 的專用模塊，旨在加速基於Transformer神經網路架構的AI模型。該架構為許多高級AI模型提供支持，包括OpenAI的ChatGPT聊天機器人。
Nvidia還為H100配備了其他增強功能。其中，該晶片提供了內置的機密計算功能，可以通過阻止未經授權的訪問請求來隔離AI模型，包括來自運行它的作業系統和管理程序的請求。
高級AI模型通常不是部署在一個而是多個GPU上的。以這種方式使用的GPU必須定期與另一個GPU交換數據以協調工作，為了加快GPU之間的數據流動，企業通常會使用高速網路連接將將這些GPU連接在一起。
微軟此次新推出的ND H100 v5實例，有8個H100晶片使用了NVLink Nvidia技術進行連接。據Nvidia稱，該技術要比主流的網路標準PCIe 5.0快7倍。微軟表示，NVLink在其新實例中的8個GPU之間提供每秒3.6Tb的帶寬。
該實例系列還支持另一項名為NVSwitch的Nvidia網路技術。NVLink旨在將單個伺服器內的GPU連接在一起，而NVSwitch則是把多個GPU伺服器彼此連接起來。這使得運行複雜AI模型變得更加容易，因為這些模型必須分布在數據中心的多台機器上。
微軟的ND H100 v5實例結合採用了Nvidia H100 GPU和英特爾的CPU。這些CPU來自於英特爾新的第四代至強Scalable處理器系列，該晶片系列也被稱為Sapphire Rapids，於今年1月首次亮相。
Sapphire Rapids基於英特爾10納米工藝的增強版。該系列中的每個CPU都包含了多個板載加速器、針對特定任務優化的計算模塊。英特爾表示，由於內置加速器，Sapphire Rapids為某些AI應用提供的性能要比其上一代晶片高出10倍。
ND H100 v5實例系列目前已經提供了預覽版。
