半導體設計及製造商Nvidia宣布推出最新AI晶片NVIDIA HGX H200，旨在訓練和部署各種人工智慧模型，並期望能幫助公司主導AI運算市場的晶片添加更多功能。
在Llama 2模型的推理速度上， NVIDIA HGX H200的速度與H100相比幾乎增加一倍。新晶片是首款搭載先進內存HBM3e的GPU，使GPU的內存帶寬從每秒3.35TB提高至4.8TB，內存總容量從80GB提高至141GB，與其前代相比容量增加1.8倍，帶寬增加1.4倍。
此外，NVIDIAHGX H200採用Hopper架構，並配備H200 Tensor Core GPU和高端內存，以處理AI和高性能計算產生的大量數據。
英偉達表示，推出新產品的目的是為跟上用於創造AI模型和服務的數據集的規模，而增強記憶量的H200在處理數據的速度會快很多。
據了解，多家雲計算服務公司，例如Amazon旗下的AWS、Alphabet的Google Cloud和Oracle的Cloud Infrastructure都表示，預計明年第2季開始，將使用這款新晶片，是首批採用H200的雲計算服務商。
NVIDIA目前並未公布H200的具體價格，但發言人Kristin Uchiyama指出，最終定價將由NVIDIA製造夥伴制定。
數據源：bloomberg
