英偉達在SC24超算大會上宣布,進一步拓展旗下數據中心產品線,帶來GB200 NVL4和H200 NVL PCIe GPU兩款產品。
GB200 NVL4是一種單伺服器解決方案,擴展了Blackwell架構產品組合。其在單個主板上集成了四個Blackwell GPU和兩個Grace CPU,利用NVLink互連技術實現相互間的通信,配有768GB的HBM3E和960GB的LPDDR5X內存,提供了32TB/s的組合內存帶寬,擁有卓越的單伺服器系統規格,使其成為要求苛刻的 AI 工作負載的強大動力源。
英偉達表示,GB200 NVL4與GH200 NVL4相比,提供了2.2倍的模擬性能、1.8倍的AI訓練性能和1.8倍的AI推理性能。該系統的功耗達到5400W,安裝了液冷散熱系統,從而提供最佳的性能,預計將進入超大規模客戶的伺服器機架。
NVIDIA H200 NVL PCIe GPU是Hopper系列的最新成員,非常適合擁有數據中心的客戶,適配低功耗、風冷式企業機架的設計,並具有靈活的配置,可為每個AI和HPC工作負載提供加速。根據最新的調查顯示,大約70%的企業機架的功率為20kW及以下,並採用風冷散熱,這使得PCIe GPU變得至關重要。
NVIDIA H200 NVL PCIe GPU為雙槽厚度,TDP為600W,低於H200 SXM的700W,同時INT8 Tensor Core算力也相應降低,下降的幅度約為15.6% ,不過仍然支持雙路或四路的900GB/s NVLink互聯。相比於H100 NVL,新產品的顯存是其1.5倍,帶寬也達到了1.2倍,並擁有1.7倍的AI推理性能,在HPC應用中性能也高出了30%。