今天凌晨在SIGGRAPH 2023上，英偉達創始人兼首席執行官黃仁勛宣布推出新一代GH200 Grace Hopper Superchip。這是世界上首次有晶片配備HBM3e，搭建的雙路系統相比於當前一代產品，內存容量是原來的3.5倍，帶寬則是原來的3倍。英偉達並沒有說明採購的HBM3e來自哪一個供應商，據推測應該是出自SK海力士。
相比目前使用的HBM3，新一代HBM3e有著50%的速度提升，雙路系統提供了高達10TB/s的帶寬，也就說每堆棧可以提供5TB/s的帶寬。GH200 Grace Hopper Superchip是將Hopper架構GPU和Arm架構Grace CPU結合，使用了NVLink-C2C，將兩者連接起來。其擁有72個Arm v9架構CPU核心，GPU方面應該和H100計算卡一致，即16896個FP32 CUDA核心。新款晶片打造的雙路系統將擁有144個Arm v9架構CPU核心，282GB的HBM3e，帶來8 Petaflops的AI計算性能。
英偉達表示，新的平台旨在處理世界上最複雜的生成式人工智慧工作負載，涵蓋大型語言模型、推薦系統和矢量資料庫，可用於各種配置。英偉達計劃銷售兩種版本：一種版本包含了兩個可供客戶集成到系統中的晶片，另一種版本是結合了兩種Grace Hopper設計的完整伺服器系統。
此外，英偉達也會將HBM3e用於Hopper架構的GH200計算卡，預計會在2024年第二季度到來，會比競爭對手AMD的Instinct MI300X晚一些，後者通過HBM3提供了5.2TB/s的帶寬，容量為192GB。
