在最新的SIGGRAPH的舞台上，NVIDIA老黃宣布了英偉達最新的NVIDIA DGX GH200 Grace Hopper超級晶片平台。老黃表示，這個「龐然大物」專門為AIGC時代打造，搭載了全球最快的內存，不僅帶寬每秒5TB，內存容量更是暴增了接近50%來到141GB，號稱「任何大語言模型都能運行」。
現場，老黃通過動畫的形式為我們展示了如何使用最新的NVLink等技術，將Grace Hopper超級晶片構建起一整套為AIGC打造超級電腦的全過程。首先，由兩個DGX GH200 Grace Hopper超級晶片組成雙聯體，將雙聯體與BlueField-3 DPU和ConnectX-7網卡組成一個「計算盒」，再通過NVLink將8個這樣的「計算盒」連接組成總內存高達4.6TB的DGX構建塊，再由這樣的構建塊合二為一形成新的計算盒，最終擴建成為256 GPU的工作集群Superpod，突出一個英偉達傳統藝能——疊。
他表示，每個Grace Hopper超級晶片上，CPU和GPU之間的連接速度是第五代PCle的7倍，得益於多GPU高速連接能力，雙聯體DGX GH200性能幾乎可以做到零損失，號稱「最快內存」的HBM3e（High Bandwidth Memory 3e）能夠在更小的空間內提供更高的數據傳輸速率，再加上NVLink的高速連接能力，能夠使這256塊GPU「像是一塊一樣」工作。
不僅如此，這些Superpod之間還能夠繼續連接，在低時延的Quantum-2 Infiniband平台的幫助下進行擴展。換言之，這就使其能夠根據不同需要，構建出不同規模、不同結構的更適應AIGC時代的全新超級電腦。
目前，有消息人士稱新的GH200 Grace Hopper超級晶片平台已經正在生產中，將於2024年第二季度上市，屆時很可能會再次AIGC行業帶來新的發展機遇，不過這對於中國公司而言很可能不是好事。
消息稱近日包括百度、字節跳動、騰訊和阿里巴巴在內的多家中國廠商向英偉達下單訂購了價值50億美元的晶片。報道稱，這些公司已下單10億美元，採購約 10 萬顆英偉達A800處理器，預計今年內交付。
英偉達A800是英偉達為了規避美國商務部的半導體新規，對標A100 GPU專供中國市場的處理器。除了互聯速度不同以外，A800與A100規格幾乎完全相同，但對比英偉達最新的GH200而言，無疑是落後的。
更令人擔憂的是，美國總統拜登也於近日簽署了一項關於限制美國在電腦晶片等敏感技術領域對中國進行投資的行政命令，要求企業必須就其在科技領域的在華投資情況向相關部門進行通報，消息稱，該項命令將會授權美國財政部長可以禁止或限制美國在三個領域對中國實體的投資，其中就包括半導體和微電子、量子資訊技術以及部分人工智慧系統。
因此有評論認為，目前中國網際網路巨頭爭相囤積A800晶片，是考慮到華盛頓政府有可能會在將來出台更嚴格的出口限制措施，甚至連英偉達性能較弱的晶片也會成為目標，因此才早做準備，正如老黃的那句「買得越多，賺得越多」。
但無論如何，面對飛速發展的AIGC行業，如果不想永遠跟在後面就必須抓住現在的機會，在生成式AI還未完全成形的時期殺進市場並取得一定成績，未來才有可能真正與OpenAI等巨頭掰掰手腕，不然可能以後連跟在屁股後面「撿漏」都沒有機會。如果此時不重金投入，恐怕在此之後只會落後更多，實在是無奈之舉。
