Nvidia創建了一項伺服器開放設計以支持其加速器，並認為，以CPU為中心的伺服器設計無法容納多個GPU和SmartNIC。
Nvidia公司首席執行官黃仁勛本周一舉行的Computex 2023大會上公布了名為「MGX」的設計，並表示這是必要的，因為現有的伺服器設計無法應對Nvidia加速器產生的熱量和消耗的功率。
他認為，從1965年IBM System 360首次亮相之日開啟的計算歷史時代如今已經結束。在 他的講述中，System 360曾賦予了CPU的全球主導地位以及擴展系統的能力。
他認為，自那以後這種架構一直主導著世界，但CPU性能的提升已經趨於穩定，加速器輔助計算才是未來。
當然，這一論點是Nvidia的核心宗旨。
但黃仁勛用有關生成大型語言模型（LLM）所需工作量這一數據來支持他的觀點，他引用了一個例子，假設有960台伺服器系統，該系統耗資1000萬美元，它需要消耗11Gwh來訓練一個大型語言模型。
他斷言，只需一對成本為40萬美元的、Nvidia驅動的伺服器以及封裝的GPU就可以完成同樣的工作，而功耗僅為0.13 GWh。他還表示，價值3400萬美元的、Nvidia驅動的172設備可以用來訓練150個大型語言模型，消耗11GWh。
黃仁勛的理論是，這種設備很快就會出現在很多企業組織的購物清單上，因為雖然數據中心的建設速度是驚人的，但大家對機架空間和電力的競爭依然很激烈，所以很多用戶會想辦法重新設計他們的數據中心以提高效率和密度。
這就是MGX規範的用武之地，MGX提供了一種設計，可以在更小的空間內使用更多的Nvidia產品，而不是將其硬塞進僅由CPU驅動的機器中。黃仁勛表示，MGX提供了用戶所需的密度。如果需要，它可以愉快地容納舊的x86 CPU，以及所有Nvidia的加速器。
華擎科技、華碩、技嘉、和碩、QCT和Supermicro都已簽約生產這種伺服器，黃仁勛表示，這些伺服器可以部署為100多種配置中，具有1U、2U和4U等外形規格。
8月，QCT將交付名為S74G-2U的MGX設計，該設計將提供GH200 Grace Hopper Superchip。同月，Supermicro將推出ARS-221GL-NR，採用Grace CPU Superchip。
黃仁勛還宣布，Grace Hopper的生產正在如火如荼地進行中。他表示，Grace Hopper可以用於運行5G網路的家庭環境，以及用於一些生成式AI中，在影片聊天通過網路時對其進行訓練，而不是讓客戶端設備完成所有壓縮和解壓縮影片的工作。
他還介紹了一款大型交換機Spectrum-X Networking Platform，以提高以太網在運行AI工作負載的大規模雲中的效率。
他提到，Nvidia改進了對AI軟體堆棧的支持，使其更適合企業使用。
黃仁勛也在考慮機器人技術，因為Nvidia已經開放了Isaac平台，該平台結合了軟體和晶片，可以打造用於工業用途的自主機器人，特別是可以用於在倉庫里四處搬運貨物。
之所以能夠做到這些，是因為Nvidia使用封裝了全部Nvidia加速硬體的伺服器上創建真實世界的數字孿生，從而打造出了這種機器人。
這再次說明了Nvidia為什麼要構建MGX伺服器規範。
