「站在電腦行業重啟的起點上，你是否已經為下一段重要旅程做好了準備？」 NVIDIA 創始人兼首席執行官黃仁勛在Computex 2024（2024台北國際電腦展）上這樣問。
當電腦圖形學、模擬與人工智慧交匯，背後的奧秘，卻來自數學、科學和電腦科學的精髓，以及令人嘆為觀止的電腦架構。
這一切的背後，NVIDIA有著怎樣的領會？
GPU 一年一更
在摩爾定律逐漸失去其「預測力」的當下，隨著CPU擴展速度放緩，數據量卻繼續呈指數級增長，最終導致計算需求爆炸性增長和計算成本的提升。而GPU將是解決這一問題的關鍵。
目前，與2016年發布的Pascal GPU相比，Blackwell GPU的計算能力提升了1000倍，幾乎「超越了摩爾定律在最佳時期的增長」。在提高計算能力的同時，成本卻在不斷下降。使用Pascal產品訓練一個GPT-4模型需要消耗高達1000吉瓦時的能量，而利用Blackwell產品僅需3吉瓦時。
面對這樣的更新節奏，老黃還是覺得太慢。當NVIDIA最新技術路線圖公布，這場「速度與激情」正式上演。「NVIDIA計劃之後每年推出一款新的GPU架構，明年將升級Blackwell晶片，進一步提升AI計算的性能和效率。」黃仁勛這樣說。
升級後的Blackwell晶片將包括全新的GPU、基於Arm的新CPU——Vera。同時也將帶來採用NVLink 6、CX9 SuperNIC和X1600的高級網路平台。據悉，下一代CPU被命名為「Vera」，GPU則為「Rubin」，靈感來源於宇宙暗物質研究先驅、美國女天文學家Vera Rubin。這些新架構將覆蓋整個數據中心GPU產品線，打破以往兩年更新一代的傳統。據透露，NVIDIA 下一代R系列AI晶片或將採用台積電3納米製程工藝，使用CoWoS-L封裝技術，搭載新一代的HBM4高帶寬內存技術，有望在2025年第四季度實現大規模生產。
黃仁勛強調，NVIDIA的技術創新步伐將每年加快，通過持續的技術突破，為數據中心、AI工廠、消費級設備和機器人等提供強大的計算能力，推動新一輪的工業革命。
量「廠」定製數據中心
與今年在加州聖何塞會議中心一樣，在此次COMPUTEX大會上，黃仁勛在演講中不斷提到了「AI工廠」的概念。
「新一輪工業革命已經開始。眾多企業和地區正在與 NVIDIA 合作推動價值萬億美元的傳統數據中心向加速計算轉型，並建造一種新型數據中心——AI 工廠來生產新的商品：人工智慧。」黃仁勛表示 ，「從伺服器、網路和基礎設施製造商到軟體開發商，整個行業正在準備使用 Blackwell 來加速各個領域實現 AI 驅動的創新。」
目前，NVIDIA已經與永擎電子、華碩、技嘉、鴻佰科技、英業達、和碩、QCT、Supermicro、緯創資通和緯穎等合作夥伴攜手，共同發布了一系列採用Blackwell架構的系統。這些系統搭載Grace CPU以及NVIDIA網路和基礎設施，旨在助力企業建立AI工廠和數據中心，推動新一輪生成式AI的突破。
為了滿足各類應用的需求，NVIDIA推出了「量『廠』定製」的產品組，合覆蓋雲計算、專用系統、嵌入式和邊緣AI系統等多種應用場景。這些新系統的配置非常豐富，涵蓋從單GPU到多GPU、從x86到Grace、從風冷到液冷技術等。無論是大型企業還是初創公司，NVIDIA的產品組合都能夠滿足各種需求，幫助他們在競爭中脫穎而出。
對於更傾向於液冷技術的用戶，黃仁勛推薦了NVIDIA全新的系統——MGX。它採用了液體冷卻技術，確保了高效穩定的運行。
靈活性也是MGX的亮點，藉助 MGX，OEM 和 ODM 合作夥伴可以針對不同用例打造量身定製的解決方案，同時節省開發資源並縮短上市時間。該模塊化參考架構支持不同的 GPU、CPU 和 DPU 配置（包括 NVIDIA Grace、x86 或其他 ARM® CPU 伺服器以及 NVIDIA OVX™ 系統），可加速各種企業數據中心工作負載。
目前，已有包括AMD 和英特爾在內超過25家合作夥伴的90多套已發布或正在開發中的系統使用了MGX參考架構，較去年來自6家合作夥伴的14套系統有了顯著增加。通過採用MGX，開發成本大幅降低，開發時間縮短，顯著提高了系統開發效率。
行業層面上，NVIDIA方面透露，台灣的長庚紀念醫院以及全球最大電子製造商之一Foxconn，都將使用 NVIDIA Blackwell 計算平台推進自身在行業的演進。
NIM讓開發者「轉行」了
「每個企業都希望在其運營中融入生成式 AI，但並非每個企業都擁有專門的 AI 研究團隊。NVIDIA NIM 可被集成到任意平台中，任何地方的開發者都可以訪問，並且可以在任意環境中運行——它正在助力科技行業將生成式 AI 普及到每一個企業組織。」黃仁勛說。
NIM通過優化的容器形式提供模型，能夠顯著加快生成式AI應用的部署時間，將其從數周縮短至幾分鐘。全球2800萬開發者現在可以下載NIM，用於構建和部署copilots和聊天機器人等複雜的生成式AI應用。
事實上，NIM提供了一種簡單、標準化的方式，將生成式AI添加到應用中，顯著提高了開發者的工作效率。黃仁勛強調，NIM不僅加快了AI模型的部署速度，還顯著降低了開發成本和複雜性。開發者無需重新構建或重新訓練模型，只需通過NIM提供的標準化接口，即可快速將生成式AI模型集成到應用中。
NIM還可以使企業最大限度地利用其基礎設施投資。資料顯示，與未使用NIM的情況相比，在NIM中運行Meta Llama 3-8B時，後者在加速基礎設施上可產生高達3倍的生成式AI token。這使企業能夠大幅提高效率，使用相同的計算基礎設施來生成更多的結果。
NVIDIA NIM通過其雲原生架構，使企業能夠快速部署和管理AI模型。NIM容器是預構建的，以加速模型部署，可用於GPU加速推理，其中包括NVIDIA CUDA軟體、NVIDIA Triton推理伺服器和NVIDIA TensorRT-LLM軟體。通過NIM，開發者可以在任何環境中輕鬆運行生成式AI模型，顯著提高了模型部署的靈活性和效率。
黃仁勛透露，NIM還與多個技術合作夥伴集成，包括Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI和新思科技等近200家技術合作夥伴。這些合作夥伴正在將NIM集成到他們的平台中，以加快生成式AI部署到特定領域應用中的速度，例如copilots、代碼助手和數字人虛擬形象。
通過NVIDIA AI Enterprise軟體平台，企業可以使用NIM在生產系統中部署AI應用。NVIDIA開發者計劃的會員可以免費使用NIM，在其選擇的基礎設施上進行研究、開發和測試。NIM容器還可以在全球領先的雲平台上運行，包括亞馬遜雲科技、谷歌雲、Azure和Oracle雲基礎設施。
「NIM將徹底改變AI模型的部署和管理方式，使得生成式AI技術能夠更快、更廣泛地應用到實際場景中。」黃仁勛這樣說。
時代革新「四重奏」
「讓機械化將成為常態，工廠全面實現自動化，機器人協同工作，製造出一系列機械化產品。它們之間的互動將更加密切，共同創造出一個高度自動化的生產環境。」這是NVIDIA對於人工智慧與機器人相結合的未來願景
現在，它正逐步成為現實。
Omniverse是一個用於創建和操作工業和科學應用的實時3D仿真平台。黃仁勛展示了如何通過Omniverse幫助製造商構建數字孿生，以實時模擬不同工廠布局，優化空間、流程和效率。電子製造商如Delta Electronics、Foxconn、和碩和Wistron等正在利用Omniverse和Isaac技術，打造機器人增強型設施，提高工廠的自主化水平。
黃仁勛解釋說，Omniverse平台不僅限於工業應用，它還被廣泛應用於娛樂、建築、汽車設計等多個領域。例如，汽車製造商可以使用Omniverse進行虛擬車輛設計和測試，從而縮短產品開發周期，降低研發成本。影視製作公司則可以利用Omniverse進行虛擬拍攝和特效製作，實現前所未有的創意表達。
Isaac是NVIDIA最新的機器人技術平台。Isaac平台為開發和部署自主機器人提供了一整套工具和服務，涵蓋從傳感器數據處理到機器學習模型訓練的各個環節。通過Isaac，企業可以快速開發和部署高性能的自主機器人，提高生產效率和工作安全性。
黃仁勛提到，Isaac平台與Omniverse的結合，使得機器人開發和部署更加便捷和高效。通過在虛擬環境中進行仿真測試，開發者可以在物理部署前對機器人進行全面的驗證和優化，從而減少開發周期和成本。
此外，NVIDIA更是推出了最新網路技術平台Spectrum-X。作為全球首款專為AI打造的以太網網路平台，Spectrum-X能夠顯著提升AI模型的訓練和推理速度。Spectrum-X採用先進的動態路由技術和擁塞控制算法，確保數據傳輸的高效性和穩定性，為AI應用提供了堅實的網路基礎設施。
在邊緣計算方面，通過NVIDIA IGX平台，企業可以在邊緣部署高性能的AI應用，實現實時數據處理和智能決策。這一平台特別適用於醫療、工業和科學等需要低延遲和高可靠性的應用場景。
寫在最後
從Blackwell晶片的年度升級，MGX的定製化與生態擴展，到NIM雲原生微服務的靈活高效，再到Omniverse和Isaac平台的廣泛應用，NVIDIA正在通過不斷的技術突破和戰略合作，推動全球計算技術的變革和發展。正如黃仁勛所說：「新一輪工業革命已經開始，我們將繼續努力，引領時代潮流，塑造未來。」
