「我們很早就觀察到,AI其實是一種製造業。」
最近,在柏林舉行的GTC大會主題演講上,老黃(NVIDIA 創始人、CEO黃仁勛)這樣定義了AI。在他看來,數據中心生產的是Token,本質上是一座「AI工廠」。
他用「五層蛋糕」來描述這條產線:「可以把AI看作一個五層蛋糕。能源驅動先進的電腦,這些電腦組成AI工廠,AI工廠生產Token。」這五層自下而上,分別是能源、晶片、基礎設施、模型和應用,上層能做多大,取決於下層能給多少。
過去幾年,評估AI算力的框架,主要圍繞單顆晶片展開,看峰值算力、HBM容量和互連頻寬。晶片越強,集群越強,在訓練規模快速擴張的階段,這個邏輯基本成立。
然而,AI工廠的規模已經進入GW級。按照老黃的估算,一座1GW的AI工廠,土地、電力、廠房、計算、網路、儲存和冷卻合計,投資約500億美元,建成後每年可帶來約400億美元的收入。
投入如此之大,時間就成了最貴的變量,投產每晚一個季度,運營商就少收約100億美元。
「100億美元的收入,足以讓任何人焦慮。」老黃說。
而AI工廠恰恰很難按時投產,在機房內部,伺服器、交換機、線纜和液冷管路都要運到現場,再逐一安裝、布線、調試,這個過程通常需要6個月左右。在機房外部,項目還要排隊等待電網接入,等待用水審批。
也正是在這樣的背景下,「AI是製造業」這句話有了具體的含義。
評價一座AI工廠,除了每MW電力能產出多少Token,還要看設備進場後多少天能產出第一個Token。前者是效率,後者是交付,兩者共同決定這座工廠能否盈利。
那麼,當衡量標準從單顆晶片轉向整條產線,只優化晶片便不夠了。製造業提高效率,靠的是三件事:在工廠里預製標準件,按需調度能源,在出廠前完成檢驗。對應到AI工廠,就是把現場施工搬進車間,把固定預留的電力變成動態分配,把安全檢查從事後補救變成事前強制。
而老黃在柏林的發布,都能對應到這三件事。
只不過,NVIDIA想預製的,不只是一台伺服器,而是一座AI工廠;想調度的,不只是機房裡的電,還包括機房外的電網;想檢驗的,也從晶片一路延伸到了智能體、汽車和機器人。
01 DSX POD的預製邏輯, 把工期從「月」縮短到「天」
要把現場施工搬進車間,首先需要弄清現場施工為何如此緩慢。
現場施工緩慢的根源,在於AI伺服器形態的變化。過去的通用伺服器都是獨立整機,運抵機房、裝入機櫃,接通電源和網路即可運行。
AI伺服器則不同,為了讓幾十顆GPU像一顆更大的GPU那樣協同工作,NVIDIA將整個機架設計成了一台電腦。
Vera Rubin NVL72就是這樣一套機架級系統,72顆GPU通過NVLink銅纜背板連成一體,整機採用液冷。在柏林,老黃宣布:「Vera Rubin已經全面投產。」
由於機架內部的線纜和管路布置得極為密集,難以在現場組裝,NVL72一直是在工廠完成組裝和測試後,再整機運往機房。
然而,機架只是AI工廠的一個單元,機架之間的橫向擴展網路、供電線路和冷卻管路,仍然需要在現場逐一連接。以7個NVL72機架為例,機架之間的Spectrum-X網路線纜就長達17km。
線纜和管路越多,接錯與滲漏的風險就越高,而且這類問題往往要到全部安裝完成、進入聯調階段才會暴露。一旦返工,整個工期都要隨之後移。
為了避免現場返工,DSX POD把NVL72在單個機架上的做法擴展到了一組機架,將機架之間的布線、通水、通電和聯調,也從機房現場轉移到了工廠車間。問題在出廠前就被發現和解決,現場需要處理的工作隨之大幅減少。
具體而言,DSX POD是一套Vera Rubin AI工廠參考設計,合作夥伴在模組化集裝箱中放入7個Vera Rubin NVL72機架,並在出廠前完成機架間布線、配線、布管和功能驗證。一個集裝箱內約有1000萬個零部件,重約28t,其中僅NVLink銅纜就有約3萬根,總長約20km。
集裝箱運抵現場後,只需完成吊裝、互聯、驗證和最終的燒機測試。與此同時,現場在平整場地、建設變電站的過程中,車間也在同步進行布線和測試,原本串行的工序轉為並行,總工期隨之縮短。
按照NVIDIA公布的數據,在場地準備就緒的前提下,部署時間可以從6個月縮短至最短14天,設備運抵後到產出Token的時間,也可以從4至5個月縮短至1個月左右。
「AI工廠在開始產出Token時創造價值,而不是在施工完成時。」老黃說。
不過,硬體安裝完成並不意味著工廠能夠立即產出Token,因為GPU集群的軟體棧層層疊加,核心、驅動、容器運行時和Kubernetes算子之間,任何一處版本不匹配,都可能引發難以復現的故障。
為此,NVIDIA在DSX OS中開源了AI Cluster Runtime(AICR),其工作流依次分為採集、配方生成、打包、部署和驗證幾個環節。AICR先採集EKS、GKE或裸金屬集群的環境資訊,再通過手動輸入或自動發現,生成一份聲明式的配方文件,其中寫明了約束條件、組件版本和驗證項。
配方隨後被打包成部署包,並附上簽名證明,以保證軟體供應鏈的完整性,再交由ArgoCD、Helm等現有的GitOps或持續部署工具完成部署,最後進行就緒性、部署、性能和一致性驗證。相同的輸入始終得到相同的部署結果,軟體也就和硬體一樣,在出廠前完成了「預製」。

集裝箱能在車間提前造好,前提是晶片供應充足。
為此,NVIDIA在柏林同步宣布了供應鏈擴產,其中擴產幅度最大的是光互連,原因在於集群規模越大,機架之間的距離越遠,對光纖傳輸的依賴也就越強。
傳統可插拔光模組與交換晶片之間隔著一段較長的電走線,高速信號在走線上不斷衰減,需要額外的重定時電路來補償。共封裝光學(CPO)則把光引擎直接封裝在交換晶片旁邊,電通道縮短之後,補償電路減少,功耗也隨之降低。
02 從「剛性負荷」到「可調度負荷」,DSX加速AI工廠與電網協同
除了工期,AI工廠建成之後每天消耗的大量電力和冷卻用水,同樣是運營商必須解決的問題,而電和水正對應著五層蛋糕最底層的能源。
電和水之所以密切相關,是因為GPU消耗的電能幾乎全部轉化為熱量,而目前大量數據中心依靠冷卻塔蒸發水來散熱,AI工廠用電越多,蒸發的水量也就越大。
為了減少蒸發散熱,Vera Rubin支持100%液冷,冷卻液溫度最高可達45°C,相當於ASHRAE液冷水溫分級中W45等級的上限。
冷卻液溫度之所以關鍵,與乾冷器的工作原理有關。乾冷器與汽車散熱器類似,水在密閉管路中循環,由風扇吹過散熱片帶走熱量,整個過程不消耗水。
但是,乾冷器只能將水冷卻到比室外氣溫高幾度的水平,因此,允許的供水溫度越高,全年僅依靠乾冷器、無需啟用冷卻塔的時間就越長。
按照NVIDIA的估算,在2GW規模下,乾冷器方案相比冷卻塔方案每天可節約5400萬升水,約相當於18萬戶家庭的日用水量。
除了用水,用電同樣存在優化空間。數據中心通常按設備銘牌功率預留電力,但伺服器很少同時達到峰值,預留的電力往往無法充分利用。
在大模型推理中,這部分餘量更為明顯,因為推理分為預填充(Prefill)和解碼(Decode)兩個階段。預填充需要一次性處理整段輸入,計算密集,功耗較高;解碼逐個生成Token,主要受記憶體頻寬限制,功耗較低。
兩個階段交替進行,整機功耗也隨之頻繁波動,DSX MaxLPS的作用正是利用這部分餘量。通過實時監測每塊GPU、每個機架的功耗,並按負載類型把富餘電力重新分配給需要的計算單元,從而在總功率預算不變的前提下,運行更多的計算任務。
在產出同樣多Token的前提下,MaxLPS最多可以減少30%的用電。在雲服務商Lambda基於HGX B200的概念驗證中,固定功率預算下集群的Token吞吐量提升了24%,Nscale在冰島的4個GB300 NVL72機架上,推理吞吐量提升了49%。
機房內部的電力得到優化後,下一步是與機房外部的電網協同。電網的發電和輸電能力,是按照一年中負荷最高的少數時段規劃建設的,如果大型用戶能在這些時段適度降低用電,電網就能釋放出容量,接入更多負荷。
DSX Flex就是為這種配合設計的標準接口。電網運營商通過DSX Flex API直接向數據中心發送信號,數據中心據此降低負載,或將部分任務延後執行。
在與英國國家電網等機構的早期試驗中,Blackwell Ultra集群在模擬電網事件期間把功耗降低了最多40%,關鍵業務照常運行。對電網公司而言,這樣一座能在高峰時段主動降載的數據中心,顯然比必須24小時滿功率供電的數據中心更容易獲得接入批准,在電網容量緊張的地區,這直接影響項目排隊併網的時間。
電、水、熱和場地之間相互關聯,任何一處調整都會影響其他環節,因此最好在動工之前通過仿真完成推演。NVIDIA在GitHub上開源的Omniverse DSX Blueprint,就基於DSX參考設計,為一座50英畝的園區構建了數字孿生。
在這套工作流中,廠商的CAD模型先被轉換成OpenUSD幾何體並完成校驗,再掛上供電、冷卻和接口等元數據,成為「仿真就緒」(SimReady)的AI工廠資產。這些資產與企業的PLM數據一起裝配,進入AI工廠數字孿生(AIF-DT),並與網路、電網、熱、場地和電氣五類仿真聯動。
其中,熱仿真用來計算熱通道里的氣流和溫度分布,代理模型則用AI近似替代耗時的物理仿真,讓工程師在調整機架配置後能更快看到結果。

03 從沙箱到DPU:NVIDIA給智能體劃出「軟硬」兩道權限邊界
除了AI工廠的建設和供能,工廠產出的Token最終流向何處、被用於何種任務?
在企業場景下,智能體消的耗Token越來越多,而智能體不僅回答問題,還會調用工具、讀寫數據、訪問內部系統,一旦出錯,後果遠比回答錯誤嚴重。
老黃在演講中提醒:「智能體有多大用處,取決於你給它多少訪問權限。」
權限越寬鬆,智能體的能力越強,但被惡意利用時造成的損失也越大。比如,攻擊者可以把指令藏進智能體會讀取的網頁、郵件或文檔,模型讀到這些內容時,就可能把其中的指令當作任務執行。
對大模型而言,數據和指令都是文本,難以在模型內部徹底區分,因此僅依靠模型本身,無法約束智能體的行為。OpenShell參考架構的思路,是在模型外部增設一道強制檢查,並把這道檢查從軟體一直做到硬體。
「AI能力與安全必須同步前進。」老黃表示。
在軟體層,OpenShell採用控制面與數據面分離的架構,網關(Gateway)作為控制面,負責API服務、策略證明、狀態儲存和沙箱調度;運行時作為數據面,把智能體當作不可信負載(Untrusted Workload),放在網路隔離的容器或虛擬機沙箱中運行。
沙箱的默認規則是拒絕所有出站連接,唯一的出口是Supervisor,策略評估、憑證解析、DNS和代理都在Supervisor中完成。智能體無法獲取真實憑證,只有發往已批准地址的請求,才會被附上憑證。

除了一次訪問都要檢查,檢查規則本身的修改也需要把關。當智能體通過policy.local提出新的權限申請時,網關中的Policy Prover會通過形式化驗證(Formal Verification),推導出此次改動開放了哪些新權限。
例如,帶著憑證訪問一台新主機,或者調用一個新的API方法,都屬於需要關注的改動。這類存在風險的改動須經人工審批,Supervisor才會重新加載策略。
具體到每一次網路請求,智能體進程發起的TCP或DNS請求會先被沙箱識別出發起程序,再經由Unix socket、TCP或vsock組成的沙箱協議,送到可信側的隔離後端核驗進程身份。
隨後,策略執行模組逐項檢查目標地址、發起請求的二進制程序、七層(應用層)規則和憑證,只有全部通過,連接才能到達上游服務,其餘出站流量一律拒絕。
老黃介紹說:「OpenShell以Apache 2.0協議開源,可以在智能體運行的任何地方使用,從邊緣到雲端,只需兩條命令就能部署。」
不過,軟體設計得再嚴密,終究運行在主機之上,主機一旦被攻破,檢查機制也可能被繞過,因此NVIDIA將最後一道防線交由硬體實現。在柏林發布的參考架構中,Vera Rubin NVL72負責訓練和推理;Vera CPU運行執行框架和工具調用;BlueField-4 DPU則運行NVIDIA Sentry,在帶外監測智能體與模型之間的流量。
DPU擁有獨立的處理器和記憶體,與主機相互隔離,即使主機側軟體出現問題,DPU上的策略依然能夠執行,智能體一旦越界,ms級時間內就會被隔離。
老黃的總結是:「智能體在Rubin上思考,在Vera上行動,在BlueField上接受治理。」
04 物理AI「ChatGPT時刻」前,NVIDIA造好了的「參考平台」
智能體出錯,損失的是數據;物理AI一旦出錯,則可能危及人的安全,因此在汽車和機器人領域,出廠前的檢驗顯得更為關鍵。
「Robotaxi是機器人與物理AI的第一個大眾市場應用。」老黃說。
汽車也是物理AI最先走向規模化的領域。為了讓車企無需從零構建自動駕駛系統,NVIDIA推出了面向L2到L4級車輛的參考平台Hyperion,其標準配置為14個攝影機、9個毫米波雷達、3個雷射雷達和雙GPU系統。
不過,有了標準化的硬體,車端還需要能夠實時運行的模型。NVIDIA此前發布的Alpamayo 2 Super,是一個340億參數的視覺-語言-動作(VLA)模型,自車運動歷史、多攝影機影片和導航指令等輸入,會先由各自的編碼器轉換成運動、視覺和語言Token,再送入320億參數的Cosmos 3 Super推理主幹。
在此基礎上,推理主幹先生成一段「因果鏈」(Chain-of-Causation)推理文本,解釋為什麼要這樣駕駛,再由20億參數的擴散動作專家(Action Expert)採樣出未來的行駛軌跡。
除了軌跡,同一個模型還能輸出視覺問答(VQA)、元動作和2D視覺定位結果。

然而,340億參數的Alpamayo 2 Super對顯示記憶體和算力的要求很高,難以直接部署在車端。為此,NVIDIA這次推出了只有20億參數的Alpamayo 2 Edge,它可以在車載晶片DRIVE AGX Thor上以10Hz運行,即每100ms完成一次場景理解和運動規劃。
模型能夠裝進車裡之後,安全論證隨之成為新的難題,而且端到端模型的能力越強,論證的難度就越大。傳統功能安全關注的是硬體或軟體失效後的應對,SOTIF(預期功能安全,ISO 21448)關注的,則是系統並未失效,卻因感知或決策能力不足而導致的風險。
神經網路的問題大多屬於後一類,尤其是訓練數據中很少出現的長尾場景,幾乎無法窮舉。針對長尾場景帶來的風險,NVIDIA新發布的Halos SAFE開放了NCAP、DCAS和SOTIF相關的測試用例,並藉助Cosmos和Omniverse NuRec生成大量新場景。
同時,Halos SAFE還把仿真、軟體在環(SIL)、硬體在環(HIL)、道路測試和車隊監測串聯起來,形成一套可以逐項追溯的測試記錄,為車企和認證機構提供安全論證的依據。
從Hyperion到Halos SAFE,NVIDIA在汽車上採用的是「參考平台加前置檢驗」的做法,而這套做法如今也被用到了人形機器人上。由於人形機器人的硬體門檻很高,許多研究團隊需要先投入大量時間研製硬體,才能開始訓練模型,因此NVIDIA與慕尼黑的Agile Robots合作,推出了參考人形機器人Agile ONE SN。
Agile ONE SN「身高」1.40m,重40kg,軀體有31個自由度,每隻靈巧手另有20個自由度,搭載算力為2070 FP4 TFLOPS的Jetson Thor和128GB統一記憶體。按照計劃,這台機器人將於2027年初以預裝整機的形式提供。
不過,硬體就緒之後,研究團隊面臨的更大難題是訓練數據,因為真實操作數據採集成本高、數量少,而仿真數據又與真實世界存在差異。Isaac GR00T公開的參考工作流,正是為了解決這個問題而設計的。
在數據生成環節,人類遙操作採集的真實數據,會經GR00T Mimic擴增成大量合成運動數據,Cosmos世界模型和GR00T Dreams則生成「神經軌跡」,補充真實世界難以採集的場景。隨後,這些真實數據與合成數據被用於在RTX PRO Server或B300上後訓練GR00T N基礎模型。
訓練完成後,模型先在Isaac Sim中進行軟體在環測試,再進行硬體在環測試,最後才部署到機器人搭載的Jetson Thor上。其中任何一個環節精度不達標,都要返回數據生成環節補充數據,這與汽車領域的Halos SAFE一樣,都是把檢驗放在部署之前。

「機器人的ChatGPT時刻正在快速到來。」老黃在柏林這樣說。
在此背景下,NVIDIA這次拿出的,是一台可以買到的參考整機,以及一套從採集數據、訓練、仿真測試到實機部署的完整流程。
05 寫在最後
回到開篇我們提到的「三件事」,DSX POD將施工轉移至車間,DSX MaxLPS和Flex將電力從固定預留改為動態調度,OpenShell參考架構和Halos SAFE則把檢驗前移至部署之前。
三者採用的,都是製造業的方法。
這些發布還有一個共同點,它們都是參考設計。
NVIDIA不建數據中心,不造車,也不造機器人,卻為五層蛋糕的每一層寫好了規格、接口和驗證方法,再交由合作夥伴製造。
NVIDIA的角色,也由此從晶片供應商,延伸為AI工廠建造與驗證標準的制定者。
「要參與AI經濟,你不會只想消費AI,你會想生產AI。」就像老黃這樣。
在他看來,未來或許每一家公司都將成為AI公司。而誰能將設備進場到產出Token的時間從數月縮短至數周,誰就能更早收回那500億美元的投資。






