你有沒有想過,一個機器人手臂伸出去抓一把勺子的時候,它到底"知道"自己在幹什麼嗎?
聽起來這是個很奇怪的問題。機器人不就是照著訓練數據里的動作學一遍,然後在新場景里重複類似的軌跡嗎?確實,目前大多數機器人大模型就是這麼訓練的。但POSTECH
(浦項科技大學)的研究者們發現了一個很反直覺的現象:如果只教機器人"該做什麼動作",而不告訴它"這個動作是為了達成什麼目的",它的表現會明顯更差。而一旦你把"目的"這件事顯式地教給它,同一個模型在SimplerEnv-Bridge
這個基準測試上的成功率能從64.3%直接跳到84.7%,整整漲了20
個百分點。
這不是一個小修小補的調參技巧。這背後藏著一個關於機器人到底該怎麼"理解"自己動作的根本性問題。
**機器人的動作學習一直卡在一個盲區**
我們先說說現狀。現在主流的機器人控制模型叫VLA
VLA:Vision-Language-Action的縮寫,指能把視覺畫面和語言指令一起轉換成機器人動作指令的模型,是當前機器人智能的主流架構。
VLA模型的訓練方式基本上都是"行為克隆
"
行為克隆:一種最樸素的模仿學習方法,就是給模型看大量的人類示範動作,然後讓它學會在類似場景下復現同樣的動作,本質是一種監督學習。
這套辦法在過去幾年支撐了RT-1
、RT-2
、OpenVLA
、π0
這些明星模型的進步,效果確實不差。但問題也很明顯:機器人學到的只是"這個場景下該做這個動作",它並不知道這個動作是為了讓綠色方塊疊到黃色方塊上,還是為了把勺子放到毛巾上。指令、觀察、動作三者之間的因果鏈條,行為克隆完全沒有顯式建模。
後來有一批研究者意識到這個問題,開始給VLA模型加"未來監督",也就是讓模型預測未來的畫面、生成的子目標圖像,或者物體的運動軌跡、光流場。這確實比純粹的行為克隆進了一步,模型多少能預判一點"接下來會發生什麼"。但這類方法有個共同的短板:它們捕捉的是行為的某一種具體實現方式,而不是這個行為背後共享的語義目標。
這句話有點繞,換個說法。假設你在教一個廚房機器人"把胡蘿蔔放到盤子裡"和"把小籃子放進大籃子裡"這兩個任務。雖然兩個任務的物體、動作軌跡完全不同,但它們在執行過程中都要經歷"接近、抓取、搬運、放置"這四個階段。反過來,同樣是"接近"這個階段,在不同任務里服務的目的完全不一樣。未來幀預測、軌跡預測這類方法只盯著"下一幀長什麼樣""物體怎麼移動",卻沒有回答一個更根本的問題:"這個動作是為了達成什麼"。
這就是這篇論文要解決的核心矛盾:動作解碼器需要理解自己動作背後的局部目標,而不只是記住動作本身或者預測未來的某個具體實現。
**INDI
:把老師對行為的理解"蒸餾"進機器人大腦**
研究者提出的方法叫INDI
INDI:Intention Distillation的縮寫,意為"意圖蒸餾
",是本文提出的核心方法,目標是把行為背後的語義目的教給機器人的動作解碼器。
INDI的思路說起來不複雜,做起來挺講究。核心是引入一個"教師模型"
教師模型:訓練階段使用的一個凍結參數、不參與實際部署的大型視覺語言模型,本文用的是英偉達的Cosmos-Reason2-8B,專門用來生成監督信號,推理時會被完全移除。
具體流程是這樣的。對於一段大約1.6秒的機器人執行片段,教師模型會同時看四樣東西:當前的圖像觀測、語言指令、一段粗略的動作文字描述(比如"末端夾爪向左上方移動然後閉合")、以及這段執行過程的影片。教師模型看完這些之後,要做兩件事:一是在內部形成一個多模態的理解表徵,二是生成一句大約30到50個詞的功能性目的描述,比如"夾爪正在接近綠色方塊以便抓取併疊放到黃色方塊上"。
這裡有個設計細節值得展開講。研究者沒有直接用教師模型生成的那句話作為監督信號,而是抓取了教師模型在處理輸入證據(也就是圖像、指令、動作摘要、影片這四樣東西)時,中間某一層(第18層,教師模型一共大概36層左右)的隱藏狀態,作為"意圖目標"。這層隱藏狀態既保留了多模態的細節,又已經完成了一定程度的語義抽象,比最後生成文字時的狀態更接近這個片段真正想表達的"意思"。
這個設計決策背後有個反事實的驗證。研究者專門做了對比實驗:如果換成用教師生成完整回答之後的隱藏狀態作為目標,而不是用處理原始證據時的隱藏狀態,平均成功率會從85.5%掉到79.5%,少了6個百分點。這說明蒸餾"理解過程"比蒸餾"理解結果"更有效,教師還在消化資訊的那個狀態,比它已經組織好語言表達出來的狀態,包含了更豐富、更貼近行為本質的資訊。
這個設計選擇讓我想起一個很日常的場景。你請一個老木匠幫你評價一件家具做得好不好,他拿著家具翻來覆去看的時候,腦子裡想的東西遠比他最後跟你說的那句"做工還行,榫卯有點松"要豐富得多。他腦子裡可能同時在比對材質紋理、榫卯角度、承重結構,這些資訊在他說出評價那一刻已經被壓縮成了一句概括性的話。如果你想學到老木匠真正的判斷標準,直接抄他嘴裡說的那句總結,不如去觀察他翻看家具時的思考過程本身。INDI選擇蒸餾"證據處理階段"的隱藏狀態,而不是"生成回答之後"的隱藏狀態,道理是一樣的:越早期的、越貼近原始資訊的表徵,資訊密度反而越高。
那麼,學生模型(也就是實際部署的機器人策略)要怎麼"學會"這個意圖呢?
這裡用了一組可學習的"意圖查詢"
意圖查詢:在動作解碼器里新增的一組可學習向量,作用類似於一個專門的探針,用來從當前觀察、指令、機器人狀態里主動"提取"出這段行為背後的意圖表徵。
論文在解碼器的中間層(GR00T-N1.7用第16層,一共32層;π0.5用第9層,一共18層)插入這組意圖查詢,讓它們和當前的圖像觀測、指令、機器人本體狀態做交互,嘗試恢復出和教師模型產生的意圖表徵儘可能接近的東西。這個"接近"是用餘弦相似度來衡量和優化的。
光是恢復出這個表徵還不夠,因為如果這個表徵只是被拿來做一次性的對齊損失,它很可能只是個擺設,解碼器完全可以繞開它,靠其他資訊照樣把動作預測出來。研究者為了讓這個"意圖"真正參與到後續決策里,專門設計了一套不對稱的注意力機制。意圖查詢只能看到機器人狀態和上下文資訊,看不到帶噪聲的動作和其他輔助預測;而負責預測視覺結果、文字目的的"接地"表徵,以及最終的動作預測,都必須依賴意圖查詢提供的資訊才能往下走。
更狠的一招是"上下文丟棄"。訓練時有一半的概率會強行切斷動作預測和接地預測對原始上下文的直接訪問通道,逼著它們只能通過意圖查詢這條路徑獲取資訊。這就好比公司里本來員工可以直接找客戶談需求,現在突然規定所有需求必須先匯報給項目經理,員工只能通過項目經理轉達的資訊來幹活。如果項目經理轉達得含糊,員工幹活就會出問題。這種設計逼著"意圖查詢"必須把資訊傳遞得足夠準確,不能敷衍了事,否則下游任務就會跟著一起表現變差。
除此之外,論文還加了一個叫"意圖錯配"
意圖錯配訓練:一種對比式的正則化手段,訓練時把批次內不同樣本的意圖表徵隨機打亂配對,強迫模型在"正確匹配的意圖"和"打亂後的意圖"之間產生明顯的性能差異,從而確保下游預測真的依賴意圖內容而不僅僅是意圖這條通路的存在。
的訓練技巧。具體做法是,拿正確匹配的意圖表徵算一遍後續損失,再拿一個從別的樣本"借"來的、內容不匹配的意圖表徵算一遍後續損失,強制要求前者的損失必須比後者低出一個安全邊際(論文裡設為0.05)。這個操作很像考試時出的"排除法"題目:不僅要讓模型答對,還要讓它明確知道錯誤答案為什麼是錯的。
**除了意圖,還配了兩個"接地"表徵來輔助**
光有意圖這一個抽象表徵還不夠立體,研究者還配了兩個更具象的輔助表徵,分別叫視覺接地和文字接地。
視覺接地表徵來自這段行為執行結束時的畫面,用一個獨立的凍結視覺編碼器提取特徵;文字接地表徵則來自教師模型生成的那句功能性目的描述的最終隱藏狀態。這兩個表徵分別從"最終會變成什麼樣子"和"用語言怎麼描述這個目的"兩個角度,給意圖提供互相印證的支撐。
這裡有個很聰明的處理,叫"自條件化"
自條件化:訓練時先用一次不計算梯度的前向傳播,預測出乾淨的接地表徵,然後把這個預測結果加噪聲重新注入到正式的訓練流程里,避免模型在推理階段依賴訓練時才有的"標準答案"。
因為部署階段是沒有教師模型的,視覺和文字的"標準答案"根本不存在,所以不能讓解碼器的輸入依賴這些標準答案。這個自條件化的技巧解決了訓練和部署之間的這道鴻溝。
單獨看這兩個接地表徵各自的貢獻,研究者做了詳細的消融實驗。只加意圖不加接地,平均成功率76.0%;只加視覺接地能到81.0%;只加文字接地能到79.5%;兩個一起上能到85.5%。有意思的是,兩者一起帶來的提升(9.5個百分點)比兩者各自單獨提升之和(8.5個百分點)還要多,說明它們之間存在協同效應,尤其是在"把茄子放進籃子"這個任務上表現得最明顯——單用任何一個接地表徵成功率大約73%,兩個合在一起直接衝到100%。
**數據說話:INDI到底強在哪**
先看SimplerEnv-Bridge這個基準,涵蓋四個桌面操作任務:把勺子放毛巾上、把胡蘿蔔放盤子上、疊方塊、把茄子放籃子裡。
| 方法 | 勺子 | 胡蘿蔔 | 疊方塊 | 茄子籃子 | 平均 |
|---|---|---|---|---|---|
| GR00T-N1.7(基線) | 84.7 | 79.3 | 57.3 | 36.0 | 64.3 |
| GR00T-N1.7 + 未來監督 | 81.3 | 73.3 | 56.7 | 60.7 | 68.0 |
| **GR00T-N1.7 + INDI** | **88.7** | **84.7** | **69.3** | **96.0** | **84.7** |
差距最誇張的是"茄子放籃子"這個任務,基線只有36.0%,加了INDI之後飆到96.0%,整整提升了60個百分點。這意味著什麼?意味著原來10次里差不多6次要失敗,現在10次里最多失敗1次。這已經不是漸進式的改善了,而是讓一個原本不太可靠的動作變成了幾乎可信賴的動作。
RoboCasa Kitchen這個更複雜的24任務家庭廚房基準上,INDI把用100條示範訓練出來的GR00T-N1.7從64.1%提升到70.3%。更值得一提的是,這個70.3%的成績,已經非常接近官方用3000條示範(整整30倍數據量)訓練出來的GR00T-N1.7在同一基準上報告的70.8%。換句話說,通過教會機器人理解"意圖",研究者用三十分之一的數據量,追平了靠堆數據才能達到的效果。
π0.5這個模型上也驗證了同樣的規律,在Bridge上從52.3%漲到58.8%,在RoboCasa上從34.9%漲到41.4%,尤其是"其他類"任務提升了14個百分點。這說明INDI不是針對某個特定架構的取巧優化,而是一個能跨模型遷移的通用規律。
真實機器人上的實驗同樣有說服力。研究者設計了四個真實世界桌面任務,穿環、嵌套籃子、跨箱堆疊、抽屜收納,按操作難度和步驟長度遞增排列。
平均成功率從62.0%漲到68.7%,而且這個提升在長任務上格外明顯:跨箱堆疊提升7.3個百分點,抽屜收納提升10.7個百分點,而兩個較短的任務提升只有4到5個百分點。這個模式很有意思,它暗示著意圖監督對"多階段任務里保持目標一致性"這件事幫助最大。
想像一下你在教一個新手廚師做一道需要五個步驟的菜和一道只需要兩個步驟的菜。兩步的菜,哪怕新手不太清楚"為什麼要這麼做",照葫蘆畫瓢也基本能做對。但五步的菜,如果中途某一步他忘了整道菜最終要做成什麼樣,很容易在某個環節走偏,比如切完菜之後忘了接下來該炒還是該燉。步驟越長、越需要跨階段保持目標感的任務,越依賴"知道自己在為什麼而做"這件事。INDI在長任務上收益更大,恰恰印證了這一點。
**意圖到底"是不是真的"?研究者做了一系列偵探式驗證**
方法有效只是第一步,研究者接下來要回答一個更硬核的問題:這個被"恢復"出來的意圖表徵,到底是不是真的在起作用,還是僅僅提供了額外的模型容量而已?
他們做了一個很直接的測試:把恢復出來的意圖表徵在解碼器中間層直接清零,其他所有輸入保持不變。結果平均成功率從85.5%暴跌到45.5%,比什麼都不加的基線(61.5%)還要低。
這個實驗結果的意義在於,它排除了"意圖表徵只是個擺設"的可能性。如果解碼器壓根不依賴這個表徵,清零之後成功率應該基本不變。但清零之後成功率反而比不加意圖還低,說明解碼器已經把這條通路變成了自己決策鏈條里不可或缺的一環,一旦這條鏈斷了,其他部分反而更加無所適從。
更進一步,研究者還做了一個類似"移花接木"的實驗:把某個任務(比如疊方塊)恢復出來的意圖表徵,強行替換成另一個任務(比如放胡蘿蔔)的意圖表徵,同時保持其他輸入不變,看看機器人會怎麼"行動"。結果顯示,注入相同目標的意圖能維持84.5%的成功率,而注入不同目標的意圖,成功率掉到45.2%,如果注入的是純粹的高斯噪聲,成功率直接跌到1.0%。
這個梯度變化說明了兩件事:第一,意圖表徵里確實裝著"具體是哪個任務"這個資訊,不是隨便什麼向量都能替代的;第二,不同任務之間的"意圖距離"也不是均勻的,論文進一步分析發現,勺子任務和胡蘿蔔任務的意圖表徵彼此最接近,而茄子籃子任務和其他任務的意圖差異最大,這和這幾個任務的場景、目標結構本身的相似程度是吻合的。
還有一個更細膩的實驗,是把意圖表徵里代表"執行到哪個階段"(比如早期、中期、後期)的那部分坐標強行替換。結果發現,如果強制注入"早期階段"的意圖,機器人會一直卡在"接近但不抓取"的狀態,比如在胡蘿蔔任務上一直懸停在目標上方卻不合上夾爪;如果強制注入"後期階段"的意圖,機器人會跳過抓取環節直接執行"放置"動作,比如在勺子任務上直接用空夾爪去按壓毛巾,好像它以為自己已經拿到了勺子。
這組實驗最打動我的地方在於,機器人的失敗方式不是隨機的胡亂動作,而是呈現出一種"階段錯位"式的規律性失敗。這恰恰說明,意圖表徵里確實編碼了"我現在處於任務的哪個階段"這個資訊,而且這個資訊真實地驅動著後續的動作決策,不是花架子。
**教師模型的質量決定了一切的上限**
這篇論文還有一處很誠實的地方,研究者專門測試了換用不同"老師"會發生什麼。
他們對比了三個候選教師模型:一個是沒有做過物理世界相關訓練的通用語言模型Qwen3.5-9B,一個是通用的視覺語言模型Qwen3-VL-8B-Instruct,還有一個是在Qwen3-VL基礎上專門針對物理常識和具身推理做過後訓練的Cosmos-Reason2-8B。
結果相當扎心:用Qwen3.5-9B當老師,平均成功率只有54.5%,比什麼都不加的基線61.5%還要低,相當於蒸餾出來的意圖不僅沒幫上忙,反而拖了後腿。換成Qwen3-VL-8B-Instruct,成功率提升到73.5%。換成經過物理常識後訓練的Cosmos-Reason2-8B,成功率進一步衝到85.5%。
研究者還專門量化分析了這三個教師產生的意圖目標的"幾何結構",發現Qwen3.5產生的目標幾乎是"退化"的,不同樣本之間方向差異極小,意味著模型幾乎可以用一個近乎恆定的輸出就能糊弄過這個對齊損失,根本沒學到有意義的區分資訊。而Cosmos-Reason2產生的目標,樣本間差異明顯更大,而且這種差異大部分來自"同一集裡不同時刻"的變化,而不是"不同集之間"的靜態差異,說明它捕捉的是行為隨時間推進的動態資訊,而不只是任務身份這種粗粒度標籤。
這個發現其實挺讓人警醒的。它說明INDI這套框架的效果上限,完全取決於你選的這個"老師"到底懂不懂物理世界裡的因果關係。這就好比你請一個從沒下過廚房、只在書本上讀過菜譜的人來教你做菜,他嘴上能說出一堆專業術語,但真正涉及火候、手感這些需要實踐經驗的判斷時,他給你的建議可能反而會誤導你。如果不對教師模型的能力邊界有清醒認識,直接把它的輸出當作監督信號去蒸餾,很可能得到一個還不如不做的結果。
**計算成本其實很克制**
值得一提的是,這套方法雖然聽起來結構複雜,但因為教師模型和所有目標生成模組都只在訓練階段起作用,部署時會被完全移除,所以額外開銷並不誇張。
GR00T-N1.7加上INDI之後,參數量從34.55億漲到35.02億,只多了大約1.3%;單次推理時間從56.1毫秒漲到61.5毫秒,增加大約10%。π0.5上參數量只多了0.64%,推理時間增加約21%。這個代價相對於20個百分點的成功率提升,性價比是相當划算的。
寫在後面
讀完這篇論文,讓我一直反覆琢磨的一點是:我們平時評價一個人"做事靠不可靠",很少只看他這一個動作做得標不標準,更多時候看的是他知不知道自己為什麼這麼做。這篇論文其實是把這個樸素的判斷標準,第一次相對嚴謹地搬進了機器人訓練這件事裡。
有個細節我印象特別深。研究者做的那個"清零意圖表徵"實驗,結果比什麼都不加的基線還差。這說明一旦模型學會了依賴某種更高層的語義理解,它反而會在缺失這種理解的時候變得比原來更脆弱,這其實和人很像。一個從沒被教過"為什麼"的新員工,遇到沒見過的情況可能還能憑本能應付一下;但一個已經習慣了先想清楚目標再動手的員工,如果你突然抽掉他判斷目標的能力,他可能反而不知道手該往哪伸了。這種"能力越強,越依賴那個能力"的現象,值得在別的AI系統設計里也留個心眼。
論文裡那組"教師質量決定上限"的實驗,也讓我對"用大模型蒸餾小模型"這套現在很流行的做法多了一層警惕。不是所有的蒸餾都天然有效,老師本身的理解深度,才是這套框架真正的天花板。
這篇論文沒有回答的問題也很明確:機器人現在還只能被動地"接收"這一個由教師定好的意圖,它沒辦法在執行途中懷疑這個意圖對不對、也沒辦法在幾個可能的目標之間自己權衡取捨。等哪天機器人能對自己接收到的"意圖"說一句"我覺得這個不對",可能才是真正有意思的開始。
Q&A
Q1:INDI是什麼?
A:INDI全稱Intention Distillation(意圖蒸餾),是一種讓機器人視覺語言動作模型學會理解行為背後語義目的的訓練方法,通過一個凍結的教師模型解讀示範動作片段並生成意圖表徵,再讓實際部署的機器人策略學會從常規輸入里恢復出這種表徵,用來組織動作預測。
Q2:INDI相比傳統訓練方法能帶來多大提升?
A:在SimplerEnv-Bridge基準上,INDI把GR00T-N1.7的成功率從64.3%提升到84.7%,提升了20.4個百分點;在RoboCasa Kitchen基準上從64.1%提升到70.3%;真實機器人任務上平均成功率從62.0%提升到68.7%,長任務提升更明顯。
Q3:INDI在部署時需要用到教師模型嗎?
A:不需要。教師模型(論文用的是Cosmos-Reason2-8B)只在訓練階段用來生成監督信號,實際部署時會被完全移除,機器人策略只依賴自身對當前觀測、指令和機器人狀態的處理來恢復意圖表徵,額外的參數和推理開銷都很小。






