這項由斯坦福大學與康奈爾大學聯合完成的研究於2026年6月24日發布,論文編號為arXiv:2606.26428,感興趣的讀者可以通過該編號查詢完整原文。
一、機器人手為什麼這麼"笨拙"?
人類的手是自然界最精妙的工具之一。一個熟練的工人可以把一根細螺絲釘準確擰入螺孔,把一塊精密零件插入僅比它大半毫米的卡槽——這種操作對人類來說不過是家常便飯,但對機器人來說,卻是一道幾乎無法跨越的高牆。
多指機器人手(類似人類五指的機械手)在理論上擁有與人手媲美的靈活性,然而現實卻很骨感。教機器人做這類精密裝配工作,目前主流有兩條路:一是讓人類"手把手"示範,然後讓機器人模仿;二是讓機器人自己在模擬環境裡反覆試錯、自我學習(也就是所謂的強化學習)。這兩條路各有各的難處。
示範這條路的麻煩在於,精密裝配本身需要手指傳回細膩的觸感——螺絲釘有沒有對準、卡口有沒有咬合——但人類用遙控手套操控機器人時,根本感覺不到這些細節,就像你戴著厚棉手套去穿針引線,幾乎是不可能完成的任務。而自我試錯這條路的問題則在於,機器人必須先學會抓握、翻轉、對準,最後才能完成裝配並獲得"成功"的信號,但從隨機亂動到完成一次成功的裝配,這個探索過程極其漫長,靠純粹的運氣去撞對,計算成本高得離譜。
正因如此,以往的研究大多選擇了"曲線救國"的方式——要麼給機器人裝上專門的夾爪(兩片夾板式的簡單夾具),讓控制問題變簡單;要麼在工作檯上設計專用的固定夾具,把零件限制在固定位置,大幅降低對準難度。這些方法都管用,但每換一個新零件,就得重新設計一套新夾具或新夾爪,根本談不上通用性。
斯坦福與康奈爾的研究團隊提出了一個截然不同的思路:在讓機器人學習精密裝配之前,先讓它"玩耍"。這個直覺其實來自人類自身的成長經歷——孩子在學會寫字之前,先學會了握筆;在學會下象棋之前,先學會了移動棋子。"玩耍"本身不是目的,但玩耍過程中積累的基本技能,是之後掌握高難度動作的基礎。他們把這套框架命名為**Play2Perfect**(從玩耍到精通)。
二、"玩耍"究竟是什麼意思?
在Play2Perfect的設定里,"玩耍"並不是漫無目的的隨機亂動,而是一個經過精心設計的預訓練階段。研究團隊讓機器人在模擬環境裡,反覆練習抓取各種形狀各異的積木,並把它們移動到隨機指定的空間位置——這就是所謂的"玩耍"。
這裡有幾個細節值得深入了解,因為它們直接決定了"玩耍"的質量。
首先是物體的多樣性。研究團隊設計了一套自動生成程序,能隨機產生各種長方體和圓柱體積木,每塊積木的長度、寬度、高度都不一樣,連重量分布也故意做得不均勻——有的積木一端附加了額外的配重,就像一根頭重腳輕的棍子。這種設計是有意為之的:如果機器人只練習一種積木,它很快就會學會專門針對這種積木的"偷懶"策略,而無法形成真正通用的抓握能力。通過1000種不同的積木,機器人被迫學會了一套不依賴特定形狀的抓握和操控邏輯。
其次是訓練目標。機器人被要求把積木的位置和姿態都調整到目標狀態,而不僅僅是把積木搬到某個位置。這個區別至關重要——"搬到某個位置"只需要練習手臂的移動,而"調整到某個姿態"則需要練習用手指在手心裡翻轉物體,這正是精密裝配中最關鍵的技能之一:當你要把一個T形零件插入一個T形卡口時,零件的朝向必須和卡口完全吻合,差一點都不行。
第三個關鍵設計是軌跡的多樣性。每次"玩耍"的目標序列都是隨機生成的,而不是一遍遍重複同樣的固定路徑。第一個目標在整個工作檯範圍內隨機出現,第二個目標在第一個目標附近但帶有大幅度的旋轉變化,如此循環。這就像練鋼琴的音階練習——不是把同一首曲子反覆彈,而是在各種調式、各種速度下練習手指的靈活性,讓技能真正"活"起來,而不是僵化成肌肉記憶。
第四個設計是目標精度的控制。當積木距離目標位置還差一厘米以內時,機器人才算"成功"。聽起來標準不算嚴苛,但如果把這個標準放寬到五厘米甚至十厘米,機器人就會學會一種更粗放的操控方式——反正差不多就算了,根本不需要用手指做精細調整。而一厘米的精度要求,迫使機器人真正學會了用指尖做微調,而不是靠手臂大幅擺動來將就。
在硬體層面,整個系統使用的是一個22個自由度的五指機械手(來自Sharpa公司)加上一個7軸工業機械臂(KUKA iiwa 14)。訓練完全在模擬器里進行(使用NVIDIA的Isaac Sim),用了24576個並行仿真環境同時跑,在一塊NVIDIA RTX A6000顯卡上訓練了整整七天。這相當於讓幾萬個虛擬機器人同時練習,把本來需要數年的經驗壓縮進一周。
三、從"玩耍"到"裝配":遷移的秘密
玩了七天積木之後,這個預訓練的"玩耍策略"就被保存下來,作為後續學習精密裝配任務的起點。研究團隊把這個起點比作一本"技能手冊"——裡面記錄了機器人已經學會的抓握方式、翻轉技巧和空間感知能力。
接下來的裝配訓練則是另一套完全不同的節奏。這個階段不再用積木,而是用真實的裝配零件(根據CAD設計圖在模擬器里精確重建),而且只給一個極其稀疏的獎勵信號:零件成功裝配到位就得分,否則什麼都沒有。沒有"快到了"的提示,沒有"方向對了"的鼓勵,就像一道只有最終答案的考試題。
但這裡有一個聰明的設計:研究團隊不是從零件的起始位置直接跳到最終裝配位置,而是根據CAD圖紙,把裝配過程分解成幾個中間裡程碑。以插孔裝配為例,系統會自動生成一個"預插入姿態"——零件懸停在孔口正上方、對準孔口但尚未插入的狀態——作為一個中間目標。對於螺絲擰入任務,則沿螺紋路徑每隔90度設置一個檢查點。這些中間目標全部從CAD圖紙里自動推導出來,不需要人工設計,只要有設計圖紙,系統就能自動建立訓練環境。
這個從已有裝配成品出發、逆向推導出拆解步驟、再反轉回來作為裝配順序的方法,研究團隊稱之為"拆卸即裝配"。其本質是:任何能被人類設計出來的裝配體,都可以按照反物理直覺的方式一步步被拆開,把這個拆解過程倒放,就是裝配過程。這個思路優雅地把CAD設計圖直接變成了訓練數據,而無需任何人工標註。
在實際部署時,系統用一個叫做FoundationPose的視覺算法實時追蹤零件的三維位置和朝向,這個算法直接讀取CAD模型來匹配攝影機里看到的實物,60Hz的控制頻率加上30Hz的視覺更新,讓整個控制循環保持流暢。
四、關鍵對比:不玩耍,行不行?
研究團隊設計了一系列嚴格的對照實驗,核心問題只有一個:預訓練的"玩耍"階段到底有多重要?
他們設置了兩個基準對照組。第一組是"從零開始學裝配,只給最終成功的獎勵"——也就是完全沒有預訓練,直接上陣。第二組更厲害:同樣從零開始,但額外配備了精心設計的"密集獎勵"——不僅裝配成功有獎勵,靠近零件有獎勵,抓起零件有獎勵,沿著10個等距路徑點一步步接近目標位置也有獎勵。第二組的獎勵設計,代表了目前領域內最主流的解決思路,幾乎是為這個任務量身定做的"作弊碼"。
結果如何?在四個裝配任務(T形零件插孔、梁結構兩步裝配、家具腿擰入螺孔)上,Play2Perfect在約2到5小時的訓練後就達到了很高的成功率。與此同時,無論是從零稀疏獎勵還是從零密集獎勵的對照組,在整整24小時的訓練之後,成功率依然接近於零。
這裡有一個特別有說服力的對比實驗。研究團隊專門設計了一個"簡化版"的T形插孔任務:零件不是隨機擺在桌面上,而是提前用夾具固定在一個方便抓取的位置。在這個簡化版上,從零開始加密集獎勵的方法終於能學會了——但需要整整100多小時的訓練。而Play2Perfect在同樣的簡化版任務上,只用了4小時,快了33倍。
更值得關注的是兩種方法學到的策略質量。用密集獎勵從零訓練出來的機器人學會了一種"偷懶"的技巧:它不真正用五根手指抓住零件,而是用大拇指頂住零件底部,把零件平衡在手上,就像在手背上頂一本書走路。這種平衡技巧在沒有外力干擾時看起來很有效,但一旦施加10牛頓的側向力(相當於用手輕輕一推),成功率立刻從高位跌到約20%,力道再大一點就徹底失敗。Play2Perfect的機器人則學會了用多根手指穩固地握住零件,即使在最大的測試擾動力下,成功率依然維持在75%以上。
五、玩耍的四個秘訣
研究團隊並不滿足於證明"玩耍有用",他們還系統地研究了"玩耍的哪些方面最有用"。這部分實驗對於理解整個方法的本質非常關鍵。
關於物體多樣性,實驗對比了預訓練時使用10種、100種、1000種積木的效果。從10種增加到100種,效果有明顯提升;但從100種增加到1000種,效果的進一步提升就相對有限了。這說明物體多樣性確實重要,但並不需要無限多——一定數量之後,邊際效益遞減。100種積木已經足以捕獲大部分需要學習的變化。
關於訓練目標,對比了三種方案:只要求平移(把物體搬到指定位置,不管朝向)、只要求旋轉(把物體轉到指定朝向,不管位置)、以及同時要求平移和旋轉。結果顯示,只練習平移的預訓練幾乎沒有遷移價值——機器人學會了用手臂搬運,但完全沒有學會用手指旋轉物體,而這種旋轉能力對裝配至關重要。只練習旋轉的預訓練效果相當不錯,但比同時練習兩者略差,原因在於實際裝配需要在搬運過程中同時調整朝向,純旋轉練習缺少了這種耦合訓練。
關於軌跡多樣性,對比了隨機生成軌跡(默認方案)與固定10條軌跡、固定100條軌跡的效果。固定10條和固定100條軌跡的效果差不多,都明顯弱於隨機軌跡。這說明關鍵不在於軌跡的數量,而在於軌跡分布的覆蓋廣度——每次訓練都遇到新的軌跡,逼迫策略真正泛化,而不是死記硬背固定路線。
關於目標精度,1厘米標準的效果明顯好於5厘米,5厘米又好於10厘米。10厘米精度的預訓練幾乎完全沒有遷移價值,原因很直白:當目標允許差10厘米就算成功,機器人根本不需要學精細操控,隨便揮舞手臂大概到位就行了,這種粗放技能對精密裝配毫無幫助。精度要求越高,機器人在預訓練階段就越被迫開發用指尖做微調的能力,而這恰恰是裝配時最需要的技能。
綜合這四個維度,研究團隊得出了一個清晰的核心結論:讓預訓練真正有價值的,是它是否迫使機器人用手指來控制物體,而不是僅僅用手臂來搬運物體。任何削弱這一點的設計選擇——不管是降低精度要求、只練平移、還是用固定軌跡——都會顯著降低預訓練的遷移價值。
六、真實世界的考驗:0.5毫米的間隙
所有這些在模擬器里完成的訓練,最終要面對真實世界的檢驗。研究團隊沒有在真實機器人上做任何額外訓練,直接把模擬器里訓練好的策略下載到實體機器人上,用真實零件、真實攝影機、真實燈光做測試。
T形插孔任務的測試設置了三種難度:孔口比零件寬10毫米、2毫米和0.5毫米。10毫米的間隙對應的孔口是31毫米×21毫米,零件是30毫米×20毫米——這已經是相當精密的配合,想像一下用手把一塊剛好能進去的積木插入一個幾乎同樣大小的孔洞。2毫米間隙更緊,0.5毫米幾乎是紙張厚度的5倍,需要零件和孔口幾乎完美對齊才能插入。
結果:10毫米間隙下,10次嘗試全部成功;2毫米間隙下,9/10成功;0.5毫米間隙下,6/10成功。完成時間隨難度增加而延長——10毫米間隙平均6.8秒,0.5毫米間隙平均11.1秒,因為在更緊的間隙前,機器人需要更長時間在孔口附近做局部搜索。
梁結構裝配需要兩步完成:第一步成功率8/10,第二步7/10,每步平均約7秒。家具腿擰入任務分兩個階段:先插入定位(7/10成功),再旋轉擰緊(5/10成功),整個過程平均約15.6秒。
這些完成時間本身就很有說服力。一個訓練有素的人工操作員完成類似的精密裝配可能需要數分鐘,甚至更長時間(在不熟悉的任務上)。機器人在6到16秒內完成,展示了多指機械手在速度上相對於人工操作的潛在優勢。
失敗案例也很有參考價值。視覺追蹤失效是主要故障來源:當機器人快速移動時,攝影機對零件位置的估計會滯後;當手指遮擋了零件時,追蹤算法有時會迷失方向。在螺絲擰入任務中,這個問題尤為突出,因為矩形截面的零件每旋轉90度看起來都差不多(旋轉對稱性),視覺算法容易判斷錯方向,導致機器人向錯誤方向旋轉。研究團隊通過給每個側面貼上不同顏色的膠帶來緩解這個問題,但在快速旋轉時仍然不夠完美。
另一類失敗來自現實與模擬的差異:在模擬器里,工作檯固定不動,施力時不會有任何位移;但在真實實驗台上,固定夾具是用膠帶粘在泡沫桌面上的(出於安全考慮),當機器人用力接觸時,夾具會輕微移動或變形,而模擬器里從沒出現過這種情況,機器人的策略無法適應這種意外。
七、"只玩不練"夠不夠?
研究團隊還專門回答了另一個有趣問題:如果只做預訓練、不做裝配特化微調,能完成精密裝配嗎?
他們對比了兩種策略在不同間隙的T形插孔任務上的表現。"只玩耍"策略在40毫米的寬鬆間隙下能達到75%的成功率,這說明預訓練的確學到了有用的抓握和定向技能。但隨著間隙縮小,它的成功率急速下滑,到4毫米時接近於零。而Play2Perfect(玩耍加微調)在4毫米時依然有95%成功率,1毫米時92%,甚至在比訓練時更緊的0.2毫米間隙下,也保持了80%的成功率。
在真實機器人上,"只玩耍"策略在10毫米間隙下只有60%成功率,2毫米間隙下跌到20%,0.5毫米間隙下完全失敗。
從機器人的行為可以看出兩種策略的本質區別。"只玩耍"的機器人在遇到孔口時,傾向於直接向目標位置施力——因為它的訓練任務就是"把物體移動到目標位置",接觸和阻力在它眼裡是干擾而非信號。而Play2Perfect的機器人學會了在孔口附近做小幅度的局部搜索動作,當感知到孔口邊緣時調整角度,等到零件真正對準後才施加插入力。這種"感知接觸、利用接觸"的能力,必須通過裝配特化訓練才能獲得,光靠在自由空間裡玩積木是學不來的。
---
說到底,Play2Perfect這套方法告訴了我們一件聽起來有點繞但其實很直覺的事:要讓機器人學會做精密裝配這道"難題",最好的切入點不是直接面對這道難題,而是先讓它系統性地練好基本功。而這個"基本功練習"的設計本身,也有它的門道——不能太簡單(練出來的技能遷移不了),不能太固定(泛化不夠),不能太粗糙(學到的精度不夠),更不能只練一半(平移和旋轉缺一不可)。
這項研究對普通人的意義,可能在未來幾年才會逐漸顯現。當你下次拿到一件需要裝配的家具,或者當製造工廠里出現了能靈活處理各種新零件的裝配機器人,Play2Perfect這類框架很可能就是背後的技術基礎之一。目前這套系統還只能完成單個裝配步驟,任務之間的銜接、工件的自動識別與選取,都還需要外部系統來輔助。但從0.5毫米間隙的成功到多步驟裝配的可靠完成,這已經是多指機械手在精密裝配領域邁出的一大步。
感興趣的讀者可以通過arXiv編號2606.26428找到完整論文,研究團隊也在play2perfect.github.io公開了演示影片。
---
Q&A
Q1:Play2Perfect的"玩耍預訓練"和普通的機器人強化學習訓練有什麼區別?
A:普通強化學習通常直接針對目標任務設計獎勵,機器人從零開始學習完成該任務。Play2Perfect的"玩耍預訓練"則完全不涉及裝配任務,而是讓機器人練習抓取和操控各種形狀不同的積木,將其移動到隨機指定的三維位置和姿態。這個過程積累了通用的抓握、手指翻轉和精細控制能力,之後面對全新的裝配任務時,機器人不需要從頭摸索如何抓物體,只需要在已有基礎上學習裝配特有的接觸動作,大幅縮短了學習時間。
Q2:Play2Perfect的機器人在真實世界裝配0.5毫米間隙的零件時,具體是怎麼完成的?
A:機器人通過視覺追蹤算法實時感知零件的三維位置和朝向,以60Hz的頻率持續輸出控制指令。在接近孔口時,它不會直接猛插,而是先在孔口附近做小範圍的搜索動作,利用零件與孔口邊緣的接觸反饋來調整對準角度,等感知到對準狀態後再施加插入力。這種行為來自裝配微調訓練階段,是機器人自主學會的策略,而非人工編程的固定動作序列。
Q3:為什麼Play2Perfect不直接用密集獎勵從零訓練,而要多此一舉地先玩耍再裝配?
A:實驗結果表明,即使配備了精心設計的密集獎勵(對靠近零件、抓起零件、沿路徑前進等每個子動作都給獎勵),從零開始訓練仍然需要超過100小時才能學會一個簡化版任務,而且學到的策略很脆弱——僅用手指頂住零件保持平衡,稍有外力就失敗。Play2Perfect用7天預訓練加4小時微調解決了同樣問題,快了33倍,而且學到的多指抓握策略在受到擾動時依然穩定。根本原因在於精密裝配需要的技能鏈太長,直接探索這條鏈極其困難,預訓練把前幾個環節提前解決了。






