多數搭載AI的機器人在部署後基本就停止了學習。Skylark Labs的研究人員聯合卡內基梅隆大學和加州大學伯克利分校的學者,開發出一種新方法,旨在讓機器人能夠從現實世界中的成功經驗中持續學習——而無需重新訓練底層AI模型,也不會遺忘已經掌握的能力。
研究人員將這一新架構稱為"持續場自適應模型"(Continual Field-Adaptive Models,簡稱CFAM
),相關技術已在最新發表的研究論文《部署後物理AI的持續場自適應模型》中進行了闡述。
這項研究所解決的核心問題正變得愈發重要,因為機器人正從受控的實驗室和工廠走向更不可預測的環境中。
現代機器人學習模型可能需要海量的訓練數據。然而一旦部署,機器人必然會遇到與訓練數據不同的情況——物體的擺放位置可能不同,負載可能更重,地形可能發生變化,或者出現未曾預料到的障礙物。
每次遇到這種情況都重新訓練一個大型AI模型可能並不現實,尤其是當機器人在遠程運行、計算能力有限或無法穩定連接數據中心時。
在現場更新模型還會帶來另一個問題:災難性遺忘
,即學習新資訊會導致AI系統丟失此前已掌握的部分能力。
CFAM旨在通過將穩定的、已學習的能力與一種可以在部署後持續增長的快速記憶形式分離開來,解決上述兩個問題。
賦予機器人長期記憶與短期記憶
研究人員的靈感來源於人腦中的互補學習系統。
CFAM包含三個相對穩定的組件,研究人員將其稱為感知皮層、推理皮層和行動皮層。三者協同工作,使機器能夠感知周圍環境、判斷需要執行的任務,並執行相應的物理動作。
這些組件在部署前完成訓練,隨後被凍結。
另一個獨立的快速學習組件,稱為"膠囊場
"(Capsule Field),用於儲存運行過程中遇到的新經驗。
研究人員將這種架構大致類比為人腦中新皮層與海馬體之間的關係:一方提供相對穩定的長期知識,另一方則能快速編碼新經驗。
儲存在膠囊場中的獨立單元被稱為"能力膠囊
"(Competence Capsules)。
CFAM不是去改變機器人底層AI模型中數以百萬甚至數十億計的參數,而是將一次有用的新經驗記錄為一個膠囊,並在再次遇到類似情況時調取該資訊。
關鍵在於,這一過程發生在機器人本體上,不需要傳統的基於梯度的重新訓練。
通過工作來擴展能力的機器人
CFAM背後更有趣的理念之一是,機器人的有效操作範圍可以僅通過成功的運行逐漸擴展。
研究人員將這一過程描述為擴展機器人的"能力包絡
"(competence envelope)。
舉例來說,假設一個機器人已經學會在特定位置抓取某個物體。如果同一物體隨後出現在更遠的位置或以不同的朝向出現,機器人不必從零開始重新學習該任務。
CFAM使用研究人員稱為"幾何殘差變換
"(Geometric Residual Transform,簡稱GRT)的方法,將已儲存的動作適配到新情況的幾何特徵上。
正如論文所述,這種技能實際上是"重新瞄準,而非重新學習"。
如果機器人在接近其現有能力邊界的情況下成功完成任務,這次成功的經驗便可被儲存為另一個能力膠囊。
下次機器人遇到類似情況時,便可直接調用這一經驗。
因此,隨著時間推移,其已儲存技能所覆蓋的情況範圍會不斷擴大。
這一方法的適用範圍不局限於機器人操作。研究人員在五種不同類型的物理系統上對CFAM進行了測試:機械臂、四足機器人、人形機器人、四旋翼飛行器和越野車輛。
例如對於四足機器人,變化可能涉及遇到不同的地形。對於自動駕駛車輛或無人機,相關的幾何因素則可能涉及路線、航點、地形和障礙物,而非被操作的物體。
用更少的數據進行學習
研究人員還報告稱,部署前所需的訓練數據量大幅減少。
他們的實驗使用了Skylark Labs內部數據集,其中包含跨五種物理平台的260多萬條軌跡數據。研究人員表示,CFAM以及用於物理平台對比的標準策略基線均在同一數據集上進行訓練。
據論文所述,CFAM僅使用40%的數據量(相當於減少2.5倍的前期訓練軌跡數)即可達到使用完整前期訓練數據集訓練的標準策略所達到的運行水平。
隨後,研究人員考察了系統在部署後遇到接近但超出此前訓練分布範圍的情況時會發生什麼。
通過自主捕捉經過驗證的成功案例,動作成功率從74.0%提升至87.9%,提高了13.9個百分點。
在連續仿真實驗中,CFAM還表現出明顯更少的遺忘現象。
研究人員報告的後向遷移
指標為-0.5個百分點,相比之下,使用LoRA
(一種廣泛應用的高效AI模型適配方法)的後向遷移指標為-11.4個百分點。
超越數據中心的物理AI
當機器人在無法假定存在雲連接或大型計算基礎設施的環境中運行時,本地學習能力就顯得尤為重要。
該論文重點關注國防、公共安全和危險環境中的關鍵任務應用。
相關示例包括檢查不穩定的礦井、處理疑似爆炸裝置、搜索地震損毀的建築結構,以及在受輻射污染的設施內作業。
研究人員還指出了更為遙遠的應用可能性,包括深海作業和行星探測,在這些場景中,通信延遲或缺乏合適的訓練數據使傳統依賴雲端的方法難以實施。
類似的原理最終也可能適用於商業化的物理AI應用。部署在工廠、倉庫、建築工地、農場等不斷變化環境中的機器人,經常會遇到原始訓練數據中未能完美呈現的情況。
一台能夠保留這些遭遇中的有用經驗的機器,有可能在整個運行生命周期中變得更有能力,而不是始終停留在離開實驗室時所具備的大致能力水平上。
Skylark Labs將CFAM描述為一種支持這類設備端持續學習的架構,尤其適用於連接性、計算資源和訓練數據受限的場景。
並非無限制的自我學習
然而,研究人員所展示的能力存在一個重要邊界。
CFAM並非旨在讓機器人遇到完全陌生的問題時自主發明一項全新的技能。
該系統所解決的是研究人員所稱的"近分布外
"(near-out-of-distribution,簡稱near-OOD)情況。
一個已經學會抓取某類物體的機器人,可能將該能力擴展到相關的物體上。一個熟悉某種地面的行走機器人,可能學會應對另一種相關類型的地形。
但對於系統完全不具備相關技能體系的全新任務——研究人員稱之為"開放世界新穎性
"——則超出了當前研究的範疇。
這一區分使得CFAM更像是一種能夠在已有知識基礎上不斷構建的機器架構,而非能夠自發學會任何事物的機器人系統。
對於物理AI而言,這可能才是更具現實意義的能力。
如今的機器人學習系統已能在實驗室中展現出日益複雜的行為。而真正的挑戰在於,當這些機器進入不可預測的物理世界後,如何維持並擴展這種能力。
CFAM提出了一種彌合這一差距的方法:在部署前教會機器人相對少量的技能,讓其能夠將這些技能適配到新情況中,在本地記住成功的經驗,並且在整個過程中無需不斷重寫賦予其原始能力的AI系統。
關於研究團隊
該論文由隸屬於Skylark Labs、卡內基梅隆大學和加州大學伯克利分校的研究人員共同撰寫。
Amarjot Singh——Skylark Labs:Skylark Labs創始人兼CEO,研究方向聚焦於面向物理與安全應用的類腦、數據與計算高效型AI。
Tanmay R. Pancholi——Skylark Labs:該公司研究人員,CFAM研究論文合著者。
Jainam Kothari——Skylark Labs:該公司研究人員,CFAM研究論文合著者。
Shrirang Mahajan——Skylark Labs:該公司研究人員,致力於公司CFAM物理AI架構及相關持續學習技術的研究。
Ketan Bansal——Skylark Labs:該公司研究人員,CFAM研究論文合著者。
Vince Nakayama——Skylark Labs:該公司研究人員,CFAM研究論文合著者。
Zackory Erickson——卡內基梅隆大學:該校機器人學院助理教授,研究方向涵蓋機器人學習、移動操作、傳感及物理人機交互。
Jeff Schneider——卡內基梅隆大學:該校機器人學院研究教授,專注於機器學習、自主系統、強化學習與機器人學。
Giuseppe Loianno——加州大學伯克利分校:機器人研究員,敏捷機器人與感知實驗室創始人,專注於自主與敏捷機器人系統研究,尤其是空中機器人。
Alexandre M. Bayen——加州大學伯克利分校:該校廖趙工程學教授,研究領域涵蓋控制、優化、自主系統與交通運輸。
Q&A
Q1:CFAM是什麼?它解決了什麼問題?
A:CFAM是Skylark Labs聯合卡內基梅隆大學、加州大學伯克利分校研究人員開發的持續場自適應模型架構,能讓機器人在部署後持續從成功經驗中學習,無需重新訓練底層AI模型,同時避免遺忘已有能力。
Q2:CFAM如何讓機器人在工作中變得更強?
A:CFAM通過"能力膠囊"儲存成功的新經驗,並用幾何殘差變換技術將已有技能適配到新情況,機器人成功完成任務後會將經驗保存下來,使其能力範圍隨運行時間逐漸擴展,而無需從零學習。
Q3:CFAM適用於哪些機器人和場景?
A:研究人員在機械臂、四足機器人、人形機器人、四旋翼飛行器和越野車輛五種物理平台上測試了CFAM,應用場景涵蓋礦井檢查、爆炸物處理、地震救援、輻射環境作業,以及工廠、倉庫等商業場景。






