這項由Alaya Lab與上海創新研究院聯合完成的研究於2026年7月30日以預印本形式發布,論文編號為arXiv:2607.28362。研究提出了一種名為ShadowDancer的影片世界模型
控制方法,感興趣的讀者可通過該編號在arXiv平台查閱完整論文。
一、當"遊戲世界"遇上"動作控制"的難題
玩過沙盒遊戲的人大概都有過這樣的體驗:你想讓遊戲裡的角色做一個特定的翻滾動作,但遊戲偏偏只給你"攻擊"、"防禦"、"跳躍"這幾個固定按鍵,根本沒法精細控制。AI研究領域裡有一類叫做"交互式影片世界模型"的技術,目標是讓AI實時生成一個可以自由探索的虛擬世界,類似於讓AI扮演一個超級遊戲引擎,用戶說做什麼就生成對應的畫面。這項技術近年來發展迅猛,Oasis、Genie等系統已經能生成相當流暢的虛擬世界。
然而,一個棘手的問題始終懸而未決:怎麼告訴AI,你到底想讓世界裡的東西怎麼動?現有的方法要麼太粗糙,要麼太局限。給AI發一個"攻擊"的鍵盤指令,AI只知道"有個攻擊動作發生了",但具體怎麼揮劍、揮多大弧度、節奏快還是慢,全憑AI自己發揮,根本無法精確指定。而如果想精確到每一幀,比如用3D骨骼姿態來控制人物的每個關節角度,這套方案雖然精準,卻只適用於"人物動作"這一種類型,換成機器人手臂、賽車、魔法技能,又要重新設計一套截然不同的控制系統。
ShadowDancer團隊給這個問題起了一個很形象的名字:表示瓶頸。問題不在於AI不夠聰明、畫不出好看的畫面——現有的影片擴散模型已經能生成極其逼真的複雜運動了——真正的癥結在於,我們缺少一種通用的語言,能夠跨越"人物跑步"、"機械臂抓取"、"賽車過彎"等完全不同的動作類型,統一、精準地告訴AI"接下來要發生什麼動作"。
一個自然的想法是:直接給AI看一段示範影片。正如武術教練教徒弟時會說"你看我怎麼打",影片本身就是最直觀、資訊最豐富的動作說明書——它逐幀描述了動作的每一個細節。AI研究領域裡已經有一類叫做"潛在動作模型"的方法嘗試這條路,做法是讓AI從參考影片裡提取一段壓縮的"動作信號",然後用這個信號驅動新畫面的生成。但這裡藏著一個幾乎被所有人忽視的根本性陷阱,而ShadowDancer的整個故事,正是從發現這個陷阱、然後徹底繞過它開始的。
二、潛伏在示範影片裡的"影子幽靈"
考慮這樣一個場景:你想教AI重現"一個人在草地上揮拳"的動作。你給它看一段影片,影片裡是一個身穿紅色T恤的男人在陽光明媚的草坪上揮拳。AI從這段影片裡提取出"動作信號",然後在另一個場景里——比如雨天的城市街道——用這個信號驅動新人物做出動作。
問題來了:AI從那段影片裡提取的,究竟是"揮拳這個動作",還是"一個穿紅T恤的男人在草地上揮拳"?如果是後者,那當場景換成雨天街道、人物換成穿藍外套的女性時,這個"動作信號"就會失靈,因為它實際上混入了太多跟動作本質無關的資訊——衣服顏色、草地紋理、陽光方向。
傳統的潛在動作模型存在一個被研究者稱為"自重建"的根本性缺陷。這類模型在訓練時的任務是:從影片A的第t幀到第t+1幀,提取一個"動作信號",然後用這個信號預測第t+1幀的內容。但預測的目標就是影片A本身,這意味著AI有一條取巧的捷徑:把場景外觀、角色外貌等所有資訊都塞進"動作信號"里,這樣重建自然萬無一失。AI沒有任何理由去區分哪些資訊屬於"動作本質",哪些屬於"外觀裝飾",反正混在一起重建效果更好。
研究團隊將這個現象稱為"糾纏"——動作信號與外觀資訊纏繞在了一起,就像一團亂麻。之前的研究嘗試用"資訊瓶頸"(強行壓縮信號的容量)或"正則化"(懲罰信號里包含外觀資訊的傾向)來解開這團麻,但效果有限。因為這些方法本質上都是在給AI施加額外的約束和懲罰,而AI面對的訓練數據始終是同一個場景下的同一段影片——動作和外觀永遠綁定在一起,AI從來沒有機會看到"同一個動作在兩種不同外觀下的樣子"。
這就是ShadowDancer的洞察所在:與其用懲罰的方式讓AI猜測哪部分是動作,不如直接構造一種訓練數據,讓動作和外觀在數據層面就被分離開來。
三、"影子"是什麼:同一個舞蹈的兩種打光
ShadowDancer團隊發明了一個極其精妙的概念,叫做"影子對
"(Shadow Pair)。
回到那個揮拳的例子。現在,團隊不是給AI看一段影片,而是給它看兩段影片。這兩段影片裡的動作完全相同、每一幀的時間完全同步——同樣的揮拳節奏、同樣的弧度、同樣的時機。但兩段影片裡的所有外觀因素都是獨立重新選取的:第一段影片裡是穿紅T恤的男人在草地上,第二段影片裡是穿藍外套的女人在倉庫里。動作相同,外表迥異。
這就是"影子"的含義:一段影片是某個動作軌跡在某種外觀下的"投影",而它的"影子"是同一個動作軌跡在另一種外觀下的投影。就好像同一支舞蹈,在聚光燈下表演和在自然光下表演,兩段錄像里的光影、服裝、背景天差地別,但舞步本身分毫不差。
用更精確的語言來說,團隊將影片建模為一個渲染過程:一段影片等於"動作軌跡"加上"外觀因素"經過渲染得到的結果。動作軌跡包括物體怎麼運動、角色如何移動;外觀因素包括角色長什麼樣、場景是什麼環境、光照從哪個方向來。一個影子對就是拿同一個動作軌跡、用兩套獨立隨機選取的外觀因素,分別渲染得到兩段影片。
這個定義有一個非常優雅的性質:從兩段影片中真正共同存在的,只有動作軌跡。外觀因素是獨立隨機選取的,所以它們之間沒有任何系統性的關聯。如果AI想從第一段影片裡提取一個信號,用來預測第二段影片裡會發生什麼,這個信號里就必須包含動作軌跡,而且不需要包含外觀資訊——因為外觀資訊對預測第二段影片毫無幫助,第二段影片的外觀是全新隨機選取的,跟第一段毫無關聯。
這個訓練方式被稱為"跨影子預測":給AI看第一段影片(來源影子),讓它提取動作信號,然後用這個信號,加上第二段影片(目標影子)的第一幀外觀,預測第二段影片接下來的每一幀。由於目標影子的外觀已經通過第一幀"告訴"了AI,AI唯一需要從來源影子裡提取的,就是動作本身。
這種方式的巧妙之處在於,它不是在懲罰AI提取外觀資訊,而是從根本上讓外觀資訊變得沒有用處。AI不是被"禁止"混入外觀,而是自然地發現混入外觀毫無意義,因為目標場景的外觀跟來源場景的外觀根本沒有關係。動作信號里的"糾纏"問題,就這樣被數據構造的方式從源頭化解了。
四、影子庫:如何大規模製造"影子對"
有了影子對的概念,下一個問題是:怎麼在實際中大量製造這樣的數據?
關鍵在於"復現動作、重新選取外觀"這個操作。在現實世界裡,這幾乎是不可能的——你不可能讓同一個人以完全相同的方式揮拳兩次,同時還要徹底換一身衣服、換一個場景。但在數字世界裡,這完全可以做到。
團隊構建了一個叫做"影子庫"(Shadow Library)的數據集,通過多種數字渲染環境來批量生成影子對。對於人體動作,他們使用了3D動畫軟體Blender,將SMPL-X格式的人體動作數據(一種描述人體骨骼運動的數位格式)分別套用到不同的數字角色上,放置在不同的虛擬場景里,配合不同的燈光和攝像機角度,渲染出多段具有完全相同骨骼運動但外觀各異的影片。對於機器人手臂,他們使用了ManiSkill機器人仿真平台,讓同一套手臂運動軌跡在不同的機器人外形、不同的桌面環境、不同的物體擺放下被重複渲染。對於遊戲場景,他們在GTA風格的城市場景和電馭叛客風格的夜城、以及虛幻引擎搭建的第三人稱遊戲場景中,讓同一條運動軌跡在不同地圖、不同天氣、不同時間段下被重複捕捉。此外,相機運動軌跡也是一個單獨的動作家族,他們通過讓同一條相機運動路徑穿越不同的靜態場景來生成影子對。
整個影子庫最終包含了約數千到數萬個序列、合計數百萬幀的影子對數據,覆蓋了人體運動、機械臂操作、第一人稱遊戲戰鬥、第三人稱遊戲技能釋放和相機軌跡控制五大動作家族。
團隊還有一個聰明的處理方式來引入真實世界影片。真實影片無法製造影子對,但真實影片裡有大量珍貴的真實場景外觀資訊,對提升生成畫面的視覺質量很有幫助。解決方案是將真實影片作為"退化的自身影子對"引入訓練——即把同一段影片既當來源又當目標。這樣,真實影片為模型提供了視覺多樣性和真實感,而真正的動作-外觀分離學習信號則來自合成的影子對。團隊引入了MiraData網際網路影片數據集以及OpenX機器人操作數據集中的多個子集作為真實影片來源。
五、跨影子預測的數學機制與理論保證
團隊不滿足於直覺性的解釋,他們還從理論上嚴格證明了跨影子預測方法的正確性。
整個訓練框架使用了一種叫做"變分自編碼器"的結構,但做了關鍵性的修改。具體來說,模型有一個編碼器和一個解碼器。編碼器負責從來源影子影片的相鄰兩幀中,提取一個32維的壓縮動作向量(即"潛在動作")。解碼器則接收目標影子的當前幀外觀,加上編碼器提取的動作向量,預測目標影子的下一幀。訓練的損失函數來自標準的β-VAE框架:預測誤差越小越好,同時動作向量的分布應該儘可能接近一個簡單的高斯分布(這個約束起到"資訊瓶頸"的作用,防止動作向量無限膨脹)。
理論部分的核心定理證明了:在三個合理的假設條件下,跨影子預測的最優解就是動作軌跡本身(在一個可逆的重新參數化意義下)。這三個假設分別是:來源影子和目標影子在給定動作的條件下相互獨立(即"重新選取外觀"的操作確實把兩個渲染過程分開了);動作軌跡可以從來源影片中被觀察到;不同的動作軌跡會在目標場景里產生不同的效果(即動作之間能被區分開來)。
換句話說,這個理論保證了:只要影子對構造得正確,跨影子預測不僅在直覺上應該學到動作,在數學上也必然會學到動作,別無他法。這是一個比"正則化懲罰外觀"強得多的保證——後者只是在努力減少外觀的影響,而跨影子預測是從根本上讓外觀資訊在預測任務中變得無關緊要。
團隊還進一步證明了,在函數可以連續、緊緻支撐等標準數學條件下,神經網路可以以任意精度實現這個理論最優解。這意味著理論保證不只存在於抽象數學空間裡,在實際的神經網路訓練中同樣適用。
六、從動作信號到可交互的世界模型
學會了提取純淨的動作信號,下一步是讓這個信號真正驅動一個可以實時交互的影片世界。
團隊以SkyReels-V2-1.3B這個預訓練影片擴散模型作為骨幹網路。影片擴散模型可以理解為一個"圖像合成引擎",它通過逐步去除噪聲來生成高質量的影片幀。團隊在這個骨幹模型上做了兩項重要改造。
第一項改造是動作條件注入。提取出來的動作向量通過兩條渠道影響影片的生成:一條是通過"自適應層歸一化調製",將動作向量融入每個生成步驟的時間步嵌入,提供全局性的低頻控制(相當於設置整體運動的大方向);另一條是通過專用的交叉注意力機制,讓生成過程的每一幀都能精細地"查詢"對應時刻的動作信號(相當於逐幀調整細節)。與此同時,來源影子影片本身也被編碼成"運動資產"(Motion Assets),通過通道拼接和額外的交叉注意力注入模型,為生成過程提供高頻運動細節——因為32維的動作向量太小,無法攜帶四肢的精確姿態、接觸時機等細節,這些細節通過來源影片的完整編碼來補充。
第二項改造是"塊因果"轉換,這是讓模型支持實時交互的關鍵。原始的影片擴散模型是"雙向"的——它在生成一段影片時需要同時考慮前後所有幀,就像在修改整張畫布。這對於交互式應用來說是不可接受的,因為用戶發出動作指令後,模型無法等所有幀都確定了才開始生成。團隊借鑑了近期關於影片擴散模型因果轉換的研究,將模型改造成"塊因果"生成器:影片幀被分成一個個小塊,塊內可以雙向建模,但塊與塊之間只能前向參考——即第二塊只能看第一塊,不能"偷看"第三塊。在推斷時,模型逐塊生成,維護一個鍵值緩存(Key-Value Cache)來保存歷史資訊,從而實現流式輸出,動作指令進來就能持續生成影片流。
七、動作資產:把示範影片變成可復用的"技能卡"
ShadowDancer最有實用價值的概念之一是"動作資產"(Action Asset)。
當一個用戶想讓世界模型重現某個特定動作時,他們只需要錄製或找到一段展示該動作的參考影片。通過已經訓練好的(凍結的)編碼器,這段影片被一次性處理成一串動作向量序列,打包儲存起來。這就是一個"動作資產"。之後,無論在什麼新場景、新環境裡,只要把這個動作資產"插入"到世界模型的控制流中,模型就會在新場景里重現這個動作——完全不需要重新訓練,不需要任何動作標註,不需要知道影片裡是什麼類型的運動。
更進一步,不同的動作資產可以自由拼接。先跑步、再跳躍、再揮劍,只需要把三個動作資產按順序排列,世界模型就會按這個順序在新場景里依次執行。為了讓模型在訓練時就適應這種拼接方式(而不只見過連續的參考影片),團隊在訓練過程中以一定概率將連續的來源影片替換為從預建資產庫中隨機抽取並拼接的片段。這樣,在實際使用時通過離散指令查找並拼接動作資產的操作模式,完全匹配模型在訓練中見過的輸入分布。
還有一個精妙的細節:動作向量序列是逐幀的,而影片擴散模型的3D-VAE(影片壓縮編碼器)在時間維度上有4倍的壓縮率,即每4幀影片對應1個潛在幀。為了保持對齊,團隊將相鄰4幀的動作向量取平均後注入對應的潛在幀,確保動作信號的時序精度不因壓縮而損失。
八、一個編碼器,三個"讀取頭":分離相機與場景動作
現實中的影片是多種運動的疊加:相機在移動,人物也在移動,物體也在運動。如果只提取一個混合的動作信號,有時候用戶只想控制相機(比如環繞鏡頭),有時候只想控制人物(不關心鏡頭怎麼動),有時候需要同時控制兩者。
ShadowDancer通過一個叫做"因子選擇性讀取"的機制來解決這個問題,而且不需要訓練多個編碼器,一個編碼器就能搞定所有情況。
具體做法是在編碼器的每一幀輸入序列前面加上三個特殊的"提示詞令牌",分別對應"相機動作頭"、"場景動作頭"和"完整動作頭",每個頭擁有獨立的變分讀取模組。影子庫里的不同數據源會激活不同的頭:相機運動影子對(場景和人物外觀被重新選取,只有相機軌跡保持不變)會監督相機動作頭;場景動作影子對(相機被重新選取,只有人物/物體運動保持不變)會監督場景動作頭;兩者都保持不變的影子對會監督完整動作頭。
在推斷時,同一段參考影片可以被讀取三次,得到三個獨立的動作信號:一個純相機動作、一個純場景動作、一個兩者的結合。用戶可以自由選擇使用哪個信號,甚至可以把一段影片的相機動作和另一段影片的人物動作混合在一起,創造出全新的控制組合。
九、實驗結果:數字說話,視覺比較
團隊設計了兩類核心實驗來驗證ShadowDancer的效果,並與現有最先進的方法進行了系統性對比。
第一類實驗叫做"動作跨場景遷移",測試的核心問題是:從一個場景里學到的動作信號,能否精準地在另一個場景里重現出來?具體做法是從影子庫的測試集裡取出影子對,用第一段影片(來源影子)提取動作信號,然後從第二段影片(目標影子)的第一幀出發,用這個動作信號驅動生成,最後把生成結果與目標影子的真實後續幀逐幀比較。
對比的基準方法是Olaf-World,這是當時最先進的自重建潛在動作模型,使用了特徵對齊正則化來嘗試減少外觀糾纏。兩個模型使用相同的訓練數據和相同的影片擴散骨幹網路,確保比較的公平性。
結果相當顯著。在人體運動上,ShadowDancer的PSNR(峰值信噪比,越高越好)從18.2提升到22.4,LPIPS(感知圖像相似度,越低越好)從0.288降到0.184。在第一人稱戰鬥場景上,PSNR從13.0提升到17.0,LPIPS從0.532降到0.354。在第三人稱動作遊戲上,PSNR從12.6提升到17.4,LPIPS從0.506降到0.309。在機器人手臂操作上,PSNR從14.0提升到22.6,LPIPS從0.478降到0.116——這是最大的提升幅度,接近於將誤差減半。相機控制則通過軌跡誤差來評估,絕對軌跡誤差(ATE)從0.072降到0.005,相對位姿誤差(RPE)從0.021降到0.003,精度提升了一個數量級。
從視覺上看,Olaf-World生成的影片常常出現明顯的"扭曲變形"——人物的身體會莫名拉伸或扭轉,相機會出現意外的漂移,因為混入了外觀資訊的動作信號在新場景里"水土不服",產生了錯誤的運動指令。而ShadowDancer生成的影片則能忠實地在新場景里重現參考動作的節奏、幅度和風格,角色的身體形態保持自然,相機運動也流暢準確。
為了確認提升來自動作表示本身而非生成質量,團隊還在不進行任何生成的情況下直接對潛在動作向量做了探針實驗。他們訓練了線性分類器,嘗試從動作向量里讀取角色身份資訊(動作內容的指標,越高越好)和場景資訊(外觀泄漏的指標,越低越好)。結果表明,跨影子訓練的動作向量對角色身份的解碼準確率達到隨機猜測的11倍,同時場景資訊的泄漏量顯著低於自重建方法。自重建方法的動作向量在角色身份解碼上幾乎只有隨機猜測的水平,卻泄漏了更多場景外觀資訊。這直接證明了動作表示質量本身的差異,而非僅僅是生成質量的差異。
第二類實驗叫做"長時間動作連續滾動",測試的是把多個動作資產拼接起來,讓世界模型做連續長時間的動作執行時,效果能否保持穩定。這種場景沒有逐幀對齊的真實值可以比較,因此採用了盲評的方式:讓一個視覺語言模型(Fable 5)對兩段影片進行兩兩強制選擇比較,分別在"動作是否確實被執行"、"動作的具體細節是否被保持"和"長時間執行中是否出現漂移或退化"三個維度上評分。
這次的對比對象擴展到了更多系統:Olaf-World(潛在動作方法)、Yume-1.5(文本+鍵盤指令驅動的交互世界模型)和LingBot-World 2.0(相機軌跡+文本事件觸發驅動的交互世界模型)。每個系統通過自己原生的接口接收相同的指令序列。結果顯示,ShadowDancer對Olaf-World的偏好率在三個維度上分別為94%、95%和94%;對Yume-1.5分別為88%、86%和91%;對LingBot-World 2.0分別為78%、83%和64%。其中,LingBot-World 2.0在長時間一致性維度上僅有64%的偏好率,說明ShadowDancer在這個維度上的優勢對這個特定對手而言相對較小,但在其他維度仍有明顯優勢。
十、消融實驗:每個組件各貢獻了多少?
為了精確量化各個設計決策的貢獻,團隊做了細緻的消融實驗,像外科手術一樣逐一測試每個組件的必要性。
最基礎的配置是純粹的自重建潛在動作模型(參照Olaf-World的做法),在測試數據上的PSNR為12.44,LPIPS為0.555。加上影子對訓練(但不加來源影片資產)後,PSNR提升到14.75,LPIPS降到0.448——說明影子對本身確實帶來了實質性的改善。僅用來源影片資產(不用動作向量)的配置得到了PSNR 15.07和LPIPS 0.420,說明來源影片本身就是一個強大的動作載體,因為它直接包含了動作的視覺資訊。
最關鍵的一組對比是:用自重建方式訓練的動作向量加上來源影片資產,與用影子對訓練的動作向量加上來源影片資產,這兩種配置的差異。前者PSNR為14.92,後者(即完整的ShadowDancer)PSNR為16.35。這意味著,當來源影片資產已經存在時,加入一個自重建訓練的動作向量幾乎沒有額外收益(PSNR從15.07到14.92,基本持平甚至略有下降);但加入一個影子對訓練的動作向量,PSNR還能再提升1.4分。換句話說,一個用自重建方式訓練的"動作向量"在有了來源影片資產之後幾乎沒有增量價值,因為它攜帶的信號已經被來源影片所包含甚至混淆了;而一個經過跨影子訓練的純淨動作向量,攜帶的是來源影片裡高度壓縮的動作本質,與來源影片的視覺細節形成互補,一起提升了最終效果。
團隊還做了另一個探針實驗來測試動作向量與來源資產各自的貢獻:分別把對方替換成來自另一個場景的版本,或者把動作向量在時間上打亂順序,或者把來源影片降低到四分之一解析度。結果表明,在五個動作家族中的四個里,替換或打亂動作向量都會導致PSNR顯著下降(2到3分左右),而降低來源影片解析度幾乎不影響PSNR(變化在0.4分以內)。這清楚地表明,指令性的動作資訊主要存在於動作向量中,而來源影片主要貢獻外觀和高頻細節。
十一、教AI一個它從未見過的動作
團隊還設計了一個充滿挑戰性的測試:在訓練完成之後,通過遊戲Mod引入一個全新的角色和一種全新的武器(雙手揮舞的大劍,不同於訓練時使用的單手射擊武器),讓AI重現這個角色做出走路、轉身和大劍揮砍動作。這些動作資產錄製自一張地圖,然後在另一張地圖(AI從未見過的地圖)上用於生成。
結果顯示,這個從未見過的大劍揮砍動作被成功重現在了新地圖上——步法的節奏和大劍的揮動軌跡都得到了保留,儘管模型在訓練時從未見過這種角色或這種武器。這驗證了ShadowDancer的編碼器確實在學習"動作的本質軌跡",而非記憶特定的動作類別標籤。新動作的加入只需要一次前向傳播(提取動作資產),無需任何額外訓練,動作庫就此擴展。這被團隊認為是整個範式最重要的擴展潛力:隨著用戶演示新動作,動作庫可以無限增長,而不受模型訓練數據的限制。
歸根結底,ShadowDancer做的事情,就是讓AI第一次真正地從"看"到"理解動作本質"——不是記住一個動作跟某個特定角色、特定場景的綁定,而是把動作從一切外觀裝飾中剝離出來,得到一個能在任何新場景里重現的純淨動作藍圖。研究團隊也坦誠地指出了兩個現實局限:其一,動作資產必須提前準備好,對於從未被演示過的動作,系統無法憑空生成;其二,影子對目前只能在遊戲引擎和仿真器里方便地製造,真實世界的影片很難重現完全相同的動作並替換外觀。不過團隊也指出了解決路徑:未來可以用影片生成模型來批量生成外觀各異但動作一致的"合成影子對",或者用影片編輯模型將真實影片的外觀替換掉,同時保留運動,從而把這個框架從數字世界延伸到真實世界。
考慮一下這意味著什麼:未來的遊戲引擎或影視製作工具,可能只需要錄製一段示範動作,就能讓任意角色、任意場景中精準重現這個動作,無需動作捕捉設備,無需手動標註,無需為每種新動作重新訓練模型。這對交互式娛樂和機器人仿真訓練都有值得期待的影響。如果你對完整的技術細節感興趣,可以通過arXiv編號2607.28362查閱原始論文,研究團隊也在ShadowDancer-1.github.io上提供了演示影片。
Q&A
Q1:ShadowDancer的"影子對"和普通的數據增強有什麼區別?
A:普通數據增強(如隨機裁剪、變色)是在已有影片上做後處理,無法真正"替換外觀、保留動作"——改變顏色不等於換一套場景和角色。影子對是在渲染層面操作的,直接用同一套運動數據在兩套完全不同的場景和角色外觀下重新渲染,兩段影片的運動軌跡逐幀完全一致,而外觀是獨立隨機選取的。這是本質性的區別:影子對讓動作和外觀在數據層面就真正分離,而不是靠懲罰項去猜測哪部分是動作。
Q2:ShadowDancer控制機器人和控制遊戲角色用的是同一個模型嗎?
A:是的,這正是ShadowDancer的核心設計目標之一。整個系統只有一個編碼器和一個潛在動作空間,不同動作家族(人體運動、機械臂、第一人稱遊戲戰鬥、第三人稱遊戲技能、相機控制)都通過這同一套接口來控制。影子庫里不同來源的影子對共同訓練同一個編碼器,讓它學會了在同一個32維的動作向量空間裡表示各種各樣的動作軌跡。世界模型同樣只訓練一次,通過動作向量流和來源資產來接受來自任何動作家族的控制信號。
Q3:ShadowDancer生成的影片質量跟真實遊戲畫面比如何?
A:目前ShadowDancer的生成質量在與其他AI影片世界模型的對比中處於領先位置,但與商業遊戲引擎渲染的真實遊戲畫面相比仍有差距。研究評估顯示,ShadowDancer在動作精準度上相對基準方法有顯著提升,且弗雷歇影片距離(FVD,衡量影片真實感的指標)約為競爭對手的一半,說明生成畫面的視覺質量也有改善。但論文本身也明確指出,生成質量評估不在本研究的核心關注範圍內,重點在於動作控制的準確性和跨場景遷移能力。






