這項由香港科技大學、浙江工業大學和百度聯合開展的研究，以預印本形式發布於2026年7月2日，論文編號為arXiv:2607.02508，有興趣深入了解技術細節的讀者可通過該編號查詢完整論文。
要理解這篇研究的意義，先從一個廚師的故事開始。假設你是一位正在訓練新學徒的廚師，你有兩種方法讓學徒進步更快：第一種，讓學徒把同一道菜反覆練習，但每次練習都讓他和一位更資深的廚師配合，通過互相觀察和模仿來提升水平；第二種，把同一道菜的食材在不同烹飪階段展示給學徒——有時是生的，有時是半熟的，有時是快出鍋的——讓他見識更多狀態，積累更豐富的經驗。這兩種方式都能讓學徒進步，但背後的原因截然不同。前者是通過"合作"來提升，後者是通過"見多識廣"來提升。
現在，AI圖像生成領域有一個完全類似的爭論。一批頂尖AI模型，被稱為"擴散變換器"（Diffusion Transformer，簡稱DiT，可以理解為一種專門負責生成高質量圖片的AI大腦），近年來在加速訓練、提升生成質量方面取得了很多進展。其中有兩種叫做SRA和Self-Flow的訓練方法，引發了研究者們的關注。這兩種方法都屬於"表徵對齊"技術——用通俗的話說，就是讓AI大腦在學習畫圖的同時，也學會更好地理解圖片本身的含義。
SRA是先行者。它的核心思想是：在同一個AI模型內部，讓處於"更混亂狀態"（更多噪聲，可以理解為圖片被弄得更模糊）的早期層，去向處於"更清晰狀態"（更少噪聲）的深層學習。就像讓一個正在看模糊監控錄像的偵探，去向一個看到高清影片的同事學習判斷方法，從而倒逼自己提升能力。這種方式不依賴任何外部工具，完全靠AI模型自己"內部對話"來提升能力。
Self-Flow則在SRA的基礎上更進一步，它的關鍵改動叫做"雙時間步調度"。用廚師的比喻來說，SRA是把整道菜統一放在"半熟"階段展示給學徒；而Self-Flow則把同一道菜的不同部分同時處於不同烹飪階段——左邊的食材是生的，右邊的已經快熟了，讓學徒同時看到多種狀態。在AI的世界裡，這意味著同一張圖片的不同像素塊（稱為"token"，可以理解為圖片被切成的小方格）會被添加不同程度的噪聲，有的很模糊，有的相對清晰，共存於同一次訓練當中。Self-Flow的研究者認為，這樣做的好處是：較清晰的小方格能幫助較模糊的小方格"推斷"出正確答案，從而實現更強的自我監督學習。結果證明，Self-Flow的表現確實優於SRA。
然而，香港科技大學等機構的這支研究團隊決定刨根問底，追問一個關鍵問題：Self-Flow的進步，真的是因為那些"清晰方格幫助模糊方格"的互動帶來的嗎？還是說，僅僅是因為讓AI同時見識了更多樣的圖片狀態，也就是一種變相的數據擴充效果？
這兩個解釋聽起來相似，但本質上差別巨大。如果是前者，說明AI確實在進行某種類似"同伴互助學習"的複雜過程；如果是後者，那Self-Flow的改進主要來自讓訓練數據在噪聲維度上更加多樣化，本質上只是一種聰明的數據增強手段。
一、偵探破案：設計一把"手術刀"分離兩種效果
要搞清楚這個問題，研究團隊需要一種精妙的實驗設計——既保留Self-Flow的雙時間步結構，又能切斷那些"不同狀態小方格之間互相交流"的可能性。他們發明了一個叫做"注意力分離"（Attention Separation）的操作，這個名字直接點明了它的工作方式。
在AI的注意力機制中（這是現代AI大腦理解資訊時的核心能力，可以類比為人類大腦在讀文章時會把注意力分配到不同詞彙之間的關聯上），每個小方格通常都可以"看到"圖片裡所有其他小方格，並與它們互相參考。這種全局互動能力是AI生成高質量圖片的重要基礎。
注意力分離做的事情，就像是在一個大開放式辦公室里安裝隔斷：屬於同一個"噪聲等級組"的小方格，彼此還能正常交流；但屬於不同噪聲等級的小方格，則被完全隔斷，無法互相參考資訊。在數學上，這通過一個"隱藏矩陣"來實現——給不同組之間的注意力打上"負無窮大"的分數，讓它們在概率計算中徹底被忽略，效果如同在注意力矩陣中畫出一個分塊對角線的結構。
這個設計的精妙之處在於：輸入給AI的數據完全沒有變化——同一張圖片依然有一部分方格處於高噪聲狀態，另一部分處於低噪聲狀態，雙時間步的"多樣性"完整保留。改變的只是這些方格能否互相交流。於是，研究團隊就得到了一把精密的"手術刀"：如果切斷互動後性能下降，說明Self-Flow的進步確實來自跨噪聲等級的互動學習；如果性能沒有下降甚至提升，說明雙時間步的效果主要來自數據層面的多樣性，而非互動本身。
實驗結果令人意外。在ImageNet（一個包含數百萬張圖片的權威圖像數據集，研究者經常用它來測試AI模型的能力）上，使用SiT-B（一種中等規模的圖像生成模型）進行訓練。衡量圖片生成質量主要用兩個指標：FID分數（越低越好，代表生成的圖片和真實圖片越接近）和IS分數（越高越好，代表圖片質量和多樣性越佳）。
對比結果顯示，在訓練了80萬步之後，使用全局注意力（允許所有方格互相交流）的Self-Flow獲得了FID 25.19和IS 66.75；而使用注意力分離（不同噪聲等級的方格互相隔斷）的版本，FID反而降到了25.06（更好），IS更是大幅提升到72.94（也更好）。切斷了跨噪聲的互動之後，性能非但沒有下滑，反而進步了。
這個結果直接推翻了Self-Flow原論文中的解釋。雙時間步調度的好處，並非來自"清晰方格幫助模糊方格推斷資訊"，而是因為同一張圖片在不同噪聲狀態下被同時呈現，讓模型見識到了更多樣化的訓練數據，就像那個廚師故事裡的第二種方法：學徒進步，是因為他同時看到了食材在生、半熟、快熟多種狀態下的樣子，而不是因為他和旁邊更厲害的學徒配合。
二、更進一步：注意力分離本身也是數據擴充
發現了雙時間步的真實工作原理之後，研究團隊又對注意力分離這個操作本身進行了更深入的研究。一個新的問題浮現出來：如果在"單時間步"訓練中（也就是圖片所有方格都處於同一個噪聲等級，沒有任何跨噪聲的多樣性），單獨使用注意力分離會有效果嗎？
按照直覺，單時間步下所有方格的噪聲等級相同，也沒有不同噪聲的資訊可以互動或"增強"，注意力分離似乎應該沒有什麼作用。然而實驗顯示，在單時間步訓練中單獨引入注意力分離之後，IS分數依然從63.86明顯提升到71.62，FID也從26.34改善到25.81。
這又是為什麼？研究團隊提出了一種直覺上相當清晰的解釋：當一張圖片的所有方格被分成兩組，每組只能在內部互相交流時，每一組實際上都只看到了完整圖片的一個局部——就像把一張拼圖分成兩半，每半邊各自獨立進行資訊處理。這兩個"局部視角"，在共享同一個AI模型的參數的情況下，同時被優化，相當於一張圖片在單次訓練中產生了兩個有效的"訓練樣本"，每個樣本看到的是不同的內容子集。
這種效果，和機器學習領域經典的數據增強思路驚人地相似。在圖像識別研究中，有一種叫做CutMix的技術，會把不同圖片的區域拼在一起，強迫AI學會從局部線索推斷整體；有一種叫做MAE（Masked Autoencoder，遮蔽式自編碼器）的訓練方法，會隨機遮住圖片的部分區域，讓AI學會用剩餘部分推斷被遮住的內容。注意力分離的效果與這些方法的核心邏輯高度相通：通過限制AI每次看到的"完整資訊量"，迫使它學會從局部視角重建完整圖片的語義。
於是，這篇研究得出了一個統一的結論：雙時間步調度，是沿著"噪聲維度"的數據增強——同一張圖片在更多樣的噪聲狀態下呈現，擴充了訓練數據在噪聲層面的分布；注意力分離，是沿著"視角維度"的數據增強——同一張圖片被切分為多個局部視角，擴充了訓練數據在內容覆蓋層面的分布。兩者從不同角度發揮了類似的作用。
三、細節調校：遮蓋比例的平衡之道
研究團隊還對注意力分離中一個重要參數進行了細緻的調查：遮蓋比例，也就是被分配到不同噪聲等級組的方格各占多大比例。用字母α來表示，α = 0.25代表把圖片的方格分成25%和75%兩組，α = 0.50代表各占一半。
實驗揭示了一個有趣的規律。當使用全局注意力（不做注意力分離）時，不管遮蓋比例怎麼變化——0.25、0.35還是0.50——雙時間步訓練都能穩定地優於單時間步基線。這與數據增強的解釋高度吻合：只要圖片在不同噪聲狀態下被展示，模型就能受益，比例的微調不會破壞這個基本效果，因為全局注意力保證了每個方格仍然能看到完整圖片的全局資訊。
然而，一旦引入注意力分離，遮蓋比例的影響就變得顯著。α = 0.25時效果最好，IS高達72.94；但α = 0.50時，FID急劇惡化到38.19，比什麼都不做還要差很多。原因在於一個關鍵的"訓練與推理的不一致性"：在訓練時，注意力分離讓每組方格只能看到圖片的局部（當α = 0.50時，兩組各只有一半圖片的資訊）；但在實際使用（推理）時，AI模型恢復為正常的全局注意力，每個方格都能看到完整圖片。當訓練時的局部視角與推理時的全局視角差距過大，AI就會產生類似"訓練考的是小範圍，考試考的是大綱全集"的困惑，性能大幅下滑。
為了緩解這個問題，研究團隊提出了一個簡單有效的補救方案：混合訓練。在每個訓練批次中，把25%的樣本仍然按照正常的單時間步、全局注意力方式訓練，只有剩餘75%的樣本使用雙時間步加注意力分離。這樣，AI在每次學習時都有一部分機會接觸到推理階段會遇到的"正常全局視角"，有效彌合了訓練與推理之間的差距。實驗驗證，在α = 0.50的情況下，加入混合訓練後，800K步時的FID從災難性的38.19直接恢復到了24.15，接近於最優水平。而當α = 0.25時，混合訓練的幫助則相對有限，因為此時25%的方格一組本身覆蓋了圖片的大部分內容，與全局視角的差距並不大，訓練與推理的鴻溝本來就比較小。
四、把所有發現組合起來，看看最終戰績如何
理清了這些機制之後，研究團隊把所有有效的組件組合進一個統一的訓練方案：保留SRA的內部自對齊學習目標（讓AI大腦的早期層向深層學習）；在此基礎上疊加雙時間步調度來做噪聲維度的數據增強；再疊加注意力分離來做視角維度的數據增強；並且設置α = 0.25的遮蓋比例，以避免訓練與推理的嚴重不一致。
在ImageNet 256×256的標準測試場景下，這個方案訓練400萬步之後，FID達到1.44，IS達到315.3。對比來看，不使用任何輔助技術的基礎SiT模型需要訓練700萬步才能達到FID 2.06，IS 270.3；使用SRA的版本400萬步時FID為1.58，IS為311.4；使用Self-Flow的版本400萬步時FID為1.47，IS為305.4。這個最終方案在IS指標上超過了所有自對齊方法，FID也優於SRA和Self-Flow，在整體表現上達到了自對齊方法的最高水平，與使用外部預訓練編碼器（DINOv2）的REPA方法（FID 1.42）也非常接近，差距幾乎可以忽略不計。
在解析度更高的ImageNet 512×512測試場景下，同樣的方案在僅訓練100萬步的情況下，FID達到2.08，與REPA並列為所有方法中的最優，IS達到282.7也是所有方法中最高的，同時優於SRA的2.17和Self-Flow的2.12。而基礎SiT模型需要訓練300萬步才能達到FID 2.62。
這組數字說明，僅靠將現有技術重新理解和重新組合，不增加任何模型複雜度，不引入任何外部工具，就實現了超越已有最優方法的成績。
說到底，這篇研究揭示的是一個頗具哲學意味的問題：當AI的訓練表現提升時，我們真的理解背後的原因嗎？Self-Flow的作者認為，讓清晰方格幫助模糊方格"互相啟發"是關鍵；但香港科技大學等機構的這支團隊用一個簡單而精妙的實驗，證明切斷互動之後性能反而上升，說明最初的解釋並不完整。真正起作用的，是讓AI在訓練中見識到了更多樣、更豐富的數據狀態——無論是同一張圖片在不同噪聲程度下的呈現，還是把圖片切分為不同局部視角分別學習。
這對整個AI圖像生成領域的意義在於：與其耗費大量資源去設計複雜的互動機制，有時候更簡單的數據多樣化手段就能帶來可觀的收益。訓練AI模型有點像培養一個廚師學徒——見多識廣，往往比精心設計的"互助合作"更有效。當然，這並不意味著互動機制完全無用，只是說明在這個具體場景下，數據的多樣性才是主導因素。
這項研究提出的方法完全基於模型自身，不依賴任何外部預訓練編碼器，意味著它在沒有強大外部工具輔助的場景下也能高效運作，這對於資源有限或需要處理全新數據領域（缺乏現成預訓練編碼器）的研究者尤其有參考價值。更重要的是，它為後續研究提供了一個重要的方法論提示：在聲稱"某種機制"起作用之前，務必設計受控實驗來隔離各個因素，避免將數據層面的效果誤解為學習機制層面的突破。
對這篇研究感興趣的讀者，可以通過arXiv編號2607.02508查閱完整論文，該研究附帶的代碼也已在GitHub上公開，方便技術人員復現和深入研究。
Q&A
Q1：Self-Flow的雙時間步調度是什麼意思？
A：雙時間步調度是Self-Flow方法中的核心設計，指把同一張圖片的不同小塊（token）添加不同程度的噪聲進行訓練，有些小塊非常模糊，有些相對清晰，讓它們共存於同一次訓練中。Self-Flow原本認為這樣清晰小塊能幫助模糊小塊"推斷"正確內容，但這篇論文的實驗證明，真正的好處其實是讓模型見識了更多樣的噪聲狀態，屬於數據增強效果。
Q2：注意力分離為什麼在遮蓋比例50%時效果會變差？
A：當注意力分離把圖片方塊各切一半（α=0.50）時，每組小塊只能看到圖片一半的資訊。訓練時AI習慣於從局部視角處理圖片，但實際使用（推理）時，AI恢復為正常的全局注意力，能看到完整圖片。這種訓練和使用時的巨大差距讓AI產生"水土不服"，導致性能大幅下降。加入一部分正常全圖訓練樣本（混合訓練）可以有效緩解這個問題。
Q3：SRA、Self-Flow和這篇論文的方法有什麼實際區別？
A：三者都屬於不依賴外部工具的自對齊訓練方法。SRA讓AI內部早期層向深層學習，但每次訓練整張圖片只有一個統一的噪聲等級。Self-Flow在此基礎上引入雙時間步，讓同一張圖片的不同部分同時處於不同噪聲等級。這篇論文的方法在Self-Flow基礎上進一步加入注意力分離，阻斷不同噪聲等級小塊的交流，將兩者都理解為數據增強手段，最終在多數指標上超過了SRA和Self-Flow。
