這項由多倫多大學、向量研究所聯合卡內基梅隆大學、普林斯頓大學、伊利諾伊大學厄巴納-香檳分校、圖賓根ELLIS研究所以及馬克斯·普朗克智能系統研究所的研究團隊共同完成的工作，於2026年6月發表在arXiv預印本平台，論文編號為arXiv:2606.25178。對這一方向感興趣的讀者可以通過該編號直接檢索原文。
---
從一道有趣的問題說起：如果你是一位家庭教師，手頭只有有限的時間，需要同時幫助一個學生提高數學、編程、邏輯、科學、閱讀表格和模擬推理六門課的成績，你會怎麼分配上課時間？平均分配固然公平，但那未必聰明。也許某一門課的進步會帶動其他課的提升，也許死盯某一門高分課反而耽誤了整體發展。這個問題，正是這篇論文要回答的核心挑戰——只不過這裡的"學生"是一個人工智慧大語言模型，而"老師"是一套被稱為"遷移感知課程"（Transfer-Aware Curriculum，簡稱TAC）的自動訓練調度系統。
---
一、為什麼讓AI同時學多門課這麼難
現代大語言模型的訓練，早已不只是讓它學數學了。研究人員希望訓練出一個"全科優等生"——既能解方程、寫代碼，也能處理邏輯謎題、閱讀科學文獻、分析複雜表格，甚至模擬程序運行結果。這聽起來很美好，但實操起來問題重重。
研究團隊做了一個關鍵實驗：他們分別用六個不同領域的題目單獨訓練模型，然後觀察每個領域的訓練對其他五個領域成績的影響。結果非常有意思，可以把它想像成一張"學科相互幫助"的地圖。用表格類題目訓練的模型，其模擬推理能力提升了14.6個百分點；而用數學題訓練的模型，同樣的模擬推理能力只提升了5個百分點。換句話說，不同科目之間的"知識遷移"能力差異巨大——有些課學了能帶動一片，有些課學了只能顧好自己那一畝三分地。
這就帶出了一個很自然的問題：在有限的訓練時間裡，應該優先讓模型練哪個領域的題？過去的研究通常給出兩種答案：要麼按比例隨機抽取各領域的題目（隨機均勻策略），要麼依據"這個領域現在學得怎麼樣"來決定多練還是少練。後者聽起來很合理，類似於"哪門課進步空間大就多學哪門"。但這兩種方法都有一個共同的盲點——它們都沒有考慮"學這門課，會不會順帶幫到其他課"。
---
二、一個關鍵的區分：正在進步的領域 vs. 帶動全局的領域
研究團隊的核心洞察是：一個領域"當前容易學"和"學了對整體有好處"，是兩件完全不同的事。
以這項研究的數據為例，數學是AI領域最常被訓練的科目，模型在數學上的進步也確實可以量化——所以單從"進步空間"的角度來看，數學始終是一個"值得多練"的選項。然而，團隊發現數學訓練產生的梯度方向（可以理解為"學習這道題時大腦神經網路調整的方向"）與其他五個領域的調整方向幾乎不一致，有時甚至方向相反。這意味著，拼命練數學雖然提高了數學分，但對提升邏輯、表格、科學等方向的幫助微乎其微，甚至可能稍有干擾。
相比之下，表格推理這個領域的訓練梯度方向，與模擬推理、科學推理、邏輯推理這三個領域的梯度方向高度一致——也就是說，練表格題的時候，模型神經網路的調整方式同時也對這三個領域有利，一舉多得。研究團隊將這種"訓練一個領域對其他領域也有好處"的性質稱為"跨領域遷移性"。
這就引出了TAC的核心設計哲學：在決定"現在該練哪個領域的題"時，不光要看這個領域"現在能讓模型有多大進步"，還要看這個領域的訓練"能不能順帶幫助其他領域"。前者叫做"可學性"，後者叫做"遷移性"，TAC把這兩個信號結合在一起，共同決定每一步訓練的重心。
---
三、TAC是怎麼工作的：一個自適應調度員
為了直觀理解TAC的運作方式，可以把它比作一位聰明的職業教練，負責安排一支六人隊伍（六個訓練領域）的日常練習計劃。這位教練每天都會觀察每個隊員的狀態，並且評估"今天讓張三多練，是否會順帶幫到李四和王五"，然後據此分配每個人的練習時間。
TAC在技術上採用了一種被稱為"多臂老虎機"的決策框架。這個名字來源於賭場裡那種同時有多個拉杆的老虎機——玩家需要決定每次拉哪個拉杆，以獲得最多獎勵。TAC的"拉杆"就是六個訓練領域，"獎勵"就是訓練效果。每一步訓練，TAC都從六個領域中選一個來練，然後根據實際效果更新自己對這六個領域的"價值評估"，再決定下一步練哪個。
TAC計算每個領域的"綜合得分"，這個得分由兩部分加權合成。第一部分是"可學性"信號：通過觀察模型在這個領域做題時，回答對了多少道、答錯了多少道，判斷當前該領域是否處於"進步區間"。如果一個領域的題目模型全會做，或者全不會做，這個領域的可學性就很低——前者說明已經掌握，後者說明完全超出能力範圍，兩種情況都不適合此刻重點訓練。當答對和答錯的題目數量接近均等時，可學性最高，意味著正在從"不會"向"會"過渡，是最佳學習時機。
第二部分是"遷移性"信號，這是TAC真正的創新所在。每次訓練某個領域時，模型內部會產生一個"梯度向量"（可以理解為這次學習讓神經網路調整的方向和幅度）。TAC把這個向量投影到一個低維空間裡（類似於把一個複雜的三維物體投影成一個簡化的二維輪廓，保留主要特徵但大幅壓縮計算量），並為每個領域維護一個隨時間更新的"方向積累值"。每隔兩步訓練，TAC就計算一次六個領域之間的"方向相似度"——如果A領域和B、C、D領域的梯度方向很接近，就說明訓練A能順帶幫到B、C、D，A的遷移性就高。TAC利用這個相似度來更新每個領域的遷移性評分，並通過歸一化處理，確保比較的是"相對誰更好"，而非絕對數值。
整個計算過程幾乎不額外增加訓練時間，實測發現TAC的額外開銷不到整體訓練時間的1%，在實用性上完全可以忽略不計。
---
四、TAC的細節設計：讓系統既靈活又穩定
一個好的調度系統不只需要正確的策略，還需要各種穩定運行的工程設計。TAC在細節上做了相當多的考量。
首先是"探索與利用"的平衡問題。如果TAC一直選綜合得分最高的領域，那麼得分稍低的領域會長時間沒有訓練，其"價值評估"就會越來越陳舊，最終失去參考意義。TAC採用了一種帶有"探索獎勵"的選擇機制——那些很久沒被選到的領域會自動獲得額外加分，以確保所有領域都定期被訓練到。這就像一位教練會定期給板凳球員上場機會，防止他們的狀態因為缺乏實戰而退步。
其次是訓練數據用完怎麼辦。當某個領域的題目庫被抽完時，TAC會把這個庫重新洗牌，繼續從頭抽取，而不是切換到其他領域。這樣做保證了評分高的領域可以被重複練習，同時也不會把任何領域的數據永久擱置。
再次是"雙階段更新"機制。傳統的老虎機策略只更新被選中的那個"拉杆"的得分。但TAC的遷移性信號是針對所有領域同時計算的——每次計算完遷移性，所有領域的評分都應該更新，而不只是被選中的那個。因此TAC在每次選中某個領域後立即更新它，並且每隔兩步，順帶用最新的遷移性得分更新其餘所有領域的評分（其可學性得分則沿用上次被選中時的緩存值）。這相當於每個領域都會定期"被動"地收到關於自身價值的最新資訊，而不必等到被選中才更新。
最後是開始階段的"熱身"設計。訓練剛開始時，TAC還沒有積累足夠的資訊來判斷哪個領域更有價值，貿然依賴不成熟的評估反而會偏頗。於是TAC在每個訓練輪次開始時，先強制執行五輪"輪流上課"——六個領域各訓練一次，順序隨機打亂，確保每個領域都有足夠的初始數據，讓後續的可學性和遷移性評估更可靠。
---
五、真實效果：數字背後的故事
研究團隊在兩個不同規模的語言模型上驗證了TAC的效果：一個是阿里巴巴開發的Qwen3-1.7B基礎模型，另一個是Meta開發的Llama3.2-3B指令模型。他們用14個專業測試集覆蓋六個領域，對比了四種方法：不做任何強化學習訓練的原始模型、隨機均勻採樣、人工設計的"先數學後其他"兩階段課程，以及只看可學性不看遷移性的先前最優方法SEC。
在Qwen3-1.7B上，TAC的綜合平均正確率達到33.9%，比隨機均勻採樣高出2.1個百分點，比單看可學性的SEC高出1.8個百分點。在Llama3.2-3B上，TAC達到31.3%，比隨機均勻採樣高出2.1個百分點，比人工設計課程高出1.6個百分點。這些數字看起來不大，但在14個測試集的綜合平均上穩定提升2個百分點左右，在AI訓練領域已經是相當顯著的系統性改進，相當於10%的相對提升幅度。
具體到各個領域，TAC的改進尤為明顯的是邏輯推理（斑馬謎題測試上比隨機策略高出近10個百分點）、數學（在Llama模型的MATH-500測試上比隨機策略高出5個百分點）、以及表格推理（FinQA測試上在Llama模型上比隨機策略高出7.5個百分點）。科學推理（GPQA）也在Qwen模型上提升了約2個百分點。唯一TAC沒有明顯優勢的是模擬推理領域的部分測試集（CodeI/O和CruxEval-O），研究團隊認為這是因為該領域的可學性和遷移性信號本身就比較平穩，調度策略的槓桿作用有限。
更值得關注的是各方法的穩定性差異。SEC在Qwen模型上表現尚可，但在Llama模型上反而比隨機均勻採樣還差0.7個百分點，方差也最大，說明單靠可學性來調度存在較大的運氣成分——碰巧哪個領域在開頭階段可學性最高，策略就會被"鎖定"在那裡，而這個判斷在不同模型上並不一致。TAC通過加入遷移性這個"全局視角"有效避免了這種情況。
---
六、訓練過程中發生了什麼：一場動態的資源博弈
研究團隊對訓練過程進行了詳細的動態追蹤，記錄了每個領域在每個訓練步驟被選中的概率變化，以及可學性和遷移性評分的實時演化，結果相當耐人尋味。
在訓練的前30步，TAC和SEC的行為幾乎一樣——都在探索各個領域，沒有明顯偏好。從第30步到第50步之間，科學推理（STEM）領域的可學性突然飆升，這是因為模型此時正處於從"幾乎全錯"向"部分答對"的過渡階段，學習信號非常強。SEC感知到這個信號後，迅速將大量訓練資源集中到科學推理領域。到第60步時，科學推理占據了SEC將近一半的訓練時間，並且此後一直維持主導地位。
TAC同樣感知到了科學推理的高可學性，也短暫增加了對它的投入，但與此同時，遷移性信號發出了不同的聲音——表格推理領域的梯度方向開始與其他多個領域高度對齊，其遷移性評分逐漸攀升至六個領域中的最高位。於是TAC在短暫傾向科學推理後，逐漸將資源重新分配給表格推理，後者在訓練末期占據了最大的訓練份額。邏輯推理領域也受益於類似的遷移性優勢，獲得了比隨機策略更多的訓練時間。
與此同時，數學和代碼生成領域的遷移性評分始終處於六個領域中的末位——它們的梯度方向與其他領域普遍不一致，有時甚至相反。TAC因此給這兩個領域分配了最少的訓練時間。研究團隊認為這背後有一個很自然的解釋：Qwen3這類基礎模型在預訓練階段已經消化了海量數學和代碼數據，數學和代碼能力早已相當成熟。繼續在強化學習階段大量練習這兩個領域，相當於反覆打磨一個已經很鋒利的刃口，收益遞減，而且這種"打磨數學的動作"和"打磨邏輯思維的動作"之間幾乎沒有共同之處——所以數學的梯度方向孤立於其他領域之外，遷移性自然低。
從驗證集的準確率曲線來看，TAC、SEC和隨機策略在前40步幾乎重疊。從第40步開始，TAC逐漸拉開差距，SEC則基本緊貼隨機策略線，沒有明顯優勢。這條曲線清晰地說明：單憑老虎機的決策機制本身並不能帶來改進，關鍵在於給老虎機提供什麼樣的反饋信號——只有遷移性信號的加入，才讓智能調度真正發揮了作用。
---
七、不均衡數據下的壓力測試
現實中的訓練數據往往不是均衡的。數學和科學類題庫通常遠比邏輯、表格類題庫龐大，如果按原始數據量訓練，數學和科學會主導整個訓練過程，其他領域幾乎沒有發聲機會。
研究團隊專門設計了一組不均衡數據實驗：數學和科學各有1500道題，模擬推理和表格各只有500道題，其餘領域保持1000道題。在這種情況下，TAC的綜合準確率達到32.7%，比隨機策略高1.9個百分點，比SEC高1.5個百分點，在14個測試集中有11個排名第一。
TAC的優勢在不均衡場景下甚至更加突出。原因不難理解：當數學和科學的數據量是表格和模擬推理的三倍時，初始調度自然傾向於數學和科學。SEC只看可學性，一旦數學和科學的可學性信號（因為數據多、被抽到多、信號也穩定）占據主導，就很難給小領域留出空間。而TAC的遷移性信號發現，一旦數學和科學的梯度方向對其他領域貢獻趨於飽和，就會主動釋放資源給表格和模擬推理這類"高遷移性"的領域，從而避免了資源向大領域的過度集中。
---
八、系統有多靈活：超參數穩定性分析
一個好用的系統不能"特別嬌氣"——如果只在某個精確的參數設置下才表現最好，稍有偏差就急劇退化，那麼實際應用價值就會大打折扣。研究團隊對TAC的三個關鍵參數進行了系統性測試。
最重要的參數是可學性和遷移性的混合比例β。當β=1時，TAC退化為純粹的可學性策略，等價於SEC；當β=0時，TAC退化為純粹的遷移性策略。實驗發現β=0.2時效果最好，說明遷移性應該占主導地位（80%的權重），但可學性的貢獻也不可或缺。當β從0.2升至1時，性能急劇下降，再次印證了遷移性信號的核心價值；而β=0的純遷移性策略也比β=1略差，說明兩者結合才是最優解。
老虎機學習率α控制每次訓練後評分更新的速度。α=0.3時效果最好，更小的值更新太慢（強化學習階段梯度結構變化很快，太慢跟不上），更大的值引入過多隨機噪聲。用於計算遷移性的梯度投影層數N的影響最小——即使只取最後一兩層，效果也與取全部層相當，說明後幾層神經網路確實承載了絕大部分的領域間對齊資訊。
此外，研究團隊還在更大範圍內測試了TAC的擴展性，包括Qwen3-0.6B和Qwen3-4B兩個規模的模型。在最小的0.6B模型上，TAC比隨機策略高3.5個百分點；在4B模型上，TAC比隨機策略高2.2個百分點。無論模型規模變大還是變小，TAC的改進都穩定存在，說明這套方法並不依賴特定的模型規模，具有普遍適用性。
---
說到底，這項研究回答了一個既簡單又深刻的問題：在有限的時間裡，讓AI同時變聰明，應該怎麼安排"課表"？答案並不是平均分配，也不是只盯著"當前進步最快"的科目，而是要優先那些"學了能帶動一片"的科目。表格推理不是最耀眼的領域，但它的訓練效果會悄悄滲透進邏輯、科學和模擬推理；數學很重要，但在已經足夠強大的基礎上繼續大量投入，產出的收益正在迅速邊際遞減，反而擠占了其他領域的成長空間。
這個發現對AI行業的實際訓練實踐有直接的參考價值。未來的大模型訓練不應該只是簡單地堆數據、隨機採樣，而是需要在訓練過程中持續監測各領域之間的"知識流動方向"，動態調整資源分配。TAC提供了一套幾乎零成本（不到1%的時間開銷）實現這一目標的方法，且無需額外的標註數據、評估測試集或者任何外部資訊，完全自給自足地從訓練過程本身提取信號。
當然，TAC的局限也很清晰：它只解決了"課表怎麼排"的問題，不涉及"題目怎麼出"或"評分標準怎麼定"的問題。而且目前TAC的測試還局限在有明確對錯判斷的任務上，對於那些需要人類主觀評價的開放性問題（比如寫作質量），這套體系還需要進一步擴展。
如果你對這項研究的完整技術細節感興趣，可以通過arXiv編號2606.25178找到原論文，那裡有更詳盡的數學推導、實驗設置和附錄數據。
---
Q&A
Q1：TAC和普通的隨機多領域訓練相比，到底好在哪裡？
A：普通隨機訓練按固定比例抽取各領域題目，不管當前模型的狀態，也不考慮各領域訓練之間的相互影響。TAC每一步都動態評估兩件事：這個領域現在是否處於模型的最佳學習區間（可學性），以及訓練這個領域是否會順帶幫助其他領域進步（遷移性）。通過將這兩個信號結合起來決定訓練重心，TAC在六個領域的綜合準確率上比隨機策略穩定高出約2個百分點，相當於10%的相對提升。
Q2：TAC為什麼發現數學領域的遷移性低，而表格推理的遷移性高？
A：TAC通過比較各領域訓練時神經網路的"調整方向"來判斷遷移性。數學訓練產生的調整方向與邏輯、表格、科學等領域的調整方向幾乎不一致，原因是Qwen3等基礎模型在預訓練階段已經大量學習了數學和代碼，相關能力已經成熟，強化學習階段的數學訓練只是在"已有技能上反覆打磨"，走的方向跟其他領域差別很大。而表格推理涉及結構化資訊提取和多步推理，這些能力與邏輯、科學推理高度重疊，訓練表格時的"調整方向"自然與這些領域對齊。
Q3：TAC的額外計算開銷大嗎，普通實驗室能用嗎？
A：TAC的額外計算開銷非常小，實測不到整體訓練時間的1%，在配備4塊H100顯卡的單機上，每個訓練步驟僅多耗時約1秒（總步驟耗時約115秒）。核心原因是TAC的梯度投影只針對模型最後幾層參數，且採用隨機投影降維到4096維，計算量極低。論文的全部實驗都在單台4卡H100伺服器上完成，每個訓練運行約7小時，對於有一定算力條件的研究團隊完全可行。
