2026年9月的某一天，一群研究者盯著螢幕上的曲線圖發呆。
他們讓四個最先進的AI智能體，包括Claude、GPT-5.5、Kimi K2.7和Gemini，去解一道開放性編程題：把幾千個形狀不規則的多邊形塞進一個儘可能小的矩形里。這些智能體獲得了極其慷慨的預算，最多可以消耗一億個token去思考、嘗試、修改。
按理說，思考得越久，答案應該越好。這是大家對AI的基本預期，也是這幾年"測試時擴展
"這個概念火起來的原因，你給模型更多時間琢磨，它就該表現得更強。但研究者發現了一件讓人不安的事：這些智能體在花掉幾百萬token之後，進步速度居然開始追不上一個極其簡單的笨辦法，就是讓模型獨立地把同一道題做很多遍，然後挑最好的一次交上去。
更扎心的是對比組。同樣這道題（AtCoder編程競賽的歷史題目），換成真人高手來做，他們在連續奮戰好幾天之後，進步速度不但沒有變慢，反而越來越快，最終反超了跑了三天的AI智能體。
這篇來自UC Berkeley、華盛頓大學、普林斯頓大學和Bespoke實驗室聯合團隊的論文，就是想搞清楚一件事：AI智能體花的每一個token，到底值不值。
一把統一的尺子
要回答"值不值"，首先得有個辦法去衡量"進步"這件事。
這比聽起來難。市面上很多AI能力測試是一錘子買賣，比如著名的SWE-bench代碼修復基準，你提交一個答案，系統告訴你對或錯，然後這條軌跡就被扔掉了，你壓根看不到這個答案是怎麼一步步演化出來的。
但研究者選擇了另一類任務：開放性任務。比如把圓儘可能緊密地塞進一個正方形，比如優化GPU核心的運行速度，比如設計一套算法在編程競賽里拿高分。這類任務的好處是，每一次中間提交都能拿到一個具體分數，進步過程是能被實時觀察到的。
問題在於，分數本身是個坑。舉個例子，26個圓在單位正方形里打包的問題，把總分從1提高到2輕而易舉，但著名AI程序AlphaEvolve把這個分數從2.634提高到2.635，就已經是刷新世界紀錄了。同樣是"分數漲了一點點"，在不同區間裡的含金量天差地別。
如果只用地圖上的公里數來衡量登山難度，你會覺得爬10公里的山比爬5公里的山難一倍。但如果這10公里全是緩坡，5公里全是懸崖峭壁，實際的辛苦程度完全反過來了。分數也是這樣，同樣的數字增量，在不同的位置代表的實際進步可能天差地別。如果沒有一把統一的尺子，你壓根沒法比較"從80分到81分"和"從50分到60分"哪個更難。
於是研究者搬出了一個誕生於1952年的老工具：Bradley-Terry模型。
Bradley-Terry模型*：一種通過兩兩對比結果來估算每個參與者"實力值"的統計模型，西洋棋等級分（Elo）系統就是它的一個經典應用。
具體做法是，把每個智能體在每個token預算下"目前為止找到的最好答案"拎出來，兩兩PK，誰的分數高誰贏，然後用這些勝負記錄去擬合出一個Elo等級分。這樣一來，無論原始分數的單位是什麼、區間是什麼，最後大家都在同一套等級分體系里比較，就像圍棋高手和象棋高手雖然玩的是不同的遊戲，但都能用一個"段位"來大致衡量水平一樣。
研究者把這套方法命名為Elo-per-token，token每花一份，就看等級分漲了多少。
獨立採樣：一根看不見的標尺
要判斷智能體的進步是快是慢，還得有個參照物。這裡出現了整篇論文裡最優雅的一個數學結果。
研究者證明了一件事：如果你把同一個問題獨立解答n次，每次都是完全獨立、互不參考的嘗試，然後取最好的一次，那麼這個"最佳成績"的Elo等級分，會隨著嘗試次數的對數呈嚴格線性增長。用具體數字說，token預算每擴大10倍（一個數量級），Elo大約漲400分。這是一條完全由概率論推導出來的直線，不依賴任何具體任務，因為背後的邏輯很簡單：n次嘗試中最好的一次，本質上就是在n個隨機變量里取最大值，這個統計規律不管你解的是什麼題目都成立。
這條線被稱為獨立採樣參考線，它的價值不在於告訴你哪個方法最好，而在於給出一個"及格線"：如果一個智能體的自我進步速度追不上這條參考線，那說明它精心設計的思考、修改、探索的策略，實際上還不如簡單粗暴地"重啟十次挑最好的"來得划算。
想像一下開車去一個陌生的地方，你可以選擇沿著一條路一直開下去，邊開邊看路牌調整方向（這類似智能體不斷修改自己的方案），也可以選擇每次都重新出發，換一條完全不同的路試試運氣（這類似獨立採樣）。如果你沿著同一條路開得越久，反而越繞遠路，那還不如乾脆掉頭重新出發。獨立採樣參考線告訴你的，正是"沿著這條路繼續開"到底還值不值。
智能體的表現：先超車，後掉隊
有了尺子和參照線，研究者在FrontierCS、ALE-Bench、MLS-Bench、FlashInfer-Bench四個開放性基準上，測試了四個智能體系統，每個任務跑五次獨立會話，token預算一路加到一億。
結果出奇地一致：在預算比較小的時候，很多智能體的表現能明顯超過400 Elo每十倍這條參考線，這說明智能體調用工具、修改代碼、利用環境反饋的策略，確實比盲目重來更聰明，能更快地把token轉化成分數。但隨著預算繼續增加，幾乎所有系統的邊際收益都開始下滑，到了預算末期，大多數曲線的斜率已經低於參考線。
論文裡有個說法特別精準，叫作最多對數線性。也就是說，智能體的進步曲線在對數坐標下最好情況下是一條直線，更常見的情況是往下彎曲，呈現出凹形。這意味著，隨著token越花越多，每一塊錢（每一個token）能買到的進步是遞減的，而且這個遞減速度，比"完全不動腦子地重複嘗試"還要快。
研究者把這個由盛轉衰的臨界點稱為規模拐點。在這個點之前，繼續投入深度（也就是讓同一個會話繼續跑下去）是划算的；過了這個點，把預算分給新的獨立會話反而更划算。這個拐點會隨系統和任務不同而變化，但在四個基準里反覆出現，幾乎成了一種普遍規律。
人類為什麼不掉隊
論文裡最讓人意外的部分，是關於人類的對照實驗。
研究者找到了AtCoder編程競賽（一種日本主辦的全球性算法設計比賽）的歷史submission記錄，這些比賽通常持續10到14天，選手可以反覆提交、反覆優化自己的解法。研究者把前10名和前50名選手的完整提交歷史扒出來，用同一套Elo-per-token框架去衡量他們的進步曲線，只不過橫軸從token預算換成了實際花費的時間。
結果是，人類選手的進步曲線呈現出超線性增長，也就是在對數時間坐標下是向上凸的形狀，越往後，每一次時間翻倍帶來的分數提升反而越大。這和智能體的表現正好相反。
在AHC014這道題目上，研究者做了一次最直接的對比：讓GPT-5.6-Sol和Claude Opus 4.8跑滿72小時的會話，同時把真實歷史選手的進度也畫在同一張圖上。智能體在最初幾個小時進步飛快，但很快就趨於平緩，幾乎不再有明顯起色。而人類選手在接下來的好幾天裡持續爬升，最終前十名選手的等級分反超了兩個智能體。
這個結果在AHC038、AHC040等另外三個競賽題目上得到了重複驗證，四場比賽里人類選手都表現出類似的加速進步模式。
這背後可能藏著一件很樸素的事：人類在一道題上泡得越久，理解得越深，腦子裡積累的直覺和洞察會形成複利效應，後面的進步會越來越輕鬆。這就像學一門樂器，前幾周進步很慢，但一旦你的手指記住了指法、耳朵訓練出了音感，之後每一小時的練習帶來的提升會比剛開始快得多。而現在的AI智能體，即便擁有幾乎無限的上下文和不知疲倦的運算能力，卻好像缺了這種"越學越輕鬆"的機制，它更像是在原地反覆試探，而不是真正地把經驗內化成能力。
換個角度，這也印證了論文標題里的那句話：當智能體慢下來的時候，人類還沒有慢下來。
換個思路能否破局
研究者沒有止步於"發現問題"，他們還測試了幾種專門為了突破這個瓶頸而設計的策略，看看能不能改變智能體那條向下彎曲的曲線形狀。
第一類是進化式方法。AdaEvolve維護一批候選程序，讓模型不斷變異出新版本；GEPA則是進化提示詞本身，從執行痕跡和反思中提煉改進。這兩種方法本質上是把"思考"從單一會話拆解成多次短小精悍的獨立嘗試，理論上應該更接近獨立採樣的優勢。
實驗結果顯示，這兩種方法確實在預算較小時領先普通智能體三百多個Elo分，但同樣的故事重演了：隨著計算量增加，它們的優勢逐漸被追平，最終也沒能擺脫對數線性甚至更慢的增長模式。
第二類是測試時訓練，也就是讓模型在解題過程中實際更新自己的參數，而不只是積累上下文。研究者用TTT-Discover方法，對一個200億參數的開源模型做強化學習式的在線微調。結果同樣令人失望，這種方法確實在早期跑出了一段明顯超越參考線的加速期，但最終斜率還是滑回了400 Elo每十倍這條基準線附近。
三種完全不同思路的策略，殊途同歸地撞上了同一堵牆。這說明問題可能不在於智能體的具體實現方式，而在於某種更根本的東西。
粘性盆地：一個數學上的解釋
論文提出了一個假說，叫作粘性盆地假說，試圖解釋為什麼智能體的進步會系統性地放緩。
粘性盆地*：指智能體在解題早期選定的某種思路、代碼結構或算法方向，一旦確定就很難被推翻，後續的大量計算只能在這個既定方向內部打磨細節，而無法跳出去重新審視最初的選擇。
研究者用一個簡化的數學模型證明了這個直覺：假設每次會話開始時，會隨機選定一個"盆地"（可以理解成一種解題思路），盆地內部的最優表現服從某種分布，會話只能在盆地內部反覆採樣尋找最優解。即便盆地內部的提升是無上限的，只要兩個盆地的初始差異存在，那麼無論你把其中一個會話的深度延長多少倍（哪怕延長十倍、百倍），另一個會話反超它的概率始終會穩定在50%。這是個純粹的數學結果，背後的直覺是，盆地內搜索的收益增長速度是對數的對數，慢到幾乎可以忽略，而兩個盆地之間天生的差距是固定的常數級別，深度優勢追不上初始選擇的差距。
打個比方，你去一家陌生的城市找餐廳，第一頓飯隨手走進了一家看著還行的館子，接下來這一周你都在這家館子裡反覆點不同的菜，越點越懂這家店的招牌是什麼、哪道菜做得最好。但無論你在這家店裡吃得多精，都不會比一開始就走進了這座城市裡排名第一的米其林餐廳的人吃得更好。真正決定上限的，是第一步走進哪家店的門，而不是在店裡吃了多少頓。
如果這個假說成立，它給出的啟示是雙重的：一方面，那些解法空間裡存在很多個"看起來都還不錯的盆地"的開放性問題，天生就很難靠單條長會話把它優化到極致；另一方面，真正能突破這個瓶頸的智能體設計，恐怕需要有意識地設計出能夠跳出盆地、推翻早期選擇、重新審視全局的機制，而不是一味地在已選方向上深挖。
拐點的實際用途：分配預算
理論講完了，論文最後落地到一個非常實用的問題：給定一億token的固定預算，到底應該跑一個超長會話，還是拆成好多個短會話？
研究者給出了一個基於拐點的分配規則。假設通過前期測量，已經知道某個智能體在某個任務上的規模拐點出現在38M token（三千八百萬），那麼面對1億token的總預算，最優策略是分成?100M/38M?等於3個獨立會話，各跑33M多token。
他們在FrontierCS的多邊形打包任務上真刀真槍地驗證了這個規則。用Kimi Code跑出單會話的自我Elo曲線，測得拐點確實落在38M附近。然後對比了1、2、3、4、5、10個會話的六種分配方案，在1億token總預算下，三會話方案的Elo等級分比單一長會話高出264分，比十個短會話高出355分。在MLS-Bench的另一個任務上，同樣的拐點分配策略也跑贏了兩個極端方案。
這個結果本身有嚴格的數學支撐。論文證明了兩個定理：一個是說，過了拐點之後繼續延長同一個會話，理論上漸進意義下會輸給"凍結當前狀態後獨立重複採樣"；另一個是說，把預算拆成K個獨立會話、每個跑到拐點預算，能獲得400乘以log10(K)的Elo增益，恰好延續了獨立採樣那條參考斜率，同時還保留了每個會話在拐點之前積累的進步。兩個定理合起來，構成了一套完整的"何時該繼續想，何時該換個腦子重新想"的理論依據。
這就像團隊做一個項目，如果一個人埋頭苦幹十天，效果可能不如三個人各自獨立干三天多。因為一個人在自己固有思路里越陷越深的時候，另外兩個人是從零開始、帶著新鮮眼光切入的，反而更容易發現被忽略的角度。但如果切分得太碎，比如變成十個人各干一天，每個人連問題還沒摸透就得交卷，反而效果更差。拐點分配規則實際上就是在尋找這個"既不要一條路走到黑，也不要淺嘗輒止"的平衡點。
不過研究者也坦誠地指出了這套方法目前的局限：拐點的位置似乎是任務特有的，不能簡單地從整個領域的平均曲線去預測某一道具體題目的拐點。論文裡舉了個例子，Kimi K2.7在FrontierCS整個領域上擬合出的斜率轉折點，和多邊形打包這一道具體題目的38M拐點對不上號。怎麼在不跑完整條曲線的情況下，提前預測出某道題的拐點在哪裡，還是一個懸而未決的問題。
寫在後面
讀完這篇論文，最觸動我的不是某個具體的數字，而是那個粘性盆地的數學證明。它用一種近乎冷酷的方式告訴你，深度優勢的增長速度是根號對數級別的，慢到無論你怎麼加錢加時間都追不上初始選擇帶來的固定差距。這意味著單純堆算力去彌補"起點沒選好"這件事，可能天生就是一件收益遞減到幾乎為零的事情。
論文裡還有一個細節讓我反覆琢磨。研究者測試了四種不同參數規模的Qwen3.5模型，發現更大的模型確實起點更高，但爬升的坡度反而更平緩，397B參數模型的斜率是178 Elo每十倍，比27B模型的206還要低。規模買到的是更早的天花板，而不是更陡的爬升曲線。這多少有點反直覺，因為我們通常默認"更大的模型應該在各個維度上都更強"，但這個實驗提示我們，規模和自我改進速度可能是兩件需要分開衡量的事情。
還有一點值得單獨說說，論文選擇用AtCoder這個平台的歷史真人數據來做對照，而不是隨便找幾個志願者現場測試，這個選擇本身就很講究。因為AtCoder的比賽記錄帶著完整的時間戳和分數，研究者甚至專門做了一道篩選工序，剔除掉那些採用相對計分制、導致歷史分數會隨時間失真的比賽，只保留能用同一把尺子公平衡量的絕對計分制比賽。這種對數據可信度的較真，是這篇論文讓人願意相信其結論的一個重要原因。
如果智能體真的缺乏某種類似人類的持續學習機制，那麼下一步的突破點，或許不在於給模型更多的token和更長的上下文窗口，而在於設計出某種能讓模型"跳出盆地重新審視"的機制。這會是什麼樣子，是某種主動的自我懷疑機制，還是某種周期性地推翻重來的設計，現在還沒有答案。
Q&A
Q1：Elo-per-token分析是什麼？
A：這是論文提出的一種評測方法，把智能體在每個token預算下找到的最佳答案兩兩比較，用Bradley-Terry模型擬合出Elo等級分，從而讓不同任務、不同分數體系的進步可以在同一把尺子上比較。
Q2：為什麼AI智能體花越多token反而進步變慢？
A：論文提出粘性盆地假說，認為智能體在早期會鎖定某種解題思路，之後的計算大多只能在這個思路內部打磨，很難跳出去重新選擇方向，導致邊際收益遞減，最終甚至跑輸簡單的獨立重複採樣策略。
Q3：規模拐點如何用來分配計算預算？
A：規模拐點是智能體自我進步速度追不上獨立採樣參考線的臨界預算點。論文證明把總預算按拐點切成若干個獨立會話，比一個超長會話或者切得過碎的多個短會話效果都更好，在實驗中帶來了264到355個Elo分的提升。
