「AI 之父」又出來發聲警告了，這一次還拉上了一眾行業大佬，對最近熱門的「RSI
」開炮。
這是由劍橋大學人工智慧科學與政策項目 CASP 發布的一份由二十多名研究者共同撰寫的報告，作者包括 OpenAI 首席科學家 Jakub Pachocki、Anthropic 聯合創始人 Jack Clark、微軟首席科學官 Eric Horvitz，以及 Geoffrey Hinton、Yoshua Bengio 和 Dawn Song 等人。
貼心的是，這次劍橋的官方發布還配備了中文版，AI 行業的中國力量，重要性不言而喻。
他們並沒有宣布「智能爆炸」已經發生，而是試圖回答一個過去顯得頗為科幻、如今卻逐漸具體的問題：當越來越多 AI 研發工作交給 AI，技術進步會不會突然開始加速？
報告列舉的數據表明，這條循環的第一部分已經出現。Anthropic 內部由 AI 生成並最終獲批的代碼，占比從 2025 年初的個位數上升到 2026 年 5 月的 80% 以上；僅需人類進行高層監督、主要由 AI 自主完成的研發工作，則從今年 3 月的 1% 上升到 8 月的 26%。
Claude 官方數據披露 AI 已深度參與其自身疊代。圖片來自：Anthropic
OpenAI 表示，代碼 Agent 已經被用於未來模型的訓練、評估和安全工作；Google 也稱，幾乎所有涉及代碼、技術設計和研究構思的工作，都在不同程度上使用 AI。
幾年前，模型只能可靠完成相當於人類數秒鐘的任務。如今，最強的模型已經能夠獨立處理需要專家花費數小時乃至數天的 AI 研發工作。按照近年的增長趨勢外推，報告認為，到 2028 年中，AI 可能有能力承擔原本需要人類專家數月完成的研發項目。
AI 正在接近一個關鍵的臨界點位置：現在已經不是模型一代更比一代強這麼簡單了，AI 開始深度參與製造那個將要替換自己的模型。
遞歸自我改進？幾個意思？
「遞歸自我改進」到底是什麼？想像有一家工廠，專門生產一種機器，但第一台機器造出來以後，卻沒有被送去商店或是用戶手上，而是留在廠里，負責修改生產線。
改造後的生產線造出了性能更好的第二台機器，第二台又回來繼續改造工廠……每循環一次，機器變得更強，生產機器的速度也變得更快。這大概就是 AI 領域討論了數十年的「遞歸自我改進」（recursive self-improvement）。
最近幾家大廠的動作，讓「RSI」這個詞快速出圈。例如 Google Research 最近發布的 RRSI，讓 Agent 自動修改自己的 harness，包括提示詞、工具、記憶、控制流程和上下文管理。
9 月發布的 MetaRSI / RSI² 讓系統從失敗中改進「製造模型的機器」，使以後產生的模型繼承這些改進。
隨著這些案例的出圈，RSI 也遭到誤解，經常被添油加醋地描繪成 AI 突然覺醒、有意識了，讀懂自己的代碼，然後在深夜裡不斷自我升級。
但實際上更可能發生的，是既不需要 AI 擁有意識，也不需要某個模型親手修改自己的參數，只需要讓進入生產下一代 AI 的研發流程里。
一開始，AI 在整個流程里扮演的角色，只是研究員手裡的輔助工具。人類決定研究方向、設計實驗，再讓模型幫助寫代碼、檢索論文和尋找程序錯誤。它確實提高了效率，但整個研發過程仍然由人推動，AI 本身不會決定下一步該做什麼。
很快，AI 開始成為研發流水線的一部分，研究員只需要提出一個較高層的目標，Agent 便能拆解任務、編寫代碼、運行實驗、比較不同方案，再將值得繼續嘗試的方向交給人類確認。
到了這一步，AI 提高的已經不只是某位工程師的工作速度，它開始增加一家公司的「有效研究員數量」。同一個人可以同時調度幾十甚至幾百個 Agent，讓它們沿著不同方向並行試錯，且推理能力完全承受得住。
第三個階段來到真正的遞歸。AI 參與研發出更強、更便宜的下一代模型，新模型隨即被放回研發流程，開始承擔更多任務，同時讓公司能夠運行更多「機器研究員」。研發能力的提高不再是一次性的，它會反過來加快下一輪提高。
這就來到了前面假設的「機器工廠」，真正發生自我改進的，是由模型、Agent、算力和人類研究員組成的整套系統。
一座可能突然加速的工廠
AI 研發尤其容易形成這種循環，因為它主要發生在數字世界。
新晶片完成設計後，還要經過製造、運輸和數據中心建設，反饋周期通常以年計算；但一種更高效的訓練算法、一套更好的合成數據，或者一條經過驗證的 Agent 工作流，可以迅速部署到現有系統，再投入下一輪研發。
報告估算，假如 AI 達到頂尖研究員的能力，而運行成本仍然接近今天，單是 OpenAI 目前擁有的推理算力，理論上便足以支撐相當於數百萬名人類研究員的 AI 隊伍。
Sam Altman 參觀與 OpenAI 與甲骨文合作開辦的數據中心工地。圖片來自：Oracle
這支隊伍不需要工位、不需要實驗室，卻以被同時複製、全天運行，在大量研究方向上並行試錯；更重要的是，它們工作的目標之一，正是讓下一批 AI 研究員變得更聰明、更便宜。
在一組相當理想化的假設下，報告推算，AI 技術進步的速度可能在全面實現研發自動化後的約一年半內提高十倍。屆時，按照今天速度需要一年完成的進步，可能只需要五周。
Hinton 將這種由 AI 研發自動化帶來的突然加速稱為「智能爆炸」，其中「爆炸」的意思除了數量上的激增，強度和完成度也可能會迎來大爆發。
這條循環仍然可能被卡住
不過，報告同時承認，目前的證據遠遠不足以證明這種爆炸必然發生。
數百萬名 AI 研究員的估算，建立在模型已經達到專家水平、運行成本卻沒有明顯上漲的前提上。更多 Agent 也未必等於更多發現，它們可能重複勞動，或者在必須順序解決的問題前一起停下來。
研發下一代模型還需要實驗算力、訓練數據和持續數月的大型訓練任務。即使 AI 可以在幾分鐘內提出一萬個方案，現實中的計算資源也未必允許它逐一驗證。到了生物、材料等領域，等待實驗結果的時間更無法被代碼直接壓縮。
報告引用的研發回報率也來自歷史數據，而歷史上的算法進步與算力增長彼此糾纏，很難確認單靠軟體改進，是否真的足以讓循環持續加速。
這份報告在擔憂的，是持續加速本身。「RSI」之所以會出圈，也是因為讓人看到了加速的具象化。當 AI 不斷參與製造下一代 AI，新模型再返回研發流程，「智能爆炸」或許就在不遠處。
