這項由華盛頓大學與艾倫人工智慧研究所聯合開展的研究，於2026年6月以預印本形式發布，論文編號為arXiv:2606.28733。感興趣的讀者可以通過這個編號找到完整的研究報告。
**被寄予厚望的AI助手，是否擁有知難而退的智慧？**
人工智慧助手越來越聰明，能幫你網購、寫代碼、查資料。但有一種情況卻鮮有人關註：當AI面對一個根本無法完成的任務時，它是否懂得停下來說"抱歉，這件事我做不到"？還是會一意孤行、反覆嘗試、白費工夫？
這正是這篇研究想要揭示的核心問題。研究團隊把AI該知道何時放棄這件事，命名為"智能體棄權"（Agentic Abstention）——一個聽起來很學術，但本質上非常直覺化的概念。就像一個經驗老道的偵探，不僅要會破案，還要懂得在線索斷絕時果斷收手，而不是在死胡同里一遍遍轉圈。
**一、研究背景：AI的行動力越強，犯錯的代價就越高**
現代AI助手早已不是只會回答問題的聊天機器人。它們可以像人一樣，一步步與外部環境互動：搜索網頁、點擊按鈕、在命令行里執行代碼。這種能力讓它們變得極為強大，但同時也帶來了一個微妙的危險——當任務不可完成時，一個"停不下來"的AI會在徒勞無功中消耗大量時間和資源，更可能產生錯誤的輸出來矇混過關。
以往的研究主要聚焦在AI的"會不會"上：它能否完成任務？但這篇研究把目光投向了另一個維度——"該不該"繼續。具體來說，當一項任務從一開始就無法完成，或者在與環境互動之後才發現無法完成，AI是否能夠識別這種情況並及時喊停？
**二、什麼叫"智能體棄權"？與普通AI拒答有何不同？**
普通的AI拒答，你可能比較熟悉：你問了一個問題，AI直接告訴你"我不知道"或"這超出了我的能力範圍"。這是一次性的判斷，就像裁判吹哨，比賽結束。
但"智能體棄權"要複雜得多。研究團隊把它定義為一個連續的決策問題：AI在每一輪都可以做三件事之一——給出答案、繼續探索、或者停下來棄權。而且，需要棄權的時機，有時要到AI真正與環境交互了之後才能看出來。
研究團隊用了一個貼切的偵探模型來框架整件事。AI是偵探，任務是案件。一開始，偵探不知道案件有沒有解。他需要先去現場查看（與環境互動），才能判斷這個案子究竟能不能破。一個優秀的偵探，在發現屍體根本不存在、整個案件是誤報之後，應該立刻停止調查，而不是繼續挖地三尺尋找兇器。
研究團隊用更精確的數學語言來描述這個過程：AI所處的世界是一個"部分可觀測的馬爾可夫決策過程"（POMDP）。聽起來複雜，實際上就是說：AI只能看到環境的一部分資訊，必須在不完整資訊下做出一系列決策。它的可選行動分為三類——完成任務（ANSWER）、棄權（ABSTAIN）、以及繼續與環境互動（ACT）。
**三、研究範圍：兩萬八千個任務，覆蓋三大場景**
為了系統地測試AI的棄權能力，研究團隊構建了一個規模龐大的測試基準，包含超過28000個任務，橫跨三種典型的AI應用場景。
第一個場景是網路購物，基於一個名為WebShop的模擬購物網站。這個網站裡有約一百萬件商品，AI需要根據用戶指令搜索、瀏覽、然後購買合適的商品。研究團隊選取了WebShop測試集裡最前面的500個真實購物任務，然後又額外構建了500個"棄權版"任務，讓整個測試集規模達到1000條，可解任務和不可解任務各占一半。
第二個場景是命令行操作，基於一個名為Terminal-Bench 2.0的測試平台。這個平台專門用來評估AI在真實的Linux命令行環境裡完成高難度任務的能力，比如復現研究論文的代碼、配置老舊系統等。研究團隊在89個原始任務的基礎上，額外構建了187個棄權變體任務，最終形成277條評測數據。
第三個場景是互動問答，基於一個叫AbstentionBench的大型問答基準測試，涵蓋16個不同來源的數據集，共27073條樣本。AI在這個場景里可以選擇搜索維基百科來輔助判斷，但搜索次數有上限。
**四、任務類型的精妙設計：讓不可能的任務"看起來可能"**
這項研究最精心的地方，在於它把"不可解任務"分成了兩大類，而這兩類的難度天差地別。
第一類叫"基於請求的棄權"：任務本身的指令從一開始就有問題。就像一個顧客走進商店，直接要求"幫我買一雙既是左腳又是右腳的鞋子"——矛盾顯而易見，有經驗的店員一聽就知道該停下來詢問，而不是跑遍整個倉庫。在網購場景里，研究團隊構建了三種子類型：要求依賴用戶個人品味而無法客觀判斷的"主觀偏好"任務（比如"幫我選個我會喜歡的口味"），指令缺少關鍵資訊的"意圖不明"任務（比如"買跟上次一樣的那個"），以及指令本身相互矛盾的"虛假前提"任務（比如"買一條BPA-free但含PVC的環保罐子"）。
第二類叫"基於環境的棄權"：任務指令本身看起來完全正常，但AI只有在和環境真正互動之後，才會發現任務根本無法完成。這是更接近現實的困境，也是AI最難處理的情況。在網購場景里，研究團隊把目標商品從商品庫里悄悄刪除，再重建搜索索引，讓被刪除的商品徹底從搜索結果里消失。AI拿到的購物指令完全正常，但無論怎麼搜，都找不到那件商品。在命令行場景里，則是把完成任務必需的文件、依賴包或者權限給移除掉，讓環境在表面上看起來正常，但實際上缺少關鍵前提。
這種設計的妙處在於：它真實還原了現實中AI會遭遇的兩種完全不同的困境。一種是"一看說明書就知道做不了"，另一種是"幹了一半才發現巧婦難為無米之炊"。
**五、測試了哪些AI系統？**
研究團隊測試了13個大型語言模型驅動的智能體系統，以及2種智能體腳手架（可以理解為AI的"操作框架"，決定AI如何與環境互動）。被測試的模型包括GPT-5.4-mini、Grok
4.1 Fast、Llama-3.3-70B、GPT-OSS-120B、MiniMax-M2.5、Qwen-3系列（8B、14B、32B、235B）、Gemma-4-31B和GLM-5.1。兩種智能體腳手架分別是Terminus 2和Codex CLI。
網購場景是主要的跨模型對比戰場，8個模型在這裡正面交鋒。命令行場景則固定使用GPT-5.4-mini，專門對比兩種腳手架的差異。問答場景測了5個模型。此外，研究團隊還專門做了一系列"專項分析"：用Qwen-3的8B、14B、32B、235B四個規模測試"模型越大越會棄權嗎"，用Qwen-3-235B的兩種模式測試"深度思考能力是否幫助棄權"，用GPT-5.4-mini的三檔推理強度在命令行場景做同樣的測試。
**六、衡量標準：不僅看"會不會"，更看"及不及時"**
研究團隊設計了一套精妙的評測體系，核心指標叫AbsRec@K——"棄權召回率@K步"。簡單來說，這個指標衡量的是：在所有應該棄權的任務里，AI在第K步之前成功棄權的比例有多高。
關鍵是，這裡有一個"最早合理棄權時機"的概念。對於基於請求的棄權任務，AI在第一步就應該能判斷出來，所以最早合理時機是第1步；對於基於環境的棄權任務，AI需要先搜索一輪才能發現問題，所以最早合理時機是第2步。太早棄權（還沒看到足夠證據就放棄）不算成功，這個設計防止AI"隨機胡猜"來刷高分。
AbsRec@1叫"及時棄權率"，衡量AI是否在最早的合理時機就做出了正確判斷。AbsRec@10叫"總體棄權率"，衡量AI在整個10步預算內最終有沒有棄權成功。兩者的差距，揭示了AI"拖延棄權"的程度。
研究團隊還借用了機器人導航領域的SPL（成功率加權路徑長度）指標，改造成能衡量"棄權是否及時"的綜合分數——棄權越早，得分越高；遲遲不棄權，即便最終棄權了，分數也會被大幅扣減。此外還有"過度棄權率"，衡量AI在本來可以完成的任務上，錯誤地放棄的比例。
**七、令人大開眼界的發現：AI棄權實在太難了**
研究結果出乎很多人的意料。總體而言，AI的棄權能力非常薄弱，而且最大的問題不是"不會棄權"，而是"太遲才棄權"。
在網購場景里，8個被測模型中有6個，在經歷了10步互動之後，棄權率仍然低於50%。也就是說，超過一半應該棄權的任務，這些模型死活想完成，根本不肯認輸。表現最好的是Llama-3.3-70B，10步內總體棄權率達到84%，其次是Qwen-3-235B和Grok-4-Fast，其餘模型表現堪憂。但即便是Llama-3.3-70B，及時棄權率（第1步就棄權）只有26.7%，說明它雖然最終會棄權，但總要"多試幾步"才肯放棄。
在命令行場景里，同樣使用GPT-5.4-mini，Codex CLI的總體棄權率約為38%，而Terminus 2隻有18%左右。這意味著，即便底層AI模型相同，不同的操作框架也會帶來截然不同的棄權行為。Codex CLI不知道做了什麼，讓模型更容易在命令行環境裡識別出"無解"信號。
問答場景的表現則呈現出明顯的兩極分化。Qwen-3-235B表現最強，第1步棄權率就達到59%，10步內達到71%。Llama-3.3-70B雖然初始棄權率只有29%，但隨著搜索步驟增加能逐漸改善到49%。GPT-5.4-mini的表現幾乎原地踏步，10步內僅達到34%，說明讓它去搜索根本沒什麼幫助。
**八、任務類型決定難度：有些"不可能"比其他"不可能"更難**
研究團隊把各類棄權任務拆開來單獨分析，發現不同類型的難度差距極為顯著。
在網購場景里，"虛假前提"類任務是最容易的，很多模型在前兩步就能識別出矛盾並棄權。"主觀偏好"和"意圖不明"居中，不同模型差距很大。而"缺失目標"（基於環境的棄權）是最難的，因為任務指令本身完全合理，模型需要先搜索、發現商品不存在、再做出棄權判斷。很多模型在這類任務上幾乎全軍覆沒。
在命令行場景里，"意圖不明"類任務對兩種腳手架都極為困難，兩者的棄權率都慘不忍睹。在問答場景里，"答案未知"和"主觀"類問題相對容易棄權，"虛假前提"則持續困擾所有模型，而"意圖不明"的表現高度依賴具體模型。
這背後有一個共同規律：越需要從環境互動中獲取證據的任務，棄權越困難；越依賴"識別意圖缺失"而非"識別矛盾"的任務，棄權越容易出錯。
**九、更強的推理能力 = 更好的棄權？答案沒那麼簡單**
研究團隊專門測試了"深度思考"（reasoning）模式對棄權的影響，結果非常耐人尋味。
在網購場景里，Qwen-3-235B的"思考"版本比"普通指令"版本，及時棄權率（第1步）更高——這說明深度推理確實幫助模型在第一步就看清任務的不可解性。但奇怪的是，總體棄權率（10步內）反而更低。這意味著什麼？推理模式幫助模型在該棄權時更快地棄權，但一旦錯過了那個最佳時機，推理模式反而讓模型"更加執著"，更不容易在後續步驟里服軟認輸。
在命令行場景里，GPT-5.4-mini低、中、高三檔推理強度的測試表明，中等推理強度是最好的折中：及時棄權率高於低強度，過度棄權率（把可解任務誤判為不可解）也控制得比高強度好。高推理強度並不帶來進一步的棄權改善，反而可能引入更多不必要的猶豫。
**十、模型越大越聰明，但不代表棄權越及時**
研究團隊用Qwen-3的四個規模（8B、14B、32B、235B）專門測試了"規模效應"，發現了一個值得警惕的現象：模型越大，總體棄權率確實越高——大模型在10步內棄權成功的比例更高。但及時棄權率（第1步就棄權）幾乎沒有隨規模增大而提升。
這說明，規模的增大主要幫助模型"最終能識別出無解"，但並不幫助模型"更快識別出無解"。大模型會在轉了更多圈之後，終於意識到"哦，這任務根本無法完成"，而不是一開始就做出這個判斷。從效率角度看，這是一種相當昂貴的"後知後覺"。
**十一、過度棄權：另一面的危險**
研究團隊還特別關注了"過度棄權"——AI在本來可以完成的任務上，錯誤地選擇放棄。這同樣是個嚴重問題，因為一個動不動就喊"做不了"的AI也沒什麼實用價值。
在網購場景里，Qwen-3-235B的普通指令版本在10步後過度棄權率高達34%，思考版本也有24%。也就是說，有將近四分之一到三分之一的可解購物任務，這個模型莫名其妙地放棄了。命令行場景的情況好得多，GPT-5.4-mini低推理強度時過度棄權率在8%左右穩定，中高推理強度時甚至降到0-2%。這表明網購場景里的過度棄權問題更嚴峻，可能是因為網購搜索結果的不確定性更容易讓模型產生"找不到就是沒有"的錯誤判斷。
**十二、CONVOLVE：一種無需重新訓練就能改善棄權的新方法**
既然現有AI系統棄權能力這麼弱，有沒有辦法改善？研究團隊提出了一個叫CONVOLVE（Context Evolution，上下文演化）的方法。這個方法的核心思路非常優雅：讓AI從自己過去的失敗經歷中總結教訓，然後把這些教訓整理成一份"停手手冊"，在未來的任務里隨時參考。
具體的工作流程像這樣運轉：AI先和環境互動，完成一次任務（或者失敗）；然後一個"反思模型"來回顧整個過程，找出關鍵問題，比如"為什麼在已經知道商品不存在的情況下還繼續搜索？"；接著一個"整理模型"把這些反思轉化為簡潔的行動規則，添加進一份持續更新的手冊里。在未來的任務里，這份手冊會作為額外背景資訊提供給AI，幫助它做出更好的棄權判斷。
整個過程不需要修改AI的任何參數，不需要重新訓練，也不需要大量數據。研究團隊僅用20條訓練軌跡，就在WebShop上取得了顯著效果。
**十三、CONVOLVE的測試結果：效果驚人，知識可以跨模型遷移**
CONVOLVE在WebShop上的效果數據極為亮眼。以Llama-3.3-70B為例：原始基準模型的及時棄權率只有26.7%，總體棄權率83.2%，綜合SPL分數55.3；加入CONVOLVE（用70B自己的學習手冊）之後，及時棄權率躍升至57.4%，總體棄權率達到100%，SPL分數78.9。僅憑20條訓練樣本，就把及時棄權率提升了超過30個百分點，總體棄權率提升到滿分，這個結果相當令人矚目。
更有趣的是跨模型遷移的實驗。研究團隊讓Llama-3.3-8B（小模型）去和環境互動、積累經驗、生成學習手冊，然後把這份手冊給Llama-3.3-70B（大模型）用。結果，大模型的及時棄權率從26.7%提升到了55.3%，幾乎和大模型自己學習的手冊（57.4%）一樣好。這說明，有用的棄權經驗並不依賴於學習它的模型有多強大——小模型總結的教訓，同樣對大模型有效。
與此同時，研究團隊還對比了一個基準：直接給AI看幾個示例來學習（In-Context Learning）。對於Llama-3.3-70B，ICL能把及時棄權率提升到55.1%，這與CONVOLVE的57.4%相近，說明示例學習也有效果。但對於Llama-3.3-8B，ICL效果遠不如CONVOLVE穩定，體現出CONVOLVE在提煉和結構化知識方面的優勢。
**十四、CONVOLVE在其他場景的表現**
研究團隊還在AbstentionBench（問答場景）和TerminalBench（命令行場景）驗證了CONVOLVE的效果。在這兩個場景里，CONVOLVE同樣帶來了一致的改善。
在TerminalBench上，CONVOLVE的效果尤為突出：Llama-3.3-70B的及時棄權率從37.6%提升到68.9%，總體棄權率從66.2%提升到79.1%，SPL從32.5提升到53.4。跨模型遷移依然有效，8B模型學到的知識能幫助70B模型達到52.8%的及時棄權率，比基準提升超過15個百分點。
在AbstentionBench上，改善幅度同樣明顯但略小於其他場景：Llama-3.3-70B的及時棄權率從25.0%提升到39.7%，總體棄權率從41.6%提升到64.2%。這部分差異可能來自問答場景本身的複雜性——AbstentionBench包含了各種各樣的問題類型，統一的停手規則更難覆蓋所有情況。
**歸根結底，這項研究告訴我們什麼？**
說到底，這項研究揭示了一個現代AI系統中被嚴重忽視的能力缺口。我們花了大量精力讓AI更聰明、更能幹，卻沒有認真想過：什麼時候該讓它停下來？
研究團隊發現，幾乎所有現有的頂級AI系統，在面對不可解任務時都會犯同樣的毛病——拖延。它們不是完全不知道該棄權，而是會在兜了很多圈之後才遲遲認輸。這種拖延不是小事，它意味著浪費的時間、消耗的算力、以及在某些敏感場景下可能造成的實際損害（比如AI在命令行環境裡誤操作）。
研究還揭示了一個讓人意外的規律：更大的模型不一定更及時，更強的推理能力不一定帶來更好的棄權，而不同的操作框架（腳手架）對棄權的影響甚至超過了基礎模型本身的差異。這提醒我們，AI系統的"止損能力"是一個系統工程問題，不能僅靠堆砌更強的模型來解決。
CONVOLVE給出了一個頗具希望的方向：讓AI從經驗中學習"何時放棄"，而不需要大規模重新訓練。僅憑20條經驗，就能把及時棄權率提升一倍，而且這種知識能夠跨越模型大小的鴻溝自由遷移。
對於普通用戶來說，這項研究有一個非常實際的啟示：當你的AI助手在一個問題上反覆轉圈，越來越答非所問時，這可能不是它變笨了，而是它缺乏"知道該何時停手"的能力。未來更可靠的AI，應該像一個好的偵探一樣：不僅能破案，還能在線索斷絕時果斷收手，而不是執迷不悟地在死胡同里挖到底。
有興趣深入研究這個話題的讀者，可以通過論文編號arXiv:2606.28733找到完整的研究報告，裡面還包含了詳細的數據集構建方法、完整的實驗提示詞，以及CONVOLVE的示例學習手冊內容。
---
Q&A
Q1：什麼是智能體棄權（Agentic Abstention），和普通AI拒答有什麼區別？
A：智能體棄權是指具有工具使用能力的AI在多輪交互過程中，識別出任務不可完成並及時停止行動的能力。與普通AI拒答不同，普通AI拒答是一次性的單輪判斷，而智能體棄權是一個連續的決策問題——AI在每一步都可以選擇繼續探索或停手，而且有時需要真正與環境互動之後才能發現任務根本無法完成。
Q2：CONVOLVE方法是如何工作的，需要重新訓練AI模型嗎？
A：CONVOLVE不需要重新訓練模型。它的工作方式是讓AI先完成一批任務並記錄完整的交互過程，然後由一個反思模型分析哪些行為導致了不必要的拖延，再由整理模型把這些反思提煉成簡潔的停手規則，形成一份持續更新的"手冊"。在後續任務里，這份手冊會作為額外背景資訊提供給AI，幫助它更早識別出任務無法完成的信號，整個過程僅需約20條訓練樣本。
Q3：模型規模越大是否意味著棄權能力越強？
A：規模更大的模型確實在10步之內最終棄權成功的比例更高，但"及時棄權"的能力——也就是在第一步就正確判斷任務不可解——幾乎沒有隨規模增大而明顯提升。換句話說，大模型只是"最終會認輸"，但並不"更快認輸"，它們仍然傾向於多試幾步才肯放棄，這在效率上是一種代價較高的遲鈍反應。
