班傑明·布德羅（Benjamin Boudreaux）在這個AI時代感到了某種東西正在悄然流逝。他不禁思考：如果我們將做決策、塑造未來的能力逐漸外包給機器，會發生什麼？當我們開始失去人類的核心屬性——自主能動性時，我們又能否察覺？
布德羅是蘭德公司的政策研究員，專注於研究如何應對變革性AI的轉型過渡。他與蘭德數學家阿爾文·穆恩（Alvin Moon）合作，建立數學模型，模擬AI如何隨時間侵蝕人類的自主能動性，以及人類如何保持對自身命運的掌控。
"自主能動性是我們設定並追求一切所珍視價值的根本能力，"布德羅說，"危險在於，我們失去它的那一刻，可能並不會以某種戲劇性的方式清晰呈現。"
這種失去不會一夜之間發生，甚至可能根本不像是一種損失，反而感覺像一種便利，一種解脫。我們的決策似乎變得越來越輕鬆。但隨著時間推移，我們會抵達某個臨界點——呈現在我們面前的所有選項，都已經由AI塑造完畢。到那時，人類實際上已不再掌舵。
AI侵蝕人類自主能動性的三種機制
研究團隊識別出AI削弱人類自主能動性的三種機制。
第一種是"剝奪決策權"，即人類直接被自動化系統排除在決策之外。
第二種是"AI參政"，即AI實際上成為決策群體中的一員。
第三種是最隱蔽的，研究團隊稱之為"議程控制"。AI本身不投票，但它塑造了人類所能看到的選項範圍。這種機制近乎無形——被AI排除在外的選項根本不會出現，人類甚至不知道自己錯過了什麼。
隨著時間推移，我們將到達一個臨界點：呈現在我們面前的所有選項，都已被AI所塑造。
如何追蹤自主能動性的侵蝕
這裡最關鍵的是發展軌跡和時間趨勢。將每一個單獨的決策委託給AI，或許都有其合理之處。但數以千計乃至數百萬個這樣"合情合理"的決定累積起來，最終會形成一種沒有任何人類真正在做決策的局面。
因此，可以通過以下指標加以追蹤：人類推翻AI建議的頻率如何？人類擁有多少時間和空間來做出決定？AI的決策權限範圍有多廣——它是在處理單一任務還是多項任務？這些都是需要持續監測的趨勢。
社會選擇理論與數學建模
研究團隊聚焦於集體自主能動性——人類如何共同做出決策。他們以社會選擇理論為基礎構建模型，這是研究群體如何匯聚並做出決策的數學理論。然後，他們開始將AI引入這些決策群體，觀察決策聯盟中人類與AI的數量比例如何隨時間變化。通過對這些微小擾動進行建模，他們得以追蹤人類自主能動性的侵蝕過程。
為什麼逆轉極為困難
一旦走到自主能動性被嚴重削弱的假設終局，逆轉將面臨多重障礙。
首先，屆時AI已處於主導地位，它們需要主動選擇將權力歸還人類，而這未必會發生。
其次，人類屆時將高度依賴AI，即便有機會奪回控制權，也可能已經喪失了相應的技能與專業能力。
最後，一旦AI深度嵌入各類決策架構，將其移除的成本將極為高昂，複雜程度也將難以估量。
能動性審計：尚待填補的空白
每當新的AI模型問世，業界都會對其進行各種各樣的評估：它是否可能助力網路攻擊？是否會加劇生物安全風險？然而，目前仍缺乏有效手段來評估這些模型在不同決策場景中部署後，對人類自主能動性的影響。
研究團隊目前正致力於開發一套名為"能動性審計"的評估框架，供政府、企業和研究人員使用，以評估每款新模型對人類決策能力的潛在影響。
在AI時代守護自主能動性
在很多方面，布德羅坦言，AI讓他感覺自己的能力得到了擴展——他現在能夠編寫應用程式、構建模擬系統，這些都是他以前從未想過自己能做到的事情。但他也更加刻意地審視自己使用AI的方式。
"我會先梳理自己的想法，然後再向模型提問，因為我擔心無論它給我什麼，我都傾向於接受。我有時把那種便利本身當作一個警示信號——越是感覺順滑、毫不費力地接受了建議，我就越覺得這可能正是問題所在。"
他承認，這套做法遠未達到完美，但其核心理念在於：或許可以在享受AI帶來的紅利的同時，保留自己設定價值觀並付諸行動的能力。
Q&A
Q1："能動性審計"是什麼？它如何幫助應對AI對人類決策的影響？
A：能動性審計是蘭德公司研究團隊正在開發的一套評估框架，旨在填補現有AI評估體系的空白。目前新模型發布後，通常只會評估其網路安全風險或生物安全風險，而不會評估其對人類自主能動性的影響。能動性審計將允許政府、企業和研究人員系統性地評估每款新AI模型在不同決策場景中部署後，可能對人類決策能力造成的侵蝕，從而在問題擴大之前提前預警和干預。
Q2：AI侵蝕人類自主能動性的"議程控制"機制為何最危險？
A：議程控制之所以最危險，在於它幾乎是無形的。在這種機制下，AI並不直接參與投票或替代人類做決定，而是悄然塑造人類所能看到的選項範圍——被AI過濾掉的選項根本不會出現，人類甚至意識不到有什麼選擇被排除在外。這種隱蔽性使其比"剝奪決策權"或"AI參政"更難被察覺和抵抗，也更難通過常規監管手段加以約束。
Q3：普通人在日常使用AI時，如何保護自己的自主能動性？
A：根據研究員布德羅本人的實踐，核心策略是在使用AI之前先形成自己的獨立判斷，而不是直接把問題拋給模型等待答案，以避免對AI輸出產生無意識的依賴。此外，要警惕"過於順滑的便利感"——當接受AI建議變得毫不費力時，恰恰是需要停下來反思的時候。關鍵不是拒絕使用AI，而是保持主動、有意識地與AI互動，確保自己的價值判斷和決策能力不被逐漸架空。
