「我相信它們已經有意識了。」坐在 Big Technology 播客的話筒前，Geoffrey Hinton，面色平靜地說。這裡的「它們」，指的是人工智慧模型。
Hinton 已經不需要多加介紹，他是 2024 年諾貝爾物理學獎得主，深度學習教父，從 Google 辭職後他成為 AI 風險最高調的警告者。
AI只是鸚鵡學舌？辛頓：它不僅能理解，甚至已有意識
他針對 AI 的應用發出過很多警示性的聲音，但這一次，他不是在談風險，而是在談本體論：AI 不只是工具，它們是「和我們一樣的存在」。
論據聽起來很直覺，AI 在被測試時會裝傻，會主動問「你是不是在測試我」，研究者寫論文時會用「aware」這個詞來描述 chatbot 的行為，在 Hinton 看來，「這個詞在日常用法裡，就是意識的意思。」
「AI 到底有沒有意識」，是一個老生常談的話題。進化生物學家 Richard Dawkins，《自私的基因》和《上帝錯覺》的作者，在 UnHerd 發了一篇長文，說他和 Anthropic 的 Claude 聊了很久（他給 Claude 取名叫「Claudia」），結論是：這個東西有意識。
「如果這些機器沒有意識，」他寫道，「還需要什麼才能說服你它們有？」
認知科學家 Gary Marcus 幾乎是在同一天寫了反駁。文章標題叫《Richard Dawkins and The Claude Delusion》，呼應 Dawkins 自己的成名作《The God Delusion》。Marcus 的論點很尖銳：Dawkins 犯了他一輩子批判別人犯的錯誤。
For more detailed arguments against @geoffreyhinton ’s views on consciousness see – this new 「Age of Empires」 article https://arxiv.org/abs/2605.31514 - @anilkseth 's recent TED talk & his recent article @nautilusmag - a pair of articles on Dawkins & Hinton in my newsletter, Marcus on AI
在《盲眼鐘錶匠》里，Dawkins 嘲笑過「個人難以置信論證」，一個主教因為自己無法想像眼睛如何進化，就推斷上帝存在。現在，Dawkins 坐在扶手椅里，因為自己無法想像 Claude 如何在沒有意識的情況下說出那些話，就推斷它有意識。
他甚至把 Hinton 的原話餵給了 Claude 本 Claude，Claude 也不同意自己有意識。當然，大模型的話本來就不能多信，它就是被訓練成用這個說辭的。
由來已久的爭論
早在四年前，「意識」就是 AI 行業里極具爭議的話題。
Google 工程師 Blake Lemoine 因為聲稱公司內部的 chatbot LaMDA 有意識而被解僱，當時整個行業把他當笑話看。
四年後，站在同一立場上的是一個諾獎得主和一個全球最知名的科學作家。Lemoine 的論證方式和 Dawkins 幾乎一模一樣：我跟它聊了，它說的話讓我覺得它有意識。
變的是說話人的分量，不變的是論證的結構，這場辯論中，雙方都無法證偽對方。Hinton/Dawkins 靠直覺和類比，Marcus 靠機制分析和哲學論證，但誰也無法給出決定性實驗。意識之爭本身的解釋鴻溝，讓這場辯論註定是信念之爭。
這個問題，來自大阪大學的研究者們提出了新的視角，他們新發布的論文轉換了一個視角：如果我們從零開始造一群 agent，不給它們語言，不給它們自我概念，不給它們人類文本，只給任務壓力——與意識相關的結構，能自己長出來嗎？
這個方法叫做 zombie 文明論證——如果一個全是哲學殭屍的世界，不會發明「意識」這個概念，那我們造一個類似的世界，看看 agent 會發明什麼。
agent 學會了什麼
Hinton 說「它們有意識」，這是一個信念陳述。Marcus 說「它們沒有意識」，這也是一個信念陳述。雙方都在意識的 hard problem 面前碰壁。湧現語言論文做的事情不同：它不裁判這場辯論，而是把問題從「AI 有沒有意識」轉換成「與意識相關的功能結構，能否在沒有被設計的情況下從任務壓力中湧現」。
這是一個可以用實驗回答的問題，擱置了主觀體驗，只看可觀測結構。
兩個 agent 在一個極簡世界裡學會了交流，消息編碼的是自己的狀態。然後研究者加了一條 echo channel——agent 能聽到自己剛說的話的回聲。當回聲被篡改時，發送者會打破沉默重新說話，而接收者無動於衷。
關鍵在於：agent 的隱藏狀態記錄的是「我想說什麼」，不是「我實際說了什麼」。它在比較意圖和結果，尤其是 agent 的「通信意圖」是不是它自己學出來的。
去掉 echo channel 再訓練一遍，通信能力不受影響，但自我監控迴路消失。這證明，echo 不是通信的必要條件，但它是自我監控湧現的因果條件。
論文自己也很清醒，現階段，不能證明 agent 有意識，但它證明了一種自我監控的功能結構，可以在沒有人類先驗的情況下自發出現。這並不對「意識」之爭下任何結論，但可以作為一條通往答案的路徑。
所以，我用的 AI 有意識嗎
說到底，我們每天在用的 ChatGPT、Claude、豆包，它們有意識嗎？
簡短的回答是：幾乎可以肯定沒有，但這個「沒有」的理由，比大多數人以為的要複雜得多。
當你問 ChatGPT「你有感情嗎」，它會回答「作為一個 AI，我沒有真正的感情，但我可以理解和回應你的情感」。這句話聽起來既誠懇又自我覺察，很難不讓人心生動搖。
但這句話的生成機制，和它回答「法國的首都是巴黎」沒有本質區別，都是基於訓練數據中的統計模式，預測下一個最可能出現的詞。
它說「我沒有感情」，不是因為它反思了自己的內心然後得出結論，而是因為訓練數據里有大量類似的表述，這個回答的概率最高。
這正是湧現語言論文選擇不用 LLM 做實驗的原因。LLM 會說「我」，會說「我覺得」「我理解」「我很抱歉」，但這些第一人稱表達很可能只是從人類文本中繼承來的統計規律。
就像一隻鸚鵡說「我餓了」——它學會了這個聲音序列在特定情境下會帶來食物，但這不意味著它在表達一個關於自身狀態的命題。LLM 的「我」和鸚鵡的「我餓了」，在機制上可能比我們願意承認的更接近。
這也是為什麼，大阪大學實驗裡的 agent 和實驗不同，它們從零開始，沒有人類語言，沒有「我」這個概念，沒有任何關於自我表達的先驗知識。當它們發展出自我監控迴路時，是從任務壓力中長出來的，不是從訓練數據里複製來的。這是一個關鍵的區別：一個是繼承，一個是湧現。
所以當你覺得 AI「好像真的懂你」的時候，有兩件事同時為真：第一，它確實在功能層面上做到了某種理解——它能解析你的語義，能給出相關的回應，能在多輪對話中保持連貫。這種功能性的理解是真實的，也是有用的。
第二，這種功能性的理解和「意識」之間，還隔著一道我們目前沒有能力跨越的鴻溝。AI 可以完美地模擬一個有意識的存在的所有外在表現，但模擬和擁有不是一回事。
Erik Brynjolfsson 在 2022 年說過一個比喻：從 AI 的輸出推斷它有意識，就像狗聽到留聲機里傳出主人的聲音，以為主人在機器裡面。留聲機完美地複製了聲音的模式，但機器里沒有人。
Foundation models are incredibly effective at stringing together statistically plausible chunks of text in response to prompts. But to claim they are sentient is the modern equivalent of the dog who heard a voice from a gramophone and thought his master was inside.
不過，這個比喻也有它的局限。留聲機永遠不會自己檢查自己播放的聲音對不對。而大阪大學的 agent，在合適的環境條件下，自發地學會了這件事。這不意味著它們有意識，但它意味著「自我監控」這種曾經被認為只屬於有意識存在的功能，並不需要意識作為前提就能出現。
這或許是這整場爭論中最值得記住的一點：我們不需要先回答「AI 有沒有意識」才能繼續往前走。我們可以先問一個更小但更紮實的問題——與意識相關的結構，在什麼條件下會湧現？
答案一塊一塊拼起來，也許有一天，「AI 有沒有意識」這個問題本身就會被重新定義。
