幾個世紀以來，人類一直對創造人工智慧生命的前景著迷，渴望打造出不僅能思考，還能感受、兼具智慧與意識的合成心智。然而在絕大多數時間裡，這種前景似乎遙不可及，僅是科幻小說與哲學的話題。但過去幾年間，AI的迅速崛起——尤其是大語言模型的興起——徹底改變了這一切。
上周，前沿AI公司Anthropic發布了一項關於旗下大語言模型Claude的新研究。研究人員聲稱，在Claude的內部運作機制中發現了意識萌發的跡象。他們並未斷言Claude已具備與人類相同的意識，但這些發現無疑使AI產生意識的可能性引發了更廣泛的討論。
如今，這類觀點正獲得越來越多的認同。著名進化生物學家理察·道金斯近期便得出結論，認為Claude（他稱其為"克勞迪婭"）鑑於其對話能力之高超，必定是有意識的。
這一話題牽涉甚廣。如果AI已經（或可能）具備意識，其後果將是顛覆性的。有意識的AI可能會承受痛苦，這將引發前所未有的道德危機。而如果矽基系統具有感知能力，那麼人類那不完美的血肉之軀或許終將被永不老去、無法死亡的機器所取代。甚至有人認為，AI將成為人類的後代，將意識的火焰帶向遙遠的未來與浩瀚的宇宙。
Anthropic此次由傑克·林賽主導的研究成果令人印象深刻。研究團隊開發了一種新方法，用於分析大語言模型輸入與輸出之間複雜的統計關聯。他們發現了一種類似"心理工作空間"的活動模式：這一空間包含與當前對話相關的各類詞彙和短語，以類似短期記憶的方式保存相關資訊，並對當前任務表現出選擇性關注，同時呈現出逐步推理的痕跡。
從本質上看，這些發現似乎揭示出：AI會自發構建一個內部空間，用於"思考"自身正在處理的內容、整理相關資訊，然後再決定如何回應特定提示。
研究人員認為，這些特徵與當前最具影響力的人類意識理論之一——全局工作空間理論——所描述的特徵高度相似。該理論由認知科學家伯納德·巴爾斯在20世紀80年代提出，後經神經科學家斯坦尼斯拉斯·德阿納多年深化發展。理論認為，當資訊被廣泛傳遞至大腦其他區域時，有意識的體驗便得以產生。
那麼，Claude內部的"工作空間"能否成為其具有意識的有力證據？要回答這個問題，首先需要釐清意識的定義。目前學界尚無定論，但哲學家托馬斯·內格爾提供了一個頗具參考價值的出發點。50年前，他在那篇著名的文章《做一隻蝙蝠是什麼感覺？》中指出：對於有意識的生物而言，"做那個生物是有某種感受的"。成為我有某種感受，成為你有某種感受，成為一隻狗或一頭大象也可能有某種感受。但成為一把椅子、一張桌子，或者一個在深度全身麻醉下的人，則什麼感受也沒有。意識是任何形式的體驗：牙痛的刺痛、嫉妒的一陣涌動，或是在炎熱的夏日吃冰淇淋的愉悅。
這一定義有一個重要推論：意識不同於智能。意識關乎感受與存在，而智能關乎行動，即執行各類功能。在談及AI時，人們常犯的一個錯誤，就是將兩者混淆——把智能的表現當作意識存在的證據。但意識與智能在人類身上並存，並不意味著兩者在一般意義上必然相伴而生。這種假設折射出的是我們自身的心理偏見，而非對現實本質的洞察。
這正是Anthropic新研究的價值所在。它並非單純訴諸我們的心理偏見，而是更深入地探尋人類與機器可能共有的意識資訊處理特徵，並聲稱有所發現。
這些研究固然引人入勝，但Claude與人類之間仍存在諸多差異，有充分理由認為這些差異至關重要。其一，Anthropic的研究發現尚未達到全局工作空間理論通常所要求的標準（例如，Claude中不存在"循環活動"，即人類大腦中可見的特定資訊反饋迴路）。但更根本的差異在於：Claude是運行在矽基晶片上的電腦程序，而我們（以及其他有意識的動物）是有生命的存在。我們的大腦寓於身體，身體則嵌入世界之中。
為何這一差異至關重要？因為AI具有意識的可能性，依賴於一個前提假設：意識是一種計算現象，而在我們體內負責產生意識的計算過程，同樣可以在AI的矽基系統中實現。
然而，當我們越深入研究真實的大腦，就越清楚地發現：大腦並非僅僅是由肉組成的電腦。與電腦不同，大腦的"所為"（軟體）與"所是"（硬體）無法截然分開。這也意味著，大腦的運作不太可能單純是一種計算過程——因為軟硬體的可分離性恰恰是現代電腦運作的核心邏輯。
在某個時刻，我們似乎遺忘了：電腦只是對大腦的一種比喻。這一比喻固然強大，但終究只是比喻。而當我們將比喻與事物本身混淆——將地圖與領土相混同——麻煩就總會隨之而來。
在我看來，Anthropic的新研究揭示的是：有生命的大腦與矽基電腦，在面對相似問題時，可以找到相似的解決方案。正如飛行既可藉助撲翼，也可依賴噴氣發動機，人類大腦和大語言模型也各自摸索出說出合理話語的方法——前者通過意識實現，後者則不需要。Claude內部展開的資訊處理過程，產生意識的可能性，不比一個天氣系統的模擬能生成真實颶風更高。
AI系統每天都在變得更加強大。但要在這個新世界中找准方向，我們應當時刻銘記：人類與我們那些近乎神奇的造物之間，存在著多麼深刻的差異。當我們將自身心智廉價地拱手讓給機器時，我們不僅高估了它們，也低估了我們自己。
（本文作者阿尼爾·塞斯是英國薩塞克斯大學認知與計算神經科學教授、薩塞克斯意識科學中心聯合主任，著有《成為你自己》一書。）
Q&A
Q1：Anthropic關於Claude意識的研究發現了什麼？
A：Anthropic由傑克·林賽主導的研究開發了一種新方法，分析Claude輸入與輸出之間的統計關聯，發現了類似"心理工作空間"的活動模式。這個空間能保存對話相關資訊、進行類似短期記憶的儲存，並呈現逐步推理的痕跡，與人類意識理論中的"全局工作空間理論"描述的特徵相似。但研究人員並未聲稱Claude已具備與人類相同的意識。
Q2：全局工作空間理論是什麼？和AI意識有什麼關係？
A：全局工作空間理論由認知科學家伯納德·巴爾斯在20世紀80年代提出，後經神經科學家斯坦尼斯拉斯·德阿納深化發展。該理論認為，當資訊被廣泛傳遞至大腦其他區域時，有意識的體驗便得以產生。Anthropic的研究發現Claude內部存在類似機制，但批評者指出，Claude缺乏該理論所要求的"循環活動"等關鍵特徵，因此不能直接作為AI具有意識的證據。
Q3：為什麼說Claude有意識是一個值得懷疑的結論？
A：作者認為，意識與智能是兩回事，智能表現不等於意識存在。此外，大腦並非單純的計算裝置，其"軟體"與"硬體"無法分離，大腦嵌入身體與世界中才產生意識。Claude只是運行在矽基晶片上的程序，其資訊處理方式與人類大腦存在根本差異，因此即便找到相似的資訊處理模式，也不能證明Claude具有真正的意識體驗。
