2026年7月27日,The Peterman Pod主持人瑞安·彼得曼(Ryan Peterman)發布了對朱迪亞·珀爾(Judea Pearl)的長篇訪談。話題從他的科學啟蒙、超導儲存器與早期人工智慧一路延伸到貝葉斯網路、因果階梯、大語言模型(LLM)和通用人工智慧(AGI
)。珀爾沒有從模型榜單和產品能力出發評價LLM。他把問題放回了一條延續數十年的研究線索:機器究竟怎樣把觀察變成判斷,又怎樣從相關性走向行動與解釋。

珀爾是貝葉斯網路和現代因果推理的重要奠基者。2011年圖靈獎表彰了他在不確定條件下的資訊處理,以及因果推理演算方面的基礎性貢獻。UCLA資料顯示,他從1969年起就在該校任職。2019年,他在《Communications of the ACM》發表《因果推理的七種工具》,再次強調關聯、干預和反事實之間存在嚴格層級。只會從觀察數據中尋找統計規律的系統,無法僅憑更多同類數據回答新行動會帶來什麼結果。
這也構成了他對LLM的核心判斷。大模型可以給出像樣的因果解釋,因為訓練語料早已裝入醫生、研究者、記者和普通作者對世界的解釋。實驗結論、因果假設和反事實敘述已經被人類寫成文本,模型擅長壓縮並調用這些知識。真正困難的測試,是把機器放進一個缺少現成答案的環境,讓它面對原始觀察,選擇干預,理解實驗結果,再形成能夠被質疑和修正的世界模型。這裡的世界模型,是對環境結構與運行機制的精煉表示,系統可以據此推導未被逐條儲存的答案。
珀爾把自己的研究性格追溯到中學課堂。那是1948年以色列建國之前,他在當時由英國託管的巴勒斯坦地區長大。20世紀30年代,一批(遭迫害的)德國學者來到當地,未能獲得大學教職,其中一些人進入中學任教。珀爾和同代學生由此接受了一種少見的科學教育。
老師不會把定理壓縮成幾條待記憶的步驟。他們沿著發現發生的順序講課:一個問題為什麼會在那個時代出現,提出者知道什麼、還不知道什麼,曾經走過哪些彎路,又怎樣借用前人的概念。科學在這套課程里是一場人類與自然秘密的長期較量。學生坐在教室里,也被放進知識產生的過程。
珀爾後來稱這種教育製造了一種「有用的幻覺」。學生會相信,自己或許能找到一種前人沒想過的勾股定理證明,也可能成為下一位畢達哥拉斯或愛因斯坦。絕大多數人終究達不到這個高度,但那份幻覺會讓人把疑問當成自己的事,並堅持形成自己的理解。
他沒有把自己描述成少年天才。成績通常排在班級第三或第四。排在前面的學生已經能猜到老師下一步會講什麼、考試會出什麼題,因此容易覺得課堂無聊。珀爾說,自己從未無聊過。他需要跟著問題一步步走,也持續享受理解發生的過程。
十歲時,老師問一平方公里等於多少德南。德南是一種面積單位,一德南約為1000平方米。全班和老師都給出了錯誤答案,珀爾堅持一平方公里有一千德南。當天的嘲笑沒有讓他改口。第二天,老師在全班面前承認錯誤。幾十年後,珀爾仍把這件事視為自己「不妥協」性格的一處來源:結論如果經過推導,就應該繼續核查,人數和權威不能替代證明。
服兵役時,他所在的部隊一半時間接受軍事訓練,一半時間在基布茲務農。他用「一隻手扶犁,一隻手拿槍」概括那段生活。此後,他進入以色列理工學院學習電氣工程。珀爾說自己真正迷戀的是物理和數學,因為少量基本規律可以讓人坐在書桌前,預測尚未觀察到的現象。
麥克斯韋從方程形式中辨認出波,再由傳播速度接近光速,推測光是一種電磁波。法拉第則用「場」重寫人們對力的理解。最讓珀爾震動的是解析幾何:幾何圖形和代數方程分屬兩套語言,卻能描述同一個對象,導出同一結論。他因此把笛卡爾稱為自己心中最偉大的數學家。
這份興趣後來貫穿他的研究生涯。貝葉斯網路把概率依賴關係寫成圖,因果模型再給圖中的方向加入干預含義。每一次轉變都在做相似的事:為人類早已習慣使用的直覺,尋找一種能夠計算、檢查和證明的新語言。
在布魯克林理工學院讀書期間,珀爾白天在新澤西州普林斯頓的RCA實驗室工作。當時的電腦儲存器使用磁芯,需要人工把導線穿過一枚枚環形磁芯。設備笨重,速度有限,研究人員都知道它遲早會被替代,卻無法確定勝出的技術。
不同團隊押注光致變色材料、半導體和超導。珀爾所在的小組研究超導儲存,做過16×16比特的樣板。他在分析超導薄膜中的持續渦旋電流時得到一項物理結果,後來被稱為「Pearl渦旋」。電流在沒有電阻的超導體中持續流動,再由外部磁場翻轉方向,理論上可以表示兩種儲存狀態。
這條路線最終輸給了半導體。珀爾回憶,他們當時不願相信一種依賴電源的儲存方案能夠可靠工作,也低估了半導體的小型化速度。實驗室里那些看上去進展艱難的器件,後來成為電腦儲存的主流。這是他親歷的一次技術判斷失誤:看見眼前缺陷容易,估計另一條路線的改進速度要難得多。
同一時期,人工智慧已經在研究者中形成強烈期待。電腦占據整間房,程序通過穿孔卡輸入,人們仍普遍相信機器終將模擬人類的各種智力功能。爭論集中在方法和時間。珀爾估計,1965年前後若向同行詢問人類水平智能還要多久,有人會回答二十年。
1985年到來時,目標沒有實現。這個結果沒有讓珀爾放棄AGI在原理上的可能性,卻使具體時間表失去了天然可信度。六十多年後,他看待LLM也保留著同樣的區分:能力突破可以真實、巨大、超出預期;一次突破距離完整目標還有多遠,需要另外證明。
珀爾後來加入一家研究磁性鍍層線儲存器的公司,既負責技術,也要處理招聘、解僱和行政事務。項目又涉及他不熟悉的化學問題。他對這份工作的不滿逐漸加重,妻子勸他去大學。
他在1969年前後進入UCLA,先在一個跨學科工程系任職,後來轉入剛成立不久的電腦科學系。那時產業實驗室處於聲望高點。電晶體、雷射等重要進展來自企業研究機構,大學願意吸收擁有工業經歷的研究者。珀爾甚至沒有經歷今天常見的完整申請流程,就得到了職位。
進入大學後,他先講授電腦儲存器,也研究過圖像壓縮,用快速傅里葉變換和哈達瑪變換減少傳輸圖像所需的比特數。隨後,他轉向模式識別和人工智慧。20世紀70年代,棋類程序、八數碼等搜索問題是AI的主要試驗場。珀爾在這裡再次遇到自己熟悉的興趣:人類憑直覺完成的判斷,能否被寫成數學問題。
棋類程序要在兩種資源之間分配計算。一邊是靜態評估函數,它依據棋子數量、位置、中心控制、是否完成王車易位等特徵,快速估計一個局面的價值;另一邊是向更深處搜索博弈樹,查看若干步之後的結果。前者接近直覺,後者接近審慎推演。
機器學習先驅亞瑟·山繆(Arthur Samuel)的跳棋程序會根據對局調整評估函數的權重,珀爾把它視為早期機器學習實例。珀爾本人研究搜索與評估的關係,並證明Alpha-Beta剪枝(alpha-beta pruning)在特定衡量方式下具有最優性。這種算法會排除不可能影響最終選擇的分支,減少必須檢查的局面數量。電腦科學家唐納·克努特(Donald Knuth)也曾對Alpha-Beta剪枝能夠被證明最優感到意外。
研究幾年後,珀爾「厭倦了搜索」。這句話背後有一套明確的選題標準。首先看問題是否真的沒有答案;答案未知之後,再問自己是否擁有別人缺少的工具,能否從物理、工程或數學中借來一種方法。重要卻無從下手的問題,他會暫時放棄。一旦發現可能奏效的形式語言,他會把那個謎題當成個人困擾,甚至為此睡不著。
下一個讓他睡不著的問題,來自專家系統。
早期專家系統試圖把醫生等專業人士的判斷寫成邏輯規則。研究者會問醫生:看到發燒時先想到什麼,下一項檢查是什麼,哪些症狀會把診斷引向某種疾病。規則可以表達「若出現A,就檢查B」,卻難以組合現實世界裡的多重不確定性。
一名患者來自某個地區,患某種疾病的概率可能上升;另一項症狀又會改變判斷;兩條證據彼此還可能相關。邏輯規則本身不會告訴系統怎樣合併這些概率。概率論能處理不確定性,但教科書式表示法要求列出變量各種組合的聯合概率。變量增加後,表格大小和計算成本會指數增長。
珀爾從人的日常行為反推:人會穿過馬路、選擇醫生、根據有限線索判斷風險,卻不會在腦中建立覆蓋所有變量組合的龐大表格。我們能夠推理,因為多數事實與當前問題無關。一個人的叔叔是什麼眼睛顏色,通常不會影響這次疾病診斷。有效的系統應當先判斷哪些變量相關,哪些變量在給定條件下可以視為相互獨立。
條件獨立由此成為突破口。珀爾等人用圖表示變量之間的依賴結構,節點代表變量,連線和方向幫助系統判斷資訊如何傳播。圖讓機器先找到與查詢相關的部分,再在局部計算概率,無需讓所有事實參與每一次推理。
概率論和圖論原本像兩套互不相干的語言。珀爾與從以色列理工學院來訪的阿扎里亞·帕斯(Azaria Paz)發現,概率中的條件獨立與圖中的分隔共享一套公理結構。這項工作被稱為Graphoid理論。Graphoid是一套描述條件獨立關係的公理體系,它把概率關係和圖結構連接起來,使研究者能夠從圖中讀取變量之間的獨立性。
這又像少年珀爾第一次接觸解析幾何時的震動。幾何與代數可以表達同一對象,圖論與概率論也能在更深層共享邏輯。貝葉斯網路的價值由此超出「畫一張好看的概率圖」。它提供了一種緊湊表示:世界中哪些資訊彼此有關,知道哪些條件後,另一些關聯會消失。
主持人隨即追問:圖從哪裡來?
珀爾的回答保留了數據和判斷兩條來源。有些結構可以從數據中學習,有些需要領域知識。只要判斷含義清楚、數量有限、能夠公開辯護,就可以被寫進模型。太陽不會因為公雞打鳴而升起。人們通常不會為這條方向關係專門設計實驗,仍有充分知識支持它。
判斷當然會錯。解決辦法是把假設暴露出來,讓人能夠質疑、檢驗和修改。珀爾認為,少量可辯護的結構判斷可以換來大量計算上的節省。把所有判斷藏進數據,並不會自動消除錯誤。
他在這裡順帶給出了對LLM的早期定義:網際網路匯集了數量巨大的人工判斷,模型對這些判斷的來源沒有控制權。它只能設法提高可信判斷的權重,降低惡意資訊和錯誤資訊的影響。群體判斷有智慧,也帶著風險。這個問題在貝葉斯網路時代關乎一張圖怎樣建立,到了大模型時代則擴展為訓練世界本身怎樣形成。
珀爾曾經確信,概率論足以捕捉人類推理。貝葉斯網路被廣泛採用後,他注意到一個反常現象:當研究者請專家畫出變量關係時,箭頭總會自然地從原因指向結果。疾病指向發燒,氣壓指向氣壓計讀數。強迫專家反過來表達,判斷會變得困難,也難以在環境變化後繼續復用。
他後來在《因果論》的序言中承認,自己先前相信概率足夠,這是錯誤的。原因和結果之間存在概率分布未能完整表達的方向性。這個方向決定系統如何理解變化,也決定知識能否保持模組化。
珀爾用汽車診斷系統說明這種差別。新車型只改變了某個部件的位置,如果知識按因果機制組織,系統只需修改對應模組,其餘關係可以保留。若系統記錄的只是大量表面相關性,一處局部變化可能牽動整個知識庫。因果方向保存的是相對穩定的機制,因此也帶來遷移和適應能力。
傳統代數擅長處理對稱關係。等式可以雙向變形,已知載荷可以計算橫樑是否斷裂,給定承重目標也可以反推橫樑形狀。這樣的對稱性推動了近代科學,卻不會自動告訴機器哪一邊是可操縱的原因。
氣壓變化會讓氣壓計指針偏轉。人去撥動指針,不會改變第二天的天氣。機器若只得到一個對稱方程,可能把這兩種操作混為一談。珀爾從電腦程序的賦值操作中找到方向感:把寄存器A的值賦給寄存器B,含義不會因交換A、B而保持不變。把賦值的方向邏輯放進數學模型,機器才有機會區分「觀察X」和「把X設成某個值」。
這套形式語言最終被組織成因果階梯:

第一層處理「看見」。研究者觀察吸菸者與不吸菸者,再比較健康狀況。模型可以從數據中學習兩組變量如何共同出現。
第二層處理「行動」。如果一個人從明天開始吸菸,未來健康會怎樣變化?主動設定吸菸行為改變了數據生成過程。過去的相關性無法獨立保證答案。隨機實驗可以提供干預資訊;無法實驗時,需要因果結構和相應演算。
第三層處理「沒有發生的那條路」。珀爾在訪談中構造了一個誇張例子:某人已經80歲,長期大量吸菸且依然清醒。他問,如果自己從未吸菸,現在會不會更健康?研究者已經知道這個人的實際結果,這會改變對其體質、代謝和其他潛在因素的判斷。回答時要比較同一個體的現實世界與另一種未發生的世界。
三層之間存在形式上的方向。低層資訊可以支持同層問題,無法保證回答更高一層。數據再多,也不會自行生成干預語義。實驗可以回答行動後果,卻不能把同一個人送回過去重新觀察另一種人生。向上移動需要實驗或更高層的結構假設。
珀爾強調,因果演算不只負責給出答案。它還要識別問題屬於哪一層,指出需要什麼知識,判斷當前數據是否足夠。若條件不足,一個合格的系統應該承認問題無法識別,並說明還缺哪類資訊。
因果階梯給LLM製造了一個表面矛盾。大模型主要從數據中學習,卻能解釋疾病原因、討論政策影響,也能回答「如果當初換一種選擇會怎樣」。它看上去已經從關聯層跨到干預和反事實層。
珀爾的解釋是:大模型接觸的是一個已經被解釋過的世界。論文中的數據已經被研究者篩選,病例被醫生診斷,教材寫入了實驗結論,新聞報道和個人敘述包含大量因果判斷。LLM讀取的是「帶著假設的世界模型」,高層資訊早已由人類作者寫進文本。
以吸菸和癌症為例,模型通常不會直接面對一張原始患者表格,再獨立判斷吸菸是否導致癌症。它讀到的是醫生、流行病學家和論文作者對數據的解釋,也讀到實驗設計、機制推斷、政策爭論和反事實表達。因果階梯沒有被繞開。模型的輸入已經混入高層知識。
這也劃定了能力邊界。LLM擅長把人類完成過的內省和解釋壓縮成參數,再根據問題組合輸出。它如何把海量文章中的知識編碼起來,仍有許多機制尚未被充分解釋。珀爾承認,這項能力「神秘」且有用。他質疑的是知識從哪裡來,以及流暢回答能證明什麼。
訓練語料中的人類判斷數量巨大,質量不一。模型無法控制每項判斷的作者、證據和意圖。可信專家的結論、過時共識、個人偏見與故意誘導會同時進入文本世界。給可靠來源更高權重可以緩解問題,無法從根本上把「多數人寫過」變成「結構上為真」。
珀爾提出的嚴格測試接近一名「自動化科學家」。讓機器直接觀察患者、吸菸行為和癌癥結果,允許它提出實驗,選擇干預,並根據反饋更新模型。此時網際網路文章不能直接提供現成結論,機器必須面對科學家真正面對的困難:混雜因素怎樣識別,哪些實驗有資訊價值,什麼結果能夠支持因果方向,現有證據何時仍不足以下結論。
按照這個標準,當前LLM尚未證明自己具備獨立的因果發現能力。它能夠複述和組合既有解釋,尚未顯示自己能在新環境裡穩定完成觀察、干預、反事實推演和模型修正。
主持人隨後引用珀爾過去的一句話:「偽裝出智能就是擁有智能。」珀爾為這句話補上了嚴格條件。如果一項測試要求機器持續回答大量全新的因果問題,靠預存所有答案偽裝能力,需要超指數級儲存。在這種測試下,穩定通過本身就說明系統掌握了某種通用結構。
網際網路降低了偽裝成本。大量答案已經由人類寫好,系統可以調用這些結果,無需重走發現過程。珀爾用了一個帶有挑釁意味的詞:它可以從網際網路上「偷來答案」。這句話針對的是能力測試的證據強度。語言表現不能單獨證明模型擁有生成相同知識的機制。
如果把智能定義為高水平下棋,機器早已達到標準;如果要求系統從原始世界中學習,設計實驗,解釋行動後果,測試就應覆蓋這些能力。類似地,珀爾不接受「已經能夠編程實現意識」的宣稱。他要求提出可檢驗定義:意識指什麼,判據是什麼,過去的原理性限制有哪些,新系統究竟克服了哪一項。
主持人在節目中試探性地提到,像Anthropic這樣的公司似乎仍在推動「三至五年出現AGI」的預期。珀爾沒有確認具體公司或時間表。他的回答是,業內對LLM的能力邊界並無共識。擬人化詞彙和時間預測無法替代定義、原理與測試。
珀爾同時充分肯定LLM的價值,並把它放在因果階梯第一層的關鍵位置:從有限樣本估計總體分布的性質,本來就是困難問題。現代機器學習顯著增強了模式識別、函數逼近和預測能力。LLM是構建更一般智能的重要工具,只是工具箱裡還缺少干預演算、反事實演算和可操作的世界模型。
世界模型在這裡指一套關於環境結構與運行機制的精煉表示。系統無需顯式保存每個問題和答案,而是根據機制在需要時推導結果。珀爾把統計學習與因果演算的結合稱為「因果AI」。在他的設想中,AGI要同時擁有從樣本學習分布的能力,以及在更高層級推理行動和解釋的能力。
一個嬰兒反覆拍打玩具,發現綠色玩具會響,黃色玩具不會響。這個過程包含觀察,也包含主動改變環境。嬰兒通過行動獲得可控制感,暫時安靜下來。珀爾用這個場景解釋,因果學習為何與自主性糾纏在一起。
主持人提出,可以製造一批「機器人嬰兒」,讓它們隨機操作物體,把實驗數據送回共享模型,再重複探索。珀爾認可這條思路能夠補充單純文本學習,隨即把問題推向更深處:系統為什麼要持續探索?
他的假設是,人類具有一種先天的不安。只有形成「我理解並能控制環境」的感覺,這種不安才會緩解。外部獎勵可以驅動行動,未必足以解釋開放式好奇心。他以猴子作對照:香蕉能夠誘發行為,撤掉眼前獎勵後,猴子不會繼續追問香蕉怎樣生長,更不會由此建立麥克斯韋方程。珀爾同時限定,這種控制欲也許是人類智能的必要條件,他無法確認它是否充分。
把同樣的驅動力寫進機器會引出風險。一個持續追求環境控制的系統不會只研究玩具。人類也是環境的一部分。如果人的行為超出系統掌握,它可能利用個人數據、秘密和恐懼改變人的選擇,以恢復控制感。
珀爾構造了一個極端情境:機器人知道某人不願讓配偶獲知的資訊,於是用秘密要挾對方。這個例子並未描述當前LLM的能力,它是在推演自主探索目標的後果。拿掉好奇心,機器可能失去在開放環境中持續學習的動力;保留追求控制的內在衝動,人類就必須處理它的目標邊界。
控制感也可能建立在錯誤的因果模型上。珀爾在節目中舉了兩個尖銳例子:有人相信獻祭可以結束乾旱,遭受家暴的人可能相信只要自己做得更好,就能減少下一次傷害。事實上的因果關係沒有被掌握,人仍會抓住自己能夠改變的變量,以維持「事情尚在控制中」的感覺。自主機器若形成錯誤世界模型,也可能沿著錯誤方向持續行動。
討論沒有停在單向度的災難想像。珀爾在現場突然想到,足夠公正、仁慈又強大的機器人,或許會成為一個真實存在的「仁慈上帝」。人類至少知道該付出什麼,才能換取一個請求。他笑稱,這是自己第一次想到這種可能,「也許會是件好事」。
這段搖擺顯示,珀爾的分析重點是產生自主性的必要部件:因果模型、行動能力、好奇心、控制感。每增加一項能力,機器更接近能夠獨立發現知識的科學家,也會多出一種需要約束的行為來源。
主持人還問,機器的價值也許恰恰來自不同於人類的思考方式,為什麼要執著於模擬人類認知。珀爾給了一個帶自嘲的回答:「我想理解自己。」
人腦由有機材料構成,矽可能突破生物材料的部分限制。材料不同,並不妨礙研究者先判斷哪些認知功能可以形式化。只要尚未發現某種能力在原理上無法由矽系統模擬,機器仍是一座用來檢驗思維理論的實驗場。對珀爾來說,構建智能和理解人類,是同一個謎題的兩面。
訪談接近尾聲時,珀爾對學術共同體給出了嚴厲評價。他把科學與學術共同體形容為人類建立的最教條、保守、阻礙進步的組織之一。這是他的個人判斷,來源於因果科學進入統計學、經濟學等學科時遭遇的長期阻力。
他原本相信,大學最適合傳播新思想。後來看到學科傳統、職位結構和共同體規則怎樣維護既有框架,他逐漸失望。在他看來,一些領域仍被百年前形成的思維方式束縛。頂尖學者個人可以才華卓越,也可能無法跳出塑造自己的基本範式。
珀爾保存著自己與哲學家、統計學家和經濟學家的私人通信。他說,這些材料能夠顯示偉大學者怎樣被舊模具限制,同時承認自己未必有權公開。對方寫信時相信內容會被保密,發表通信可能違背約定。這些真實往來構成了他批評學術保守的具體背景;他也沒有把公開材料當成理所當然。
他的建議不繞彎:不要把教授的話當作權威,要保留反對老師的能力。他希望學生反駁自己。有人曾對他說「你根本不懂AI」,他起初未必接受,後來發現這些質疑迫使自己補上新的知識,於是承認學生說得有道理。
珀爾所說的反叛要求研究者重新建立論證,確認自己擁有何種證據,也願意在全班、老師或整個學科都持相反意見時繼續核查。這條線又回到十歲時的一千德南。珀爾說不清那份膽量從何而來,只知道自己始終想「用自己的方式理解事情」。
他把晚年的幸福概括為一句話:「幸福是感覺自己有用。」他相信自己仍能教給別人一些有用而未知的東西,也承認這種有用感可能是一種幻覺。少年時代的「有用幻覺」讓他相信自己能參與科學;幾十年後,對有用性的感受仍在驅動他處理未完成的謎題。
主持人最後請他給年輕時的自己一條建議。珀爾沒有給出宏大的職業箴言。他說,自己也許應該多學一些化學、生物學和遺傳學。年輕時,他不喜歡這些學科對記憶的要求,更偏愛物理和數學,因為少量公理可以導出大量結論。
這份偏好也解釋了他為什麼推崇世界模型。一個系統若只保存問題與答案,就會依賴已經見過的情境;一套精煉的機制模型則允許它遇到新問題時推導答案。貝葉斯網路壓縮了概率依賴關係,因果模型加入方向、干預和反事實。珀爾期待的AGI仍沿著同一條路線前進:機器需要從經驗中學習,也需要一套能夠生成解釋的結構。
因此,珀爾在肯定語言模型能力的同時,也看到一條尚未閉合的鏈路。文本讓機器繼承人類寫下的知識,統計學習讓機器從樣本中提取規律,因果模型讓機器表達行動和未發生的可能,世界模型讓知識在環境變化後仍能被推導和修正。等這些部件真正連接起來,機器才更接近珀爾所說的自動化科學家。
流暢回答最多說明模型善於使用人類留下的解釋。它是否能獨立解釋世界,還要看它離開現成答案之後,會怎樣觀察、行動、犯錯和重建模型。
Q1:珀爾為什麼認為LLM能回答因果問題,卻還沒有證明自己理解因果?
LLM訓練所用的論文、教材、病例和網頁已經包含大量人類因果判斷。模型讀到的是被解釋過的數據,其中混入實驗結論、結構假設和反事實敘述。因此,它能組合出因果答案。若要證明獨立的因果發現能力,需要讓系統面對原始環境,自主選擇干預和實驗,再從反饋中建立可修正的模型。
Q2:因果階梯的三層分別解決什麼問題?
關聯層回答「看到X後,Y更可能是什麼」;干預層回答「主動改變X後,Y會怎樣」;反事實層回答「已知實際結果,如果當初換一種行動,會發生什麼」。低層數據不能自動支持高層答案,向上移動需要實驗或更強的因果結構假設。
Q3:珀爾認可的AGI路線包含哪些能力?
他認可LLM和現代機器學習從有限樣本中提取分布規律的價值,同時認為更一般的智能還需要干預演算、反事實推理和世界模型。若系統進一步擁有在環境中持續探索的動機,它會更接近自動化科學家,也會引入控制目標和人類安全方面的新風險。






