在矽谷，有一個越來越常見的社交問題，你的p(doom)是多少？
P(doom) 指的是 AI 導致人類世界末日的概率，這個數字越高，意味著 AI 帶來世界末日的時間越近。
聽起來有點難以相信，但它確實已經成了技術圈最熱門的談資。
Anthropic 的 CEO Dario Amodei 給出的答案是 10% 到 25% 之間。
之前擔任了五分鐘的 OpenAI CEO Emmett Shear 估計是 5%-50%。
深度學習教父 Geoffrey Hinton 說如果不加以監管，AI 在未來三十年導致人類滅絕的概率是 10%……
Geoffrey Hinton
換句話說，最害怕 AI 末日的那群人，恰恰是那些正在創造 AI 的人。
事實也是如此，紐約時報曾報道了身處 AI 末日論中心的 Anthropic，這是一家由前 OpenAI 員工創立、號稱更注重安全的公司。
報道中提到 Anthropic 總部的氛圍，是一種無處不在的緊張。員工們不擔心程序代碼出問題，擔心的是自己親手打造的 AI 可能會被用來做可怕的、且具有毀滅性的事情。
其中一位員工透露自己常常因為過度憂慮 AI 而徹夜難眠，另一位員工則是平靜地表示，未來十年內，失控的 AI 毀滅人類的概率有 20%。
當被問到，既然這麼擔心，為什麼還要去打造更強大的 AI？Anthropic CEO 的解釋是，
你沒辦法通過駕駛一輛斯巴魯來學習怎麼避免 F1 賽車的撞車事故，只有親手打造最前沿的 AI，才能理解其中的風險並研究安全的策略。
他們甚至把自己比作當代的奧本海默，並說這種恐懼並不是刻意營造的，是當他們親眼目睹自己技術的進化速度時，產生的自然反應。
無論是真心的，還是有營銷的成分；當 AI 末日可能來臨的信念，從假設變成許多人心中的大概率事件時；它已經是真實地，開始影響到了很多人的生活方式。
有人發誓不談戀愛開始專心建造自己的生存避難所；有人說 AI 什麼都知道，我要從「智性戀」轉到「顏性戀」，美貌身材才是稀有氣質；還有人乾脆把自己的存款都花在了「末日狂歡」上……
商業內幕最近採訪了一群被稱作 AI Preppers（AI 末日準備者）的人，他們同樣把 AI 看作潛在的末日威脅，並採取了各種匪夷所思的措施。
這就是一場正在上演的末日生存遊戲
Henry 是矽谷的一名 AI 研究員，在他看來，AI 在未來幾年內強大到對全人類構成生存威脅的概率，高達 50%。
於是在他的空閒時間，他通過建造 DIY 生物避難所，來為失敗的可能性做準備，以保護他和他的家人免受 AI 末日的影響。
Henry 的計劃極具代表性。他發現，建造一個能抵禦 AI 釋放的致命病原體的生物避難所，其實非常簡單。
首先，購買一個市面上常見的正壓帳篷（通常是用於植物種植），在進氣口前堆疊多層專業級 HEPA 過濾器，最後，儘可能地塞滿保質期長的食物、水和補給品。他估算，整個避難所加上夠吃三年的食物，成本可能還不到 1 萬美元。
然而不久後，Henry 覺得這個計劃還是太小了。他現在開始打算直接購買一塊地，建造一個能保護更多朋友和家人的永久性防禦設施。
他設想的最主要場景是被錯位的超級智能 AI 接管世界。他說，如果 AI 在戰勝人類後還存有一絲同情心，或許會把倖存者安置在某種「人類動物園」里。
Henry 的恐懼聽起來很荒誕，但是他說自己已經全身心投入到「打造 AI 避難所」這件事情上，甚至發誓不再談戀愛，每年把收入的三分之一捐給 AI 安全組織。
他也知道「prepper（末日準備者）」這個標籤在矽谷圈子裡很容易被人笑話，尤其是如果他的恐懼沒有成為現實，而是人類取得了勝利的話，他會更尷尬；所他要求記者給他打了個化名。
雖然可能會被人笑話，但這種恐懼另一方面又很真實，因為它真的催生了新的商機。
一個完全裝備的庇護所以及兩名居住者在裡面，圖源自網路
斯德哥爾摩的企業家 Ulrik Horn 創立了一家名為 Fonix 的公司，專門銷售這種現成的生物避難所，配備高級空氣過濾器，售價 39000 美元，預計 2026 年開始出貨。並且，已經收到了一些預訂單。
威奇塔州立大學商業分析助理教授 Ross Gruetzemacher 正在創辦一家「resiliency 適應力」諮詢公司，幫助企業和個人，為 AI 以及其他生存風險帶來的重大衝擊做準備。
他還購買了懷俄明州的土地，計劃在那裡建造自己的安全設施。
遊戲就是用來玩的，末日倒計時下的即時享樂
如果說 Henry 代表了理性的恐懼，那麼另一群人則選擇了感性的狂歡。
他們的邏輯是：如果 AI 真要在幾年內帶來毀滅，那攢錢、計劃未來都沒有意義。不如做遺願清單，把重要的事都提前完成。
Aella 是舊金山灣區一位網紅，對 AI 可能毀滅人類的擔憂，反而讓她在很多方面變得很自由。商業內幕採訪了她關於 AI 發展的擔憂。她說，
我喜歡舉辦奇怪的狂歡派對，我心想，反正我們都要死了。我們還能搞出什麼更怪、更瘋的派對？現在就做吧！
看起來是 AI 成了讓自己過這種「享樂」生活的藉口，但也有人真實的開始為這個末日倒計時寫下「享樂清單」。
Vishal Maini
舊金山的風險投資家 Vishal Maini，也是前 DeepMind 研究員，他認為面對不確定的未來，我們應該抱有一種「遺願清單的心態」，在有限的時間裡去做對自己真正重要的事。
他倡導的是一種「paleo-futurism 原始未來主義」——在一個充斥著 AI 伴侶和多巴胺數字體驗的時代，有意識地選擇留在現實世界，優先考慮真實的人際互動。
前 OpenAI 研究員 Daniel Kokotajlo 早在 2020 年就停止為退休儲蓄了。
他認為，AI 帶來的生存威脅讓長達數十年的儲蓄計劃變得荒謬。他計劃從現在開始慢慢花掉自己的積蓄，然後說他認識許多其他 AI 研究員也在這樣做。
Trenton Bricken 參加播客節目，左二
確實是這樣，OpenAI 的競爭對手 Anthropic 的研究員 Trenton Bricken 也在播客中分享說，他已經停止為退休存錢，因為他很難想像自己 60 歲時世界會變成什麼樣。
不過也有人認為從現在開始要積極存錢，因為 AI 末日的到來會讓他失去工作，而在這期間，就是他們能把握住的，唯一賺錢的機會。
Haroon Choudery 是一位人工智慧初創公司創始人，他就認為未來幾年是他積累世代財富的最後機會。
腦子交給 AI，臉和身材才是新的關鍵
除了是否要極限生存還是即時享樂，另有一批人則開始從社會價值的角度，重新規劃人生。
如果 AI 真的能在幾年內取代大部分智力勞動，那人類之間的競爭優勢會是什麼？他們的答案會是：顏值和魅力。智力已經過時了，只有美和力量，才是關鍵。
生物醫學數據科學家 Apoorva Srinivasan 在 2024 年結束了一段長期關係，因為 AI 的發展，她說自己在選擇伴侶上要開始考慮一些不同的東西。
過去她更欣賞聰明智慧的男性，現在她認為，既然 AI 能完成越來越多的智力工作，原始智力的價值就被稀釋了。相比之下，個人魅力、社交能力和外表的吸引力變得更為重要。
不僅僅是感情上，在事業的規劃上，因為 AI 的智力，一些人的職業選擇也開始出現了轉變。
AI 顧問 Jason Liu 之前是一個軟體工程師，因為手部損傷讓他的工作停滯不前。
他重新規劃了自己的生活，接受商業內幕採訪時，他說自己正在巴黎街頭漫步，沉浸於休閒就是他對於 AGI（通用人工智慧）的理解方式。
目前他把時間花在柔術和陶瓷等休閒愛好上，同時開創了自己的第二份職業——諮詢顧問。他說，
我個人不想因為我的智慧而被重視
我覺得這種智慧在身體上傷害了我，導致我失去了工作。
當然，並不是每個人都開始為 AI 末日的到來，而變得極端。
范德比爾特大學的哲學助理教授 David Thorstad 就提醒說，「在灣區這樣聰明人扎堆、資訊高度同質化的地方，人們很容易沉浸在某種關於 AI 的極端世界觀中而無法自拔。」
X 上也有網友吐槽這樣的 AI 末日論，其實完全是「自己嚇自己」，那些說 AI 能夠如何的人，可能都不一定懂 AI 到底是怎麼一回事。
但這些真實的案例，確實不禁讓我想到了 2012 年，同樣被說可能是世界末日，一些人開始搶購火柴和蠟燭。
多年以後，AI 末日沒來，我們可能還是會回頭笑這些「AI Preppers」的荒唐，就像今天笑 2012 年的世界末日一樣。
