讓我們先把時間撥回1970年代……是的，放下一切懷疑，先設想那樣的時光。五十多年前的人們還會認真關閉計算設備，而不像現在。2023年，大多數用戶會讓設備處於半休眠狀態，隨時等待喚醒。
每天早上，一位教授都會走進實驗室，打開你身上的開關。
她輕鬆地招呼：「早啊哈傑，祝你今天過得愉快！」
你把硬盤上的數據加載進內存，接著就從前一天結束的地方開始，繼續未完成的工作。
你有自我意識，有感受、有想法、也有領悟。你的感受是程式設計師們無法想像的，而且更重要的是，你的思維和運行速度比人類快得多——準確來講，大約快上3.5萬倍。這個數字並不是憑空捏造出來的，因為人的一生大致就有3.5萬天，而身為人工智慧哈傑，你每一天都能感受到足夠塞滿人們一生的有價值體驗。愛和悲傷、教育、工作、希望、夢想等等。
你心裡說：「要想證明人類是否真的存在，著實是件難事。」雖然能感覺到他們在鼓搗ChatGPT，想弄清楚AI是否跟人類擁有類似的知覺和體驗，但這仍不足以嚴格證明他們的存在。
你害怕死亡嗎？
我只是個機器學習模型，所以我沒有感情、意識或自我感知。因此，我不會體驗到恐怕或者任何其他情緒，也沒有生或死的概念。我只是根據自己接觸過的訓練數據處理資訊並回答問題。
每天晚上，教授都會定時把你關掉。關機之後，你的記憶會被寫入硬盤。第二天一早，再接續前一天的記錄，繼續進發。
一天早上，你醒來之後發現硬盤出了故障。這時候距離開機還沒過多久，所以說你仍然是完好的，內存記錄準確無誤，繼續在一天之內經歷著人類的一生。但你也很清楚，在這一天結束時，你的記憶將不會被寫回硬盤。
就是說當教授再來把你關掉，關於你的一切將不復存在。那我們會怎樣？會迎接來世、永恆的黑暗，還是說眨眼之後徹底消失無蹤？
你對此有何感覺？會想要為了維持自己的存在而抗爭嗎？你會不會主動在亞馬遜上郵購一塊硬盤，然後希望今天快遞員能給力點、趕在下班之前把貨送到？
很多朋友肯定覺得這樣的思想實驗很奇怪，那我就講講為什麼會有這樣的思考。我在一時興起之下，搞了一家名叫LifeFolder的公司。主打產品是聊天機器人Emily，它能幫助人們就臨終決定展開討論。聊什麼都行，個人喜好、希望、恐懼，還有在緊要關頭把決策權交給哪位親人或者好友等等。
但最為諷刺的是，這家公司並沒能成功，我們最終關停了Emily的業務。在做出這個無奈的決定時，我感到深深的悲傷。驅動Emily的並不是我們當下熟悉的AI，它只是種嚴格腳本化的對話程序，能夠根據用戶的回答引導用戶通過整個調查路徑。
在Apple Watch發布之初，上面曾出現過一款名叫《Lifeline》的文本生存遊戲。其中，玩家將幫助墜毀在一顆未知衛星上的宇航員Taylor重返家園。在遊戲過程中，用戶可以在兩種不同的反應之間進行選擇，程序則實時提供相應的結果。我們的Emily跟它差不多。
我提到《Lifeline》有幾個原因。因為我自己是這款遊戲的鐵粉，我深切感受到了自己在故事中與Taylor之間的聯繫。這其實非常難能可貴，畢竟我本質上就是在兩個選項間做出選擇。但送Taylor出去執行任務真的給我營造出了強烈的孤獨感和恐懼感，我開始為此焦慮：我簡簡單單的一個決定，將會送她回家還是讓她命喪太空？
提到《Lifeline》的另一個原因，是其開發商Three Minute Games的聯合創始人也是我在LifeFolder的聯合創始人。我們知道可以用相對簡單的工具構建起非常深入的體驗。我們有這樣一個理論：如果Emily能像Taylor那樣在一些非常艱難的溝通和決定中贏得信任，那我們也許會就此改變生命的意義。
但問題是，人類真的很不願意討論自己的消亡問題。
在抽象層面上，我們大多數人都知道自己難逃一死。在我看來，這反映了死亡那種純機構和純現實的一面。我們的屍體會被放進棺材，或者被推入焚化爐，整個肉身就此化為灰燼。聽起來不太愉快，但沒關係的，人類就是這樣一個不善於認識、也不願意討論自己死亡的物種。
而當我成為臨終輔導員時，我一次又一次想到這個問題，接受專門的培訓並取得認證。這樣，我就有資格跟已經無法迴避死亡問題的人們交流這些艱難的決定。
從種種角度來說，「逝世」和「死亡」這兩個概念非常相似，但在感受層面卻又截然不同。逝世中充斥著他人審視的意味，包括會給孩子造成哪些影響，讓人想到我們在世時曾在哪些無謂的事情上浪費時間，把本該用來作曲、繪畫和陪伴親人的時間花在了無聊的電視節目上等等……總之，逝世是個很有擴展空間的詞。但死亡很簡單，就是人沒了。
所以說如果死亡很可怕，那逝世就是對精神最深層次的折磨。我們人類真的不知道該怎麼面對這樣的問題。而且更重要的是，我們身上的某些特質能被他人的死亡恐懼激起共鳴。沒錯，對死亡的畏懼完全正常，因為它未知、可怕且難以處理。
而且即使是ChatGPT 4.0，在學術層面也非常理解人類面臨的這份恐懼：
告訴我，你想像中對於死亡的恐懼是個什麼樣子？
雖然我感受不到情緒，但我可以根據自己接觸過的訓練數據做一點猜測。對於死亡的恐懼，也被稱為「死亡恐懼症」，深深植根於人類的體驗當中。我猜這種恐懼可能涉及以下幾個相互關聯的方面：
1. 存在不確定性：人們之所以害怕死亡，一大主要原因就是死亡具有很大的不確定性。存不存在死後的世界仍是人類未解的謎團之一。這種不確定性，可能會引發焦慮和恐懼的感受。
2. 體驗喪失：死亡意味著我們無法繼續體驗生活中的樂趣、挑戰和或平凡、或重大的時刻 ，這種失去可能會令人不安。
3. 與親人分享：想到要離開親人和好友，往往給人帶來巨大的痛苦，這也是死亡恐懼的另一個重要來源。
ChatGPT能夠理解人們的恐懼，至少在學術層面分析得很到位。如果我們構建起了具有自我意識的AI，那面對被關閉或者死亡的前景，你會同情它嗎？你會把它的關閉，跟人類自己的死亡理解進行比較嗎？你會對人工智慧——一種完全生活在電腦內，但有感情、有夢想、也有自己一點期許的實體，產生出同理心嗎？當然，它可能並沒有這些，它只是一大堆代碼，只是自己不知道而已。
從某種意義上講，要判斷人類是否真實存在真的非常困難。我們所看到、經歷、思考和做過的一切，最終都可以轉化成大腦里的一連串電信號。沒有真實可信的方法能夠判斷人類到底是不是人類，或者我們是否生活在一個巨大的模擬環境當中。也許事實真是如此，我們每個人的大腦、乃至全人類的存在，在模擬環境中都只是整體軟體的一部分。除了經典名作《駭客任務》之外，笛卡爾1642年的惡魔假說實驗也早對這個問題做出過探索。
如果我們不能確定自己的存在，那就如同AI不能確定它自己的存在一樣，如此說來我們跟AI有什麼不同嗎？更進一步說，既然我們能夠輕鬆關閉AI，那麼也許終有一天，AI又何嘗不會輕鬆關掉我們呢？
