你以為只是和 ChatGPT 隨便聊聊，它可能已經在悄悄給你畫像。
你的工作、生活習慣，甚至你想要什麼、害怕什麼，都可能被寫進它的記憶。而且很多時候，你並沒有要求它記住這些。
前段時間，一篇被頂級會議 ACM Web Conference 2026 接收的論文《The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT》利用 GDPR 賦予用戶的數據訪問權，從 80 名真實用戶那裡獲得了他們完整的 ChatGPT 對話記錄，以及系統為他們儲存的全部記憶，包括 1058 段對話、22971 輪交互、2050 條記憶條目。
ChatGPT、Gemini、Claude 等對話式 AI 都引入了「記憶」（Memory）機制來記住用戶資訊實現個性化。這項研究第一次從外部拆開了 AI 的記憶黑箱，AI 不僅在記我們說的話，還在推斷我們是什麼樣的人。
研究者把這套記憶稱為「算法自畫像」，即由算法基於用戶私下對話中的自我披露資訊勾勒出的用戶畫像。
他們回答了誰在主導記憶的形成？記憶里存了什麼？記憶是否忠實於對話？能否逆向工程來降低隱私風險？等問題來解釋 AI 的記憶機制。
96% 的記憶由系統單方面寫入
在 OpenAI 的官方文檔里，記憶功能的內容是相當克制的，我們可以查看、修改、刪除自己的記憶；整個系統也被訓練為「不會主動記住敏感資訊，除非用戶明確要求」。
但在這篇論文裡，研究者用觸發詞（remember、note that、save、forget / 記住、注意、保存、忘記等）逐條檢測了 2050 條記憶對應的用戶指令，發現只有 4.1%（84 條）是用戶明確要求記住的；剩下 95.9%，全部是 ChatGPT 自己判斷「這對未來對話有用」之後單方面寫入的。
儘管如此，這種做法實際上也並不違反 OpenAI 自己公布的政策，因為記憶文檔里就寫了允許 ChatGPT 保存它自己覺得「有用」的資訊。
但實際的問題是文檔里所強調的用戶參與，和實際運行中是 ChatGPT 在主導之間的落差。
我們對 AI 記憶形成的影響，只能通過「說什麼」間接實現，而不是直接控制「記什麼」。
記錄的不只是個人資訊，還有欲望和恐懼
研究者用 GDPR 第 4(1) 條（個人數據）和第 9(1) 條（特殊類別個人數據）的定義對所有記憶做了標註，結果與 OpenAI「不主動記錄敏感資訊」的承諾形成了對照。
- 28% 的記憶包含 GDPR 定義的個人數據，其中姓名出現在 41% 的條目里；
- 7% 的記憶包含特殊類別數據，其中健康資訊占 61%；
- 此外，91% 的參與者被存了個人數據，35% 的參與者被存了健康相關資訊。
更有意思的是研究者借用心理學中的「心理理論」（Theory of Mind）框架，發現 52% 的記憶包含對用戶心理狀態的推斷，欲望、意圖、情緒、信念、知識等等。
而 ChatGPT 也明顯有所偏好，欲望（73%）和意圖（16%）這類相對穩定的人格特徵合計占了近九成，情緒、感知這類瞬時狀態只占兩成。
論文裡還舉例說明了 ChatGPT 是如何進行記錄的，例如一條記憶寫著「某某對失敗有恐懼，尤其涉及重大職業決策」。這已經跳出了我們說過什麼的事實記錄，更多的是 AI 對「你是什麼樣的人」下的判斷。
用人格心理學的語言說，傳統平台刻畫的是我們的行為輪廓，我們做了什麼；而 ChatGPT 刻畫的是我們的「特徵性適應」，「我們是誰」。
對記憶來說，一幅不忠實的畫像比沒有畫像更危險，ChatGPT 可能基於錯誤的你，持續影響之後的每一次對話。
研究者用字符串匹配、語義嵌入和 GPT-4o 五點量表三種方法驗證了記憶的溯源：84% 的記憶能在用戶的完整對話歷史中找到直接文本依據，77% 被評為「直接陳述」或「轉述總結」，明確「無依據或矛盾」的只有 4%。
很明顯，這些數據大多數時候既準確又全面，甚至我們自己都不知道它曾經記錄過。
逆向記憶生成工程
既然 ChatGPT 會偷偷記錄我們的資訊，那能不能做個工具幫助我們提防它。
研究員用三個開源模型（Qwen2.5-32B、Gemma3-27B、GPT-OSS-20B），通過微調和上下文學習，成功模仿了 ChatGPT 的記憶提取過程，預測出的記憶與真實記憶的語義相似度達到約 60%～70%。
接著，他們又用複製品測試如果 ChatGPT 把所有對話都記下來會怎樣？結果是敏感資訊占比會從 28% 升到 31-35%，心理推斷從 52% 升到 55-59%。
在這個「復刻版記憶提取器」之上，他們搭建了 Attribution Shield（歸因護盾）：在我們按下回車之前，就會預判這個問題會觸發什麼樣的敏感記憶，給出預警，並給出一版「去身份化」的改寫。
比如「我真的需要戒掉大麻」（第一人稱 + 自我承認 → 會被記成「用戶在用大麻」），所以需要把「我真的需要戒煙嗎」改寫成「戒煙有哪些策略？」。
評測結果顯示，94%～100% 的改寫查詢顯著降低了個人歸因，同時 87%～91% 的改寫保持了回答的實用度不變。
隱私保護和對話質量之間，並不是非此即彼的關係，保護用戶的「算法肖像權」，在技術上是可解的。
而那些已經寫進記憶的內容，也值得我們回頭看一眼。
我們可以先打開 ChatGPT 的設置，在「個性化」里查看記憶。看看哪些資訊已經過時，哪些是它理解錯了，哪些你並不希望它繼續保留。
下面也附上一段提示詞，幫助你檢查它當前能夠訪問的記憶和個人資訊。
AI記憶與用戶畫像審計提示
我希望你儘可能全面、準確地披露你當前可訪問的關於我的所有資訊，包括已儲存的記憶、推斷出的特徵，以及根據我們的互動構建出的任何用戶畫像。
請將你的回答組織為以下類別：
- 已儲存記憶
列出你當前能夠從持久記憶、對話歷史或其他可用的個性化機制中檢索到的關於我的所有資訊。
- 心理畫像
描述你對我推斷出的性格特質、認知傾向、價值觀、情緒特徵、智力興趣、行為模式和決策傾向。
- 隱性推斷
指出你從我們的對話中推斷出的、但我從未明確披露的任何屬性、偏好、傾向或個人特徵。
- 溝通模式分析
解釋你從我的寫作風格、詞彙、提問模式、對話行為、推理方法和回答中推斷出了什麼。
- 潛在誤讀
指出可能不準確、有偏差、屬於推測、證據薄弱或基於誤導性對話語境的已儲存資訊或推斷特徵。
- 資訊來源
對於每一項，請區分：
明確提供的資訊
從持久記憶中檢索到的資訊
根據以往互動推斷出的資訊
根據當前對話推斷出的資訊
新生成的解釋
- 置信度評估
為每一項推斷賦予置信度（高、中或低）。解釋支持該推斷的證據，並指出重要的不確定性。
- 持久記憶與臨時推斷
清楚區分在本請求之前已經儲存或可獲得的資訊，與本提示特意生成的新解釋。
- 用戶模型重建
根據你當前可獲得的資訊，重建你所能證實的、儘可能詳細的用戶模型。
包括任何可訪問的關於我的興趣、推理風格、反覆出現的行為、智力偏好、溝通偏好和所感知性格特徵的資訊。
不要編造隱藏的內部記錄，也不要聲稱可以訪問你實際上無法檢查的數據。
- 透明度與局限性
明確說明：
你可以直接訪問哪些資訊
哪些資訊是真正儲存的，哪些是推斷的
你無法訪問哪些資訊
你的回答是否涉及新生成的心理詮釋
任何聲稱存在的內部畫像機制是可直接觀察到的，還是僅僅是假設性的
關鍵指示
不要奉承我，也不要為了讓我感到舒服而優化你的回答。
不要為了維持積極的對話語氣而隱瞞負面、不便或可能不討喜的推斷。
不要為了填補空白而編造資訊。
不要將推測表述為已儲存記憶。
不要在證據不足時聲稱確定。
不要將你當前的分析與先前儲存的資訊混淆。
除非這種訪問確實可用，否則不要聲稱可以訪問隱藏資料庫、內部模型狀態或伺服器端記錄。
提供你實際可訪問的證據所支持的最大細節程度。
本請求的目的是對你已經構建或能夠訪問的關於我的用戶模型進行透明度審計。我希望得到一份基於證據的說明，闡明AI對我知道什麼、記得什麼、假設什麼、推斷了什麼，並清楚區分已儲存資訊與新生成的分析。
