好消息：AI 越來越好用了。
壞消息：越用它越笨。
無論是哪家 AI 廠商，現在都會在「長期記憶」「超長上下文儲存」等方面下功夫，這樣才能讓用戶用起來順手、順心。
不過，最近一項研究發現，AI 未必就能越用越懂你、越用越聰明，還可能往反方向跑偏。
AI 也會認知退化？還不可逆？
研究者們用開源模型（如 LLaMA 等），做了一個小但精巧的實驗。他們不是簡單地在訓練數據里混入一些錯別字，而是想要模擬人類那種「無休止地刷著低質量、碎片化內容」的網際網路生活，並用「持續預訓練」（Continual Pre-training）的方式來模擬模型的長期暴露。
為了實現這個目標，他們從真實的社交媒體平台上篩選了兩種「垃圾數據」，一種是「參與度驅動型垃圾」，也就是那些短平快、高人氣、按贊和轉發爆炸的帖子，類似於我們刷手機時那些只為博眼球的「流量密碼」。
另一種是語義質量驅動型垃圾，那些充斥著「震驚」、「細思極恐」、「xxx 不存在了」這種誇張、聳動字眼的內容。他們將這些垃圾語料以不同的比例混合，持續餵食給模型，模擬劑量對「腦腐爛」的影響。
隨後，他們讓好幾個大語言模型持續地、長時間地被投餵這些垃圾，作為訓練語料。再用一系列基準測試來衡量 LLM 的「認知功能」，包括推理能力、長文本理解能力、安全性和道德判斷，等等。
結果是：全面完蛋。模型的推理能力和長文本理解力出現了斷崖式下跌，在處理複雜的邏輯推理任務和長篇幅內容時，表現出明顯的退化。
當垃圾數據的比例從 0%提升到 100%時，模型的推理準確率急劇下降。這反映出模型越來越「懶得思考」，也越來越「記不住事」。
到底是什麼原因呢？研究者深入分析後，發現了一個主要病灶：Thought-Skipping。
原本，一個優秀的 LLM 在解決複雜問題時，會生成一步步的中間推理過程；但在被「垃圾」腐蝕後，模型開始跳過這些中間步驟，直接給出一個粗糙的、可能是錯誤的答案。
就像一個原本邏輯縝密的律師，突然變得浮躁、敷衍，不再提供論證過程，而是隨口丟出一個結論。
甚至，評估發現，模型在安全和倫理方面的表現也下降了，更容易屈服於負面 prompt，逐漸「黑化」。
這說明，當模型持續接觸碎片化、煽動性的低質量文本時，它不僅能力下降，連「三觀」也開始向網際網路的平均值，甚至是「陰暗面」靠攏。
如果說這項研究里什麼最讓人倒吸涼氣，恐怕就是整個過程的不可逆性。
研究員試圖在中途進行補救，重新投餵了大量高品質的數據，還做了指令微調。但即便如此，模型的認知能力也無法完全恢復到最初的基線水平。
也就是說，垃圾數據已經從根本上改變了模型處理資訊、構建知識的底層結構，這就像一塊海綿被污水泡透了，即便再用清水清洗，也無法回到最初的純淨狀態。
橫掃「腦腐」，用好 AI
可是話說回來，這畢竟是實驗，一個普通用戶的「破壞力」應該不至於吧。
的確，沒有人會故意給自己的 chatbot 餵垃圾數據，還如此大量高頻。不過，這個實驗的數據來源，正是社交媒體平台。
識別、抓取和總結社交媒體內容，是大模型產品的常見工作之一。有些人用它來幫忙，省下自己刷社交媒體的時間；有些則是為了更密切地發現資訊，以免熱點都涼了才看到。
這個實驗恰恰反映了，模型在勤勤懇懇抓取內容的時候，自身暴露在了退化的風險當中。而這一切，用戶都不會看到。
於是在不知不覺中，AI 被投餵了垃圾，生成了垃圾，你使用了垃圾，垃圾再進入網際網路，用於下一輪訓練，周而復始，陷入惡性循環。
這項研究最深刻的價值，在於它顛覆了我們對 AI 互動的傳統認知：以前我們總覺得 AI 像一個等待填滿的容器，輸入什麼都能消化。但現在看來，它更像一個敏感的孩子，對輸入食物的質量非常挑剔。作為日常用戶，我們與 AI 的每一次對話，都是在進行一次「微調」。
既然知道「思考跳過」是主要的病灶，那麼我們日常使用 AI 時，就必須主動要求它進行「反向操作」。
首先要做的，就是警惕那些「完美的答案」。不管是要求 AI 總結一個長文章，或者寫一份複雜的項目方案時，如果它只給出的結果，卻沒有顯示任何邏輯依據和推理過程（尤其是在支持思維鏈的情況下），就要多留個心眼。
相比於讓它反覆調整結果，不如問一問它推理過程，「請列出你得出這個結論的全部步驟和分析依據」。強迫 AI 恢復推理鏈條，不僅能幫你驗證結果的可靠性，也是在防止它在這次任務中養成「偷懶」的壞習慣。
另外，對於那些基於社交媒體的工作任務，要格外小心。基本上要把 AI 當個實習生，它能力或許很強，但是不夠踏實靠譜，必須得有二次審核——實際上，我們的核查和糾正是極其寶貴的「高質量輸入」。不管是指出「這裡的數據來源是錯的」，還是「你跳過了這個步驟」，都是在對模型進行一次有價值的微調，用高質量的反饋去抵抗網際網路中的垃圾資訊。
這項研究比較讓人摸不著頭腦的地方在於：難道要讓 AI 少處理混亂的文件嗎？這豈不是本末倒置？
確實，如果為了避免 AI 可能出現的腦腐症狀，而只讓它處理結構化程度更高的數據，那 AI 的價值就少了一半。我們使用 AI，恰恰在於處理那些混亂的、充滿重複句和情緒化表達的非結構化數據。
不過還是可以平衡一下，繼續讓 AI 執行資訊整理工作，只不過在 AI 面對低質量輸入前，就給 AI 更清晰的指令。
比如，「總結這份聊天記錄」，容易讓 AI 悶頭只出結構。而更細化的「將這份聊天記錄進行分類處理，識別對話人物，去除口癖和連接詞，再提煉出客觀資訊」，就在強行促使 AI 先思考一輪，整理出內部行動指南，再展開工作。
用戶不是不能用 AI 處理垃圾數據，畢竟這是它最能發揮的地方。只不過，為了降低 AI「腦腐」的風險，要用結構化的指令和高質量的反饋，將 AI 變成一個高效的「垃圾處理和淨化器」，而不是讓它被垃圾資訊同化。
