這項由獨立研究者發表的論文於2026年7月以預印本形式公開，論文編號為arXiv:2607.23693，題為《Compute Globally, Materialize Locally: The Memory Contract of Sparse Event-KV》，感興趣的讀者可通過該編號查閱完整原文。
當我們談到人工智慧"記憶"的時候，很多人會以為，AI記住某件事，就是把那件事的原始文字存下來，要用的時候再取出來讀一遍。這個理解在大多數情況下沒問題，但這篇研究告訴我們，真實情況遠比這複雜，也遠比這神奇——AI有時候在徹底"遺忘"某條原始資訊之後，仍然能正確回答依賴那條資訊的問題，而且它並沒有作弊。這不是魔法，而是大語言模型在處理資訊時留下的一種"計算痕跡
"，這篇研究把這種現象命名為**語義物化**（semantic materialization）。
要理解這個現象，先從一個日常的比喻說起。假設你在一家餐廳工作，你的任務是記錄每天的食材狀態並轉告給同事。某天，你告訴同事小李："今天的魚貨是新鮮的"，小李把這話記在心裡，隨後又轉告了另一位同事小王："小李說貨是新鮮的"。第二天，你忘了最初是你說的這句話，檔案室里那張"魚貨新鮮"的記錄紙也被銷毀了。此時有人來問小王："今天魚貨新不新鮮？"小王說："新鮮的。"——他是從哪裡知道的？他沒有看過原始記錄，但這個資訊已經通過傳話鏈條"留"在了他的記憶里。
這篇研究要證明的，正是AI系統里存在類似的現象，而且比這個餐廳故事還要精確和可測量。
**一、問題從哪裡來：AI的"記憶賬本"並不簡單**
現代大語言模型在處理長對話或長文檔時，會產生一種叫做KV緩存（KV Cache）的數據結構。你可以把它理解成AI在閱讀每一段文字時，在大腦里留下的"閱讀筆記"——每讀一個詞或一句話，就在筆記本上寫下一些數字，記錄它在當前上下文中的含義。
當AI系統需要管理非常長的歷史對話時，不可能把所有"閱讀筆記"都保留下來，內存不夠用。所以系統會有選擇地丟棄一部分筆記，只保留它認為重要的那些。這個"丟棄"操作被稱為緩存驅逐（eviction）。
問題來了：當你丟掉一頁筆記的時候，你真的只是丟掉了那一頁紙上的字嗎？還是說，那頁紙上的內容早已滲透進了後續的筆記里，即使原稿不在了，資訊依然還在？
這正是這篇研究要回答的核心問題。研究者認為，現有的AI記憶管理系統在驗證"某條記錄是否可以安全刪除"時，使用的是一個有缺陷的邏輯：如果刪掉它之後模型的回答準確率沒有下降，就認為這條記錄是多餘的。但這個邏輯忽視了一種可能性——也許準確率沒有下降，不是因為那條記錄本來就沒用，而是因為它的內容早就被"複製"進了後續某條被保留的記錄里。
**二、實驗設計：一場極其嚴格的"資訊追蹤"遊戲**
為了驗證這一猜想，研究者設計了一種叫做"捐贈者對"（donor pair）的對比實驗。這個設計非常精妙，值得細細說清楚。
研究者構造了一段AI的歷史記錄，其中包含若干個"事件"，比如"S寄存器的狀態是在線（ONLINE）"是一個源事件，"M鏡像了S的狀態"是一個後續的根事件。注意，根事件本身並沒有說M是什麼狀態，它只是說"M跟著S走"。在全量處理（即AI一次性閱讀所有歷史）之後，根事件所對應的KV緩存行就已經"見過"了源事件，它的數字表示里理論上可能已經包含了"S是在線"這個資訊。
然後，研究者在向AI提問時，把源事件的緩存行悄悄刪除，只保留根事件的緩存行，然後問AI："M現在是什麼狀態？"
關鍵在於，被提問時AI看到的文字里，完全沒有任何地方說M是在線的——源事件被刪了，根事件只說"M鏡像S"，沒有任何值。那AI回答"在線"從哪裡來的？
為了確保實驗結論是可信的，研究者同時構造了一個"孿生"歷史版本：除了把源事件改為"S是離線（OFFLINE）"之外，其他所有東西——文字內容、位置、格式——完全一模一樣。然後再用同樣的方式問AI："M是什麼狀態？"
如果AI在第一個版本里回答"在線"，在第二個版本里回答"離線"，並且兩個版本里被實際提供給AI的文字內容完全相同、只有那個被刪除的源事件不同，那就說明AI的回答里包含的資訊只能來自那個被刪除的源事件通過某種方式"留"在了根事件的緩存行里。
**三、震驚的實驗結果：99比0**
實驗結果非常驚人。在Qwen3-8B這個模型上，研究者跑了99組這樣的"對比對"，在對AI回答有影響的這些對里，有99組的回答方向跟那個被刪除的源事件一致，0組相反。統計學上的p值是3.2×10???，這個數字的意思是，這種結果純屬巧合的概率極其渺茫，相當於你拋了100次硬幣，每次都正面朝上。
更進一步的256組複製實驗裡，130組的回答跟被刪除的源事件一致，0組相反，還有125組是兩個版本AI給了相同的回答（說明這些問題本身跟那個源事件關係不大）。
這個結果不是特定於某一個模型的。研究者在Ministral-3-8B上跑了類似實驗，結果是90比1；在Gemma-4-12B上跑了另一種方式的實驗，結果是80比0。換句話說，這個現象在多個不同的AI模型上都成立。
簡單來說，一個AI在閱讀完整的歷史記錄之後，它後續生成的某些"筆記"會把早期看到的資訊"預先消化"進去。即使你把早期那頁原始筆記銷毀，那個資訊依然以某種形式存在於後續的筆記里，並且在被單獨拿出來使用的時候，能夠指導AI給出正確的答案。
這就是研究者所定義的"語義物化"——計算過程在下游事件的緩存行里留下了上遊資訊的印記，而這個印記獨立於原始的文字存在。
**四、這個現象的邊界在哪裡：資訊能傳遞多少**
發現了這個現象之後，研究者沒有止步，而是繼續追問：這個"隱形傳遞"能傳遞多少資訊？是什麼樣的資訊都能傳，還是有明確的邊界？
研究者用一種很直觀的方式來測試：把需要傳遞的資訊分成不同"複雜程度"的類別，然後看看每種複雜程度的資訊傳遞成功率。
最簡單的是二元狀態，也就是"是/否"、"在線/離線"這種只有兩個選項的狀態。實驗結果是這類資訊傳遞的準確率高達0.934，也就是說94%的時候AI能根據那個被刪除源事件的內容給出正確答案，而純靠猜的準確率只有0.5。
接下來是四選一的狀態，比如"北/南/東/西"這種有四個選項的情況。準確率直接掉到了0.223，已經非常接近純猜的準確率（0.25）了。
八選一的情況更糟糕，準確率只有0.156，而隨機猜測的準確率是0.125——幾乎已經在猜了。
三位數字這種具體的數值？準確率是0，完全沒有傳遞。
這個規律很清晰：緩存行能攜帶的是粗粒度的狀態信號，而不是精確的數值。就像你告訴同事"那道菜辣"，同事能記住"辣"這個大方向，但如果你說"那道菜辣度是7.4分"，同事大概率只記住"很辣"或者忘了具體數字。
研究者還特別測試了一種情況：如果源事件包含的不是直接的狀態值，而是需要計算才能得出的結論，比如"傳感器讀數超過閾值，警報應該觸發"——這種需要推理才能得出的結論，在沒有額外提示的情況下，也無法通過緩存行的隱形傳遞被恢復出來。
研究者把這種現象概括為一個"緊湊狀態信封"：二元資訊能進入這個信封並被傳遞，更複雜的資訊超出了信封的容量。
**五、觸發條件：不是所有表達方式都能"寫入"這個信封**
發現了這個現象存在之後，研究者開始探究另一個重要問題：哪些表達方式能讓這種資訊傳遞發生，哪些不能？
他們設計了16種不同的措辭方式，分成兩大家族。一種是鏡像表達，比如"M跟隨S"、"M鏡像S"、"M複製S"、"M影隨S"等，描述的語義基本相同，都是"M的狀態與S保持一致"。另一種是標誌表達，比如"r傳感器的警報標誌與檢測結果一致"、"警報標誌根據檢測結果更新"等，同樣都是描述"某個值跟另一個值保持一致"。
然後研究者測試每種措辭在緩存行上實際"寫入"了多少資訊——也就是說，當源事件被刪除之後，使用這種措辭的根事件，其緩存行能多準確地指導AI回答出正確答案。
結果出人意料。"M跟隨S"這種表達方式在Qwen3-8B上的寫入率是0.83，而"M與S同步"這種表達方式的寫入率只有0.45——兩者語義幾乎完全相同，但效果相差近一倍。同樣，"標誌與結果一致"的寫入率是0.94，而"標誌據結果賦值"只有0.48。
更重要的是，研究者同時測試了AI理解這些表達方式的能力——也就是在提供完整原始資訊時，AI能不能正確回答問題。結果是，幾乎所有16種表達方式的理解準確率都接近1.0，平均值是0.98。這說明AI完全理解了這些表達，它們在語義上沒有任何區別。但理解不等於寫入：理解了某個表達方式，不代表在處理這個表達時AI會把相關資訊寫入後續緩存行。
這就是一個非常反直覺的發現：對AI來說，兩種語義完全等價、理解程度完全一樣的表達，在資訊"物化"進緩存行這個操作上，可以有天壤之別。
不僅如此，這種差異還因模型而異。Qwen3認為"鏡像"是個好詞（寫入率0.80），但Gemma-4對這16種表達的寫入率普遍在0.41到0.67之間，沒有一種能超過0.75的"強寫入"閾值。這意味著在某個模型上有效的表達方式，在另一個模型上不一定有效，需要針對不同模型單獨校準。
**六、資訊落在哪裡：根事件和邊緣事件的不同角色**
研究者還探究了一個有趣的問題：在一條"傳話鏈"里，資訊究竟落在哪個節點上？
他們構造了這樣一條鏈：S寄存器的值→M鏡像S→T鏡像M。在這條鏈上，M是根事件（直接指向源），T是邊緣事件（指向根而不是源）。
實驗結果顯示，當只保留M的緩存行（同時刪除S和T的記錄）時，AI能以很高的準確率回答M的狀態，也能藉助M的緩存行回答T的狀態，因為T通過M來路由資訊。但當只保留T的緩存行（刪除S和M的記錄）時，AI對T的狀態幾乎什麼都答不出來——準確率跟隨機猜測差不多。
這說明邊緣事件（T）本身並沒有直接"儲存"源事件（S）的資訊，它只是"知道應該去問M"。當M不在場時，T就失去了這個路由路徑，也就說不出正確答案了。
反過來，如果同時保留M和T，然後問T的狀態，AI能正確回答，因為T可以通過M找到答案。如果再把M從保留集合里拿掉，只剩T，準確率立刻崩潰。
研究者在Gemma-4-12B上跑這個"有無根事件"的對比，結果是41比0——有根事件時41對問題都給出了正確的方向，沒有根事件時幾乎什麼都不剩（只有2比0，且根事件單獨也顯示89比0）。
這種現象被研究者概括為"根事件攜帶資訊，邊緣事件路由資訊"。在設計AI記憶系統時，這意味著哪些緩存行真正值得保留，不是看它們在話題鏈里的位置離問題最近，而是看它們是否是資訊鏈里真正"落地"的節點。
**七、能不能主動利用這個現象：從"意外發現"到"刻意設計"**
到這裡，研究已經確認了一個自然存在的現象。但研究者更進一步，問了一個更有工程價值的問題：既然資訊能被"物化"進緩存行，那我們能不能主動設計一個事件，專門用來把資訊儲存進緩存行里，以備將來使用？
他們把不同的"載體事件"設計成五個級別，從弱到強依次是：被動提及（passive mention，就是自然語言裡隨便提到了一下某個值），有依據的綁定（grounded binding，明確說某個值跟另一個值綁定），結構化指令（structured directive），自然語言計算指令（NL compute directive，類似於"現在判斷結果並記錄在這裡"），以及最強的顯式文字記錄（explicit text，直接把答案寫出來）。
每種級別對應的"捐贈者對"跟隨率如下：被動提及只有6%，有依據的綁定9%，結構化指令23%，自然語言計算指令51%，顯式文字記錄100%。
這意味著，如果在AI處理歷史記錄的時候，在源事件之後緊跟著插入一個"請現在推斷結論並記錄"這樣的指令性事件，那麼這個事件的緩存行在源事件被刪除之後，仍然能讓AI以51%的概率給出正確答案，而源事件本身什麼都沒保留。相比於沒有任何刻意設計時的6%，這是一個8倍以上的提升。
這就是研究者所說的"可編程的原語"：你可以主動在AI的歷史記錄里插入特定設計的載體事件，專門用於在源事件被刪除後"延續"資訊。這對於長期運行的AI代理系統來說，具有實際的工程意義。
不過研究者也誠實地指出了這個方法的局限：最可靠的回退方案仍然是顯式文字記錄（100%），也就是直接把資訊寫進文字。自然語言計算指令能做到51%，但這個數字本身仍然意味著近一半的時候它失敗了。因此，這種隱性緩存物化更適合作為一種輔助機制，而不是完全替代明確文字記錄的主要機制。
**八、在真實對話里有沒有用：自然對話的檢驗結果**
既然刻意設計的載體事件有效，那麼在真實的長期對話里，那些自然出現的提及是否也能達到類似的效果？比如在一段持續了21天的對話歷史裡，早期提到過一件事，中間某個時候又隨口提了一下，那麼到了對話末尾，只保留"隨口提了一下"那次提及的緩存行，能不能幫助AI回答出相關問題？
研究者用了兩個真實的長期對話數據集來測試這個問題，一個叫REALTALK，包含了21天的真實對話；另一個叫LoCoMo，是評估AI長期記憶能力的標準測試集。他們把自然對話里那些"隨口提及"的事件的緩存行單獨提取出來，跟不使用任何歷史上下文的孤立編碼進行對比，看看使用緩存行的AI是否比重新孤立地讀那段文字的AI表現更好。
結果是：沒有檢測到任何優勢。在Qwen3-8B上，用了自然提及緩存行的版本跟孤立編碼的版本準確率幾乎相同，甚至在LoCoMo數據集上略低（差了0.044）。在Gemma-4-12B上，LoCoMo數據集的結果在統計意義上等同於孤立編碼。
這個結果說明：自然對話里那些"隨口提及"並不是可靠的資訊寫入載體。它們可能提及了，但沒有觸發緩存行里的資訊物化。刻意設計的載體事件和自然發生的提及，效果截然不同。
研究者把這個結論表述得非常精確：被動地"收割"自然對話里的提及，不是一個可依賴的資訊寫入接口。這意味著，任何想利用這個現象設計AI記憶系統的工程師，不能依賴自然對話里隨機出現的提及來作為資訊載體，必須有意識地插入專門設計的載體事件。
**九、這對"刪除不重要的資訊"這個操作意味著什麼**
研究者在結論部分特別強調了一個對現有AI系統評估實踐的重要警示：當一個系統刪除了某個"不重要"的記錄，然後發現模型的回答準確率沒有變化，就認為這個記錄確實不重要——這個邏輯是有漏洞的。
因為，系統可能恰好保留了一個在全量處理時見過那個被刪除記錄的後續緩存行，而這個緩存行里已經"物化"了被刪除記錄的資訊。所以準確率沒有下降，不是因為那個被刪除的記錄原本就沒用，而是因為它的資訊已經被轉移到了別處。如果你在之後再刪掉那個後續緩存行，資訊才真正消失。
換句話說，"刪掉之後準確率不變"只能說明在當前的保留集合下，被刪除的記錄是冗餘的——但它冗餘，是因為它的資訊已經被下游某個保留的緩存行替代了，而不是因為這個資訊本身無關緊要。
這對AI記憶系統的評估方式提出了一個更高的要求：不能僅僅看刪除某條記錄後準確率是否變化，還需要考慮下游的哪些緩存行可能已經繼承了那條記錄的資訊。
**十、模型之間的差異與通用性問題**
研究者在多個不同的模型上測試了這些現象，並發現了一些有趣的跨模型規律，也發現了一些差異。
Qwen3-8B是研究中測試最完整的模型，表現出了非常清晰的語義物化現象，也對不同的觸發措辭表現出了明顯的敏感性。Ministral-3-8B也表現出了類似的物化現象，但它的自由生成接口有一個問題：很多時候它會給出冗長的推理過程但不給出明確答案，導致很多實驗結果無法判斷方向。Gemma-4-12B則表現出了一個很有趣的特點：雖然它在16種觸發措辭上的寫入率沒有任何一種能超過0.75的閾值，但通過另一種"候選邏輯值探測"的方式，可以發現它其實在緩存行里儲存了相關資訊，只是它的自由生成接口沒有把這個資訊表達出來。
這種"儲存了但說不出來"的現象被研究者稱為"理解但未原生生成"的分裂：模型的緩存行里有資訊，但在被問到時，它不會主動說出來，除非你用特定的方式問它。
這個發現有一個重要的實踐含義：對某個模型有效的觸發措辭，不一定對另一個模型有效；在某個模型上能正常讀出來的資訊，可能在另一個模型上需要用不同的提問方式才能讀出來。因此，這整套機制都需要針對具體模型進行校準，沒有一種通用的、在所有模型上都有效的方案。
---
歸根結底，這篇研究揭示了一件讓人重新思考AI記憶本質的事情：AI處理資訊不只是"讀了就忘"，它在閱讀的過程中會把資訊"烙印"在後續的計算結果里，而這些烙印即使在原始資訊消失之後，有時仍然能夠被正確地讀取出來。這不是AI在欺騙我們，而是大型語言模型架構的一種內在屬性——資訊在被處理時，會以某種形式"流淌"到下游的計算節點裡。
對於普通用戶來說，這可能只是一個有趣的技術細節。但對於正在構建AI代理系統的工程師來說，這意味著他們手裡多了一個可以主動設計的工具：通過在合適的時機插入合適措辭的"載體事件"，可以讓AI在丟失原始記錄之後仍然保留關鍵的狀態資訊。同時，他們也需要警惕：刪除一條記錄後準確率不變，不代表那條記錄真的沒用。
這項研究帶來的最大思考是：當我們設計AI的長期記憶時，"保留什麼"這個問題，不僅是在選擇保留哪些文字，更是在選擇保留哪些計算痕跡。而計算痕跡的價值，往往比文字本身的價值更難評估，也更容易被忽視。原論文編號arXiv:2607.23693，希望有興趣的讀者能夠深入探索這個領域裡還有多少類似的"隱藏規律"等待被發現。
---
Q&A
Q1：語義物化（semantic materialization）是什麼意思？
A：語義物化是指大語言模型在一次完整閱讀歷史記錄的過程中，會把早期資訊的計算結果"寫入"到後續事件的KV緩存行里。即使後來原始的源事件記錄被刪除了，那個後續緩存行仍然可能保留著足夠的資訊，讓模型能夠正確回答依賴那條被刪除資訊的問題。簡單說，就是"雖然原稿沒了，但資訊已經滲透進了後續的筆記里"。
Q2：KV緩存驅逐實驗裡的99比0說明了什麼？
A：這個99比0的實驗結果說明，在Qwen3-8B模型上，當源事件被刪除、只保留根事件的緩存行時，99個"對比對"里有99個的回答方向跟那個被刪除的源事件一致，0個相反。由於被提供給模型的文字內容在兩個版本里完全相同，這就證明了回答里的資訊只能來自被刪除源事件通過緩存行留下的"計算痕跡"，而不是來自任何可見的文字。
Q3：主動設計"載體事件"來保存AI記憶的方法可靠嗎？
A：根據這篇研究的實驗結果，使用自然語言計算指令（比如"請現在推斷結論並記錄"）這類刻意設計的載體事件，能把資訊的"跟隨率"從6%提升到51%。但這仍然意味著接近一半的時候會失敗。最可靠的方式仍然是直接用文字把資訊明確寫出來（100%有效）。因此，這種緩存物化機制更適合作為輔助手段，而不是替代明確文字記錄的主要方案，且有效性還會因模型不同而變化，需要針對具體模型進行校準。
