宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

火燒過的東西,AI還認得出來嗎

2026年10月15日 首頁 » 熱門科技

2026年初,一群消防員衝進一棟剛熄火的房子,想找出屋裡有沒有危險品:煤氣罐、化學試劑瓶、噴霧罐這些東西,一旦在高溫下繼續受熱,隨時可能爆炸。可眼前的場景是這樣的:所有東西都被燒得面目全非,塑料化成了黑色的膠狀物,木頭變成了一堆碳渣,連金屬都鏽跡斑斑扭曲變形。人眼都很難分辨這堆廢墟里原本是什麼,更別說讓AI來識別了。

這不是個別案例。伊利諾伊大學香檳分校的研究團隊做了個實驗,把當下最強的目標檢測模型RF-DETR扔進火災現場的照片裡,結果相當難看。

從最輕微的燒毀程度到最嚴重的燒毀程度,這個模型的識別準確率下降了71%。更離譜的是,在那些勉強被模型框出來的物體裡,92.9%的物體被貼錯了標籤。一個被燒成一堆黑炭的行李箱,模型說它是"消防栓";一個燒焦的嬰兒安全座椅,被認成了"摩托車"。就連號稱擁有海量世界知識的視覺語言模型火燒過的東西AI還認得出來嗎(VLM)也栽了跟頭,InternVL3.5這樣的模型,在給燒毀物體找回它原本模樣的任務上,識別成功率從93.85%直接跌到28.11%。

VLM

:全稱Vision-Language Model,視覺語言模型,一種既能看圖又能理解語言的AI模型,可以根據圖片回答問題、生成描述。

這裡就有一個值得琢磨的問題:為什麼AI在這件事上表現得這麼差?答案其實藏在一個容易被忽略的區別里。

物理損毀火燒過的東西AI還認得出來嗎和普通的圖像損壞,根本不是一回事

我們平時說的"圖像質量下降",指的是加了噪點、變模糊、換了光照角度這些問題。這些操作只是改變了圖片本身的呈現方式,被拍攝的物體沒有任何變化,一把椅子還是那把椅子,只是照片拍得不太清楚。市面上現有的魯棒性測試集,比如專門測試模型在惡劣天氣、噪聲干擾下表現的那些數據集,考察的都是這種情況。

但火災造成的損毀完全是另一回事。

木頭燒焦後不是"看起來暗了一點",它的幾何形狀塌陷了、材質從堅硬的纖維結構變成了脆弱的碳化物、表面紋理徹底改變。塑料熔化後甚至會流動、重新凝固成完全不同的形狀。這是物體本身發生了不可逆的物理轉變,不是拍照條件變差了,而是這個東西真的變成另一種東西了。

這就好比你去修一張被暴雨打濕、字跡模糊的老照片,和你去辨認一塊被大火燒過的木雕原本是什麼圖案,這是兩種完全不同難度的任務。前者資訊還在,只是被噪聲蓋住了,把噪聲去掉資訊就出來了。後者是資訊本身被銷毀了一部分,火沒有"蓋住"木雕原來的花紋,它把花紋直接燒沒了,你面對的是一堆炭,得靠經驗、靠上下文去推測這堆炭原來長什麼樣。如果不區分這兩種情況,用處理圖像噪聲的老辦法去解決物理損毀的問題,那基本等於緣木求魚:模型學到的是"怎麼把模糊的東西變清楚",而不是"怎麼從灰燼里推斷出原來是把椅子"。

正因為這個根本性的差異,現有的測試基準根本沒法評估AI在真實火災場景里的表現。研究團隊於是決定,自己造一個。

TRACE:給AI一本"火災前後對照相冊"

這個新基準起名叫TRACE

TRACE

:Transformation-Aware Benchmark for post-fire object understanding的縮寫,一個專門評估AI在火災後物體識別能力的測試基準。

,核心思路很樸素:既然要判斷AI能不能"看穿"火災損毀認出物體原貌,那就得先給AI(以及評估這個AI的人)準備一套"損毀前"和"損毀後"嚴格配對的圖片。

具體規模是這樣的:21400張基於真實火災照片生成的合成場景圖,加上499個物體身份、跨越189個類別的"完整品到燒毀品"漸變序列。每個物體不是簡單地分成"好"和"壞"兩種狀態,而是被細分成五個損毀等級,從L0(表面輕微煙熏)到L4(近乎完全銷毀,只剩一堆殘骸)。

為什麼要做五級細分而不是簡單的"輕度/重度"二分類?因為研究者想搞清楚一件事:AI的失敗是從哪個階段開始的,是一點點滑坡,還是過了某個臨界點就突然崩潰。這就像醫生給病人拍X光片,不會只拍"生病前"和"生病後"兩張,而是定期拍片記錄病情發展的每一個階段,這樣才能看清楚病情惡化的曲線是緩慢的還是陡峭的。數據顯示,答案是陡峭的:在輕度損毀階段(L0到L1),AI表現變化不大,但一旦進入中度到重度損毀(L2到L4),性能斷崖式下跌。

這些圖片是怎麼來的?團隊沒有讓AI憑空瞎編火災廢墟的樣子,而是先收集了大約700張真實的火災後場景照片(主要來自一個叫Fire360的數據集以及一些允許研究使用的網路圖片),把這些真實照片作為參考,用Gemini 3 Pro Image這個生成模型去合成新的場景,同時還專門設計了材質失效規律:紙張和紙板最先被燒毀,接著是薄織物和泡沫,然後是厚織物和皮革,再往後是木頭、塑料、橡膠,玻璃緊隨其後,陶瓷和石材更耐燒,金屬最扛燒,寶石幾乎不受影響。這套規律不是拍腦袋定的,是團隊查閱了各種材料在真實火災中的失效順序總結出來的。

為了保證生成的圖片夠真實,團隊還專門用Gemini 3 Flash當"質檢員",給每張候選圖片評分,從真實感、材質還原度、結構合理性等維度綜合評估,評分低於0.7的圖片直接淘汰。最終大約29000張候選圖裡,只有21400張通過了審核,通過率73.8%。而且為了驗證標註質量,團隊裡兩名作者獨立對300個物體樣本做了接受/拒絕的判斷,最後一致率達到93.4%,Cohen's κ係數0.836,這個數字說明標註是相當可靠的,不是隨便糊弄的。

五道考題:不只是"認出來"這麼簡單

有了配對數據,TRACE設計了五個層層遞進的任務,來全方位考察AI對燒毀物體的理解能力。

第一個任務是損毀物體檢測,簡單說就是給一張火災現場照片,讓AI框出裡面所有的物體並且分類正確。第二個任務是原狀恢復與檢索,分為兩種玩法:一種是在特徵層面,讓AI把燒毀物體的視覺特徵"拉回"接近原本完好狀態的特徵;另一種是圖庫檢索,給AI一堆完好物體的圖片庫,讓它從燒毀的照片裡找出對應的那一張原圖。第三個任務是原始材質推斷,讓AI根據燒毀後的樣子猜出這東西原本是什麼材質做的。第四個任務是原狀描述生成,讓AI用一句話描述這個物體燒毀前是什麼、什麼材質、幹什麼用的。第五個任務是功能推理,更進一步,讓AI判斷這個物體原本的功能、以及修復它需要什麼材料。

這五個任務其實對應著火災後真實工作場景里的五種需求:消防員需要快速定位危險品(檢測),保險理賠員需要弄清楚燒毀的到底是什麼東西值多少錢(檢索和材質推斷),調查人員需要重建火災發生前現場的樣子(描述生成),修復團隊需要知道該準備哪些材料(功能推理)。這不是研究者拍腦袋想出來的任務清單,而是真正對著實際工作流程設計的。

在這五道題上,幾乎所有主流AI模型的表現都印證了開頭提到的那個規律:損毀越重,表現越差,而且差得不是一星半點。比如Qwen2.5-VL在圖庫檢索任務上,識別成功率從76.92%掉到32.31%,直接腰斬還多。

這說明什麼?說明現有的視覺模型,無論是專門做檢測的RF-DETR,還是號稱有豐富世界知識儲備的各種VLM,在面對"物體本身已經變質"這件事上,普遍缺乏應對能力。這不是某一個模型訓練得不夠好的問題,而是整個領域在這類特徵表示上存在系統性的短板。

FRM:一個只做"翻譯"、不動原有模型的補丁

發現問題之後,研究團隊開始琢磨解決方案。第一反應可能是:既然圖片被燒壞了,那直接把圖片修復乾淨不就行了嗎?

他們真的試了這條路。用一個叫Restormer

Restormer

:一種基於Transformer架構的圖像修復模型,常用於去噪、去模糊等圖像質量恢復任務。

的圖像修復模型,專門在TRACE的配對數據上做微調,試圖把燒毀的照片"修"回接近完好的樣子,再把修復後的圖片餵給檢測模型和VLM。結果呢?效果很有限。檢測任務上mAP(一種衡量檢測準確度的綜合指標)只從0.338提升到0.375,提升幅度很小。另一個修復模型WildIR表現更差,甚至把RF-DETR的檢測性能拖低到了0.266,比不修復還糟糕。

為什麼像素級修復這條路走不通?因為物理損毀造成的資訊缺失是真實存在的,不是"藏起來了"而是"真的沒了"。把一堆燒焦的碳渣修復成一張看起來乾淨的圖片,本質上是讓AI憑空猜測細節,這種猜測很容易猜錯,而錯誤的像素細節反而會誤導後續的識別模型。這就像你想根據一堆燒毀的信件灰燼,用橡皮泥捏出信件原本的樣子,捏出來的東西看著像模像樣,但內容完全是編的,反而會讓人對信件原文產生錯誤的印象,不如直接承認這堆灰燼里能讀出的資訊就這麼多。

於是團隊換了個思路:與其在像素層面較勁,不如在特徵層面下功夫。這就是這篇論文提出的核心方法,Feature Recovery Module(特徵恢復模組火燒過的東西AI還認得出來嗎,簡稱FRM)。

FRM

:Feature Recovery Module的縮寫,一個輕量級、可插拔的模組,作用是把AI從燒毀圖片裡提取出來的"特徵"(也就是AI理解圖片的內部數字表示)修正到接近完好圖片對應的特徵,同時不需要改動原有的大模型。

FRM的設計思路可以概括成一句話:不修圖片,只修AI"腦子裡"對這張圖片的理解。

具體來說,任何一個視覺AI模型在處理圖片時,內部都會把圖片轉換成一串數字,這串數字就是所謂的"特徵",模型後續所有的判斷都是基於這串數字做的。FRM插在這個特徵生成的關鍵節點上,輸入是燒毀圖片對應的特徵,輸出是修正後、更接近完好圖片特徵的新特徵。原來的檢測模型、語言模型完全不用動,權重全部凍結,只有FRM這個插件在訓練。

這個設計帶來了幾個實際的好處。首先,因為不用動原模型,訓練成本極低。研究團隊在單張A100顯卡上,用大約2000對配對數據,緩存好特徵之後訓練FRM,大概一小時就能收斂。其次,因為FRM是"即插即用"的,它可以套用到不同的宿主模型上,從檢測器RF-DETR,到CLIP、SigLIP2這樣的視覺編碼器,再到Qwen3-VL、InternVL3.5等五種VLM,全都適用。

FRM的內部結構是一個帶殘差連接火燒過的東西AI還認得出來嗎的小型Transformer

殘差連接

:一種神經網路設計技巧,讓網路的輸出等於輸入加上一個修正量,這樣即使修正量學得不好,網路至少能退化成"什麼都不做",不會比原始輸入更差。

,而且用了一個很巧妙的初始化技巧:讓這個修正量在訓練剛開始時嚴格等於零。這意味著剛開始訓練時,FRM相當於什麼都沒做,輸出和輸入一模一樣,然後隨著訓練推進,這個模組才慢慢學會怎麼"糾偏"。這樣做的好處是訓練過程更穩定,不會因為一開始瞎改而把原本正常的特徵搞亂。

這套思路放在生活里也很好理解。想像你是個翻譯,面前有一份被雨水泡爛、字跡暈開的合同,你的任務不是把這張紙重新列印一份看起來乾淨的版本(那樣很可能會印錯內容),而是直接憑著經驗和上下文,在腦子裡把這份合同"翻譯"成你能理解的準確意思,然後把這個準確的理解傳達給後面需要用到合同內容的人。至於那張紙本身髒不髒、皺不皺,其實不重要,重要的是"意思"傳對了。FRM乾的就是這個活:它不管圖片本身好不好看,只負責把AI對這張圖片的"理解"儘量往正確方向拉一把。

FRM插在哪個位置也有講究。論文裡做了對比實驗:把FRM插在視覺編碼器比較靠前的層,還是靠後、更接近語言模型輸入的層,效果差別很大。以Qwen3-VL為例,插在前期的圖像特徵提取階段,檢索成功率是72.90%;換成插在更靠後、快要送進語言模型的那一層,成功率直接跳到85.28%。InternVL3.5也是類似的規律。這說明,越靠近最終決策的那一層去做修正,效果越直接,因為語言模型實際"看到"的就是那個層級的特徵,在那裡修正相當於直接給決策環節餵對的資訊,而不是在半路上改一次、後面還要經過好幾層加工才能起作用,中間每一層都有可能把你修正的東西又帶偏一點。

FRM到底帶來了多大的提升

數據說話最有力。先看檢測任務:RF-DETR在裝上FRM之後,檢測性能相對提升了30.8%。如果再疊加對RF-DETR本身做微調,FRM還能在微調的基礎上再往上加13.1%,說明微調和FRM解決的是兩種不同的問題:微調讓模型"見過"更多燒毀圖片、適應這種輸入分布;而FRM糾正的是即使模型見過燒毀圖片、依然殘留的特徵偏移。這兩者是互補的,不是互相替代的關係。

|方法|檢測[email protected]:0.95|

|---|---|

|原始RF-DETR|0.338|

|Restormer修復+RF-DETR|0.375|

|WildIR修復+RF-DETR|0.266|

|SFA域適應火燒過的東西AI還認得出來嗎|0.161|

|DATR域適應|0.293|

|**RF-DETR+FRM**|**0.442**|

|RF-DETR全量微調|0.572|

|微調+FRM|**0.647**|

再看特徵層面的純淨效果。研究團隊專門在CLIP和SigLIP2

CLIP、SigLIP2

:兩種主流的視覺編碼器,都是通過對比學習把圖片和文字對齊到同一個特徵空間裡的模型,廣泛用於圖像檢索、圖文匹配等任務。

這兩個不同預訓練目標的視覺編碼器上單獨測試了FRM,結果顯示,即便這兩個模型的訓練方式完全不同,FRM依然能把燒毀圖片和完好圖片之間的特徵距離顯著拉近。SigLIP2上的均方誤差降低了43.4%,特徵之間的餘弦相似度提升了0.138。檢索任務上更直觀,SigLIP2的Top-1檢索準確率從24.2%提升到39.0%,Top-5準確率從77.3%提升到96.2%,幾乎逼近了理論上限(用完好圖片去檢索自己,準確率必然是100%)。

這個跨模型都通用的現象說明了一件事:火災造成的特徵偏移,不是某一個模型特有的毛病,而是一種在不同視覺表示體系里普遍存在的、結構化的偏移規律。換句話說,火災對圖片特徵造成的破壞是有"套路"的,不是隨機噪聲,這才是FRM能夠學會糾正它的前提。

再看VLM在四個物體級任務上的整體表現,下面這張表匯總了五個主流VLM在裝上FRM前後的平均得分變化:

|模型|檢索任務提升|材質推斷提升|描述生成提升|功能推理提升|

|---|---|---|---|---|

|Qwen3-VL|+10.73|+3.24|+3.48|+5.94|

|Qwen2.5-VL|+11.83|+6.28|+3.50|+5.51|

|InternVL3.5|**+15.83**|**+9.81**|**+8.41**|+4.35|

|Molmo2|+4.94|+3.96|+4.33|+5.31|

|LLaVA-OV-1.5|+2.12|+4.58|+3.86|+3.31|

有個規律很值得注意:原本表現越弱的模型,FRM帶來的提升往往越大。InternVL3.5在材質推斷和描述生成上的原始表現是五個模型里最弱的,但FRM帶來的提升也是最大的。這意味著FRM的作用更像是"補短板",模型原本在燒毀場景下丟失得越多的資訊,FRM能幫它撈回來的也越多。而檢索能力本來就比較強的模型,比如Molmo2和LLaVA-OV-1.5,提升幅度相對溫和一些,因為它們本身已經部分保留了這些資訊,FRM能挖的"餘量"沒那麼大。

更有意思的是損毀程度和提升幅度之間的關係。研究團隊按五個損毀等級分別統計了提升幅度,發現在輕度損毀(L0到L1)階段,FRM帶來的提升幾乎可以忽略不計,平均只有0.73個百分點;但到了中重度損毀(L2到L4)階段,提升幅度暴漲到14.66個百分點。這個趨勢非常合理:輕度損毀時圖片本身資訊保留得還比較完整,AI原本就能應付得不錯,FRM沒有太多可修正的空間;但損毀越重,特徵偏移越嚴重,FRM能糾正的東西自然也越多。這個規律也從另一個角度印證了前面說的:FRM不是靠"作弊"或者隨機蒙對提升成績的,它確實是在針對性地糾正因物理損毀而產生的結構化偏差。

還有一個細節值得單獨說一說:FRM完全沒有用任何和功能推理相關的標籤去訓練,它訓練時唯一看到的監督信號就是"燒毀前特徵"和"燒毀後特徵"這一對配對數據,壓根不知道什麼叫"這個物體的功能是什麼"。但即便如此,FRM依然讓所有五個模型在功能推理任務上都獲得了正向提升,平均提升4.9個百分點,而且損毀越重提升越大(L3到L4平均提升7.6個百分點)。這說明了一件很關鍵的事:語言模型內部本身已經儲備了大量關於"什麼材質、什麼形狀的東西通常是用來做什麼的"這類世界知識,FRM並沒有教會模型任何新知識,它只是把原本因為燒毀而丟失的視覺證據補了回來,讓模型能夠重新調用它早就具備的那部分知識。這就好比一個見多識廣的老偵探,他腦子裡裝滿了各種物證和常識,但如果給他的照片模糊到什麼都看不清,他再厲害也沒法推理。FRM幹的事情,相當於幫他把照片擦亮了一點,讓他能重新用上自己腦子裡那些本來就有的經驗。

不過研究團隊也沒有迴避一個局限:在損毀非常嚴重、模型壓根看不清具體是什麼東西的時候,AI有時候會給出一些模糊籠統的猜測,比如"容器""家具"這種泛泛的詞,這些詞恰好也能蒙對一部分功能標籤,造成成績虛高的假象。所以研究團隊特意強調,功能推理的分數要結合檢索和描述生成的結果一起看,如果這幾項同時都在漲,才說明FRM是真的在幫模型恢復出具體的物體身份,而不是靠瞎猜矇混過關。這種自我審視挺難得的,很多論文報喜不報憂,這篇論文至少把這個隱患擺到了檯面上。

真實世界裡,FRM還管用嗎

所有前面說的實驗,大多是在合成數據上做的。合成數據畢竟是AI生成出來的,和真實世界的火災現場,多少會有差距。研究團隊沒有迴避這個問題,專門找了500張從真實火災照片裡手工裁剪出來的物體圖,在這批真實數據上又測了一遍FRM。

結果是,FRM在真實數據上依然管用,但提升幅度比合成數據上要小一些。在損毀中度到重度(L2到L4)的真實照片上,檢索成功率平均提升了3.87個百分點,材質推斷提升4.67個百分點,描述生成提升5.06個百分點,功能推理提升4.49個百分點。即使是在近乎完全銷毀(L4)的最極端情況下,FRM依然保持著正向提升,只是數值更小一些。

這種"合成數據上效果更好、真實數據上打了折扣"的現象其實很常見,本質上反映的是生成模型和真實世界之間不可避免的差距:AI生成的火災場景再逼真,也不可能完全復刻真實火場裡那種混亂、遮擋、光照不均的複雜情況。研究團隊對這一點很坦誠,直接把這個差距寫進了論文的局限性部分,而不是藏著掖著只展示好看的數字。

這篇論文沒有迴避的另一個問題

論文裡有一段很實在的自我反思,講的是FRM這個方法本身的一個天然矛盾:FRM恢復出來的是"燒毀前"的特徵,這對於回答"這個東西原來是什麼"這類問題非常有幫助,但如果有人想問的是"這個東西現在燒成什麼樣了",FRM反而會把這個損毀資訊給"擦掉",導致模型答不好這類問題。

這個矛盾沒有完美的解決方案,研究團隊給出的建議是:針對不同類型的問題,應該有一個開關機制,決定要不要啟用FRM。這其實是個挺誠實的表態,說明FRM不是萬能藥,它是為了特定任務(恢復原狀)設計的,用錯場景反而會幫倒忙。

另外論文也提到,FRM這個模組是和特定的宿主模型、特定的特徵提取層綁定的,換一個新模型就得重新訓練一遍,沒法直接復用。而且要給一個新的物體類別添加訓練數據,目前還需要至少一張完好狀態的參考圖,加上三張不同損毀程度的配對圖,這個數據收集門檻不算低。

寫在後面

讀完這篇論文,最觸動我的其實不是那些提升的百分點,而是研究團隊處理"圖像修復"這條路失敗之後的轉向。很多研究遇到基線方法效果不好,會想辦法調參、換個更大的修復模型接著死磕,但這篇論文的團隊很快意識到,問題出在思路本身:物理損毀造成的資訊丟失是真實的、不可逆的,硬要在像素層面把它"編"回來,只會製造出看起來真實但內容錯誤的幻覺。轉而去修正特徵而不是修正圖片,這個決策背後其實藏著一種對問題本質的清醒認知,寧可承認資訊真的丟了、去做力所能及的語義層面修復,也不去追求視覺上以假亂真但內容失真的效果。

還有一個細節讓我印象很深,就是FRM在功能推理任務上那種"無心插柳"的表現。它從沒被教過任何和"功能"相關的東西,訓練時看到的只是一堆特徵向量的配對關係,結果卻幫語言模型在推理物體用途這件事上提升了將近6個百分點。這說明現在的大語言模型內部其實壓著一座相當紮實的常識知識庫,很多時候AI表現差,未必是它"不懂",而是它"沒看清",視覺輸入質量拖了後腿。這個發現某種程度上也提示了一個方向:與其一味去擴大模型規模讓它學更多知識,有時候先把輸入端的信號質量提上去,可能是性價比更高的路。

TRACE這個數據集和評估體系本身,倒讓我想起另一件事。它其實是在給"物理世界的不可逆變化"這個更大的問題域開了個頭,火只是這類變化里最容易理解的一種,論文結尾也提到了,未來完全可以把這套配對監督的思路搬到水災、結構坍塌、常年風化這些場景里,只要能找到"事件前"和"事件後"的對照圖。這讓我好奇的是,如果有一天AI能通過學習各種物理損毀的"套路",反過來去推測一件古董文物幾百年前剛出爐時是什麼樣子,那會是一種什麼樣的體驗。

Q&A

Q1:TRACE是什麼?

A:TRACE是伊利諾伊大學香檳分校團隊提出的一個專門評估AI在火災後物體識別能力的測試基準,包含21400張基於真實火災照片生成的合成場景圖,以及499個物體的完整品到燒毀品漸變序列,用來測試AI能否從燒毀殘骸中認出物體原本的樣子。

Q2:FRM是怎麼幫AI認出燒毀物體的?

A:FRM全稱Feature Recovery Module,是一個輕量級插件,它不修復圖片本身,而是直接修正AI理解圖片時生成的內部特徵,把燒毀圖片的特徵往完好圖片的特徵方向拉近,同時不改動原有大模型的任何參數,訓練成本很低。

Q3:為什麼直接修復燒毀的圖片效果不好?

A:因為火災造成的物理損毀是資訊真實丟失,不是簡單的噪聲遮擋,直接用圖像修復模型把燒毀照片"修"乾淨,本質上是讓AI憑空編造細節,容易編錯,反而誤導後續識別,實驗顯示這類方法帶來的提升非常有限,有的甚至比不修復還差。

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2026 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新