這項由斯坦福大學醫學院生物醫學數據科學系、斯坦福大學電氣工程系以及比利時根特大學數學建模與生物資訊學系聯合開展的研究，以預印本形式發布於2026年7月1日，論文編號為arXiv:2607.01436，感興趣的讀者可通過該編號檢索完整論文。
放射科醫生每天要寫大量報告——看完胸部X光片，要用文字描述"心臟大小正常、肺部清晰、未見氣胸"之類的內容。這件事既繁瑣又耗時，而且不同醫生、不同醫院的寫法還各有差異。AI能幫忙嗎？能，但現有的AI助手幾乎都有一個根本性的局限：它們只會從左往右、一個字一個字地往後寫，就像一台打字機，只能順著打，不能在中間空出來的地方填字。
這個局限在日常場景里聽起來不是大問題，但在真實的臨床工作中卻相當棘手。放射科醫生常常是先寫好報告的開頭和結尾，中間某句話還沒想好怎麼措辭；或者同事已經寫了一半，需要你接著補完；或者模板里有些固定的開頭和結尾，中間的核心描述需要AI來幫忙生成。對於這類"填空"需求，傳統的AI只能從頭重新生成，根本無法聰明地看著兩側的內容來填中間的空白。
斯坦福和根特大學的研究團隊想到了一個截然不同的解決方案：用一種叫做"離散擴散語言模型"的全新AI範式來取代傳統的逐字生成方式。這種模型生成文字的方式，更像是一位雕塑家從一塊混沌的大理石中逐漸打磨出作品，而不是像打字員那樣一個字母一個字母地敲出來。它天然地能同時"看到"文字的左邊和右邊，因此填空這件事對它來說是順手拈來，而不是勉強為之。
一、傳統AI寫報告的方式——"打字機思維"的天然缺陷
要理解這項研究的價值，得先明白現有AI是怎麼工作的。今天幾乎所有主流的大語言模型——無論是GPT、Claude還是Gemini——都屬於"自回歸"模型。這個詞聽起來複雜，但原理很樸素：每次生成一個新詞，模型只看它之前已經寫過的內容，然後預測下一個最可能出現的詞，如此循環往復，直到句子結束。
這就像你蒙著眼睛走路，只能根據腳下踩過的路面來判斷下一步怎麼邁，完全看不到前方的路。在大多數情況下，這種方式沒什麼問題——畢竟寫文章本來也是從前往後寫的。但一旦遇到"我已經知道後半段是什麼，只需要填前半段"的情況，這台打字機就徹底傻眼了。你不能讓它在已經打好的字之間插入新內容，它只會從你給它的那個起點繼續往後打。
在放射報告的實際場景里，這意味著什麼呢？假設報告已經寫好了"肺部清晰，未見氣胸。印象：輕度血管充血。"這兩句，而中間那句"未見胸腔積液"被刪掉了，需要AI來補。自回歸模型能做的，只是看著前面那句"肺部清晰，未見氣胸。"然後猜接下來寫什麼——它根本不知道後面還跟著一句關於血管充血的印象，自然也就沒法生成一個在內容和語氣上都與後文完美銜接的句子。
研究團隊把這種能力的缺失稱為"無法進行任意位置填充"，並將其視為自回歸模型在臨床應用中的根本性結構缺陷，而非可以通過技巧彌補的小問題。
二、擴散模型——從"打字機"升級為"雕塑家"
離散擴散語言模型的工作方式與此完全不同。用一個更直觀的比喻來說明：如果自回歸模型是打字機，那擴散模型更像是一塊神奇的黑板。
在這塊黑板上，一開始所有位置都寫滿了隨機的、混亂的字符——就像一張滿是噪點的照片。然後，模型開始一輪一輪地"去噪"：每一輪，它同時看著黑板上所有位置的當前狀態，然後對每個位置做出修正，讓整張黑板越來越接近一段有意義的文字。關鍵在於，這個過程中每個位置都能"看到"其他所有位置，包括它左邊的和右邊的內容。經過十幾到幾十輪疊代，混沌的隨機字符就被雕塑成了一段通順、準確的醫學報告。
這項研究使用的具體模型叫做DiffusionGemma-26B，是谷歌DeepMind開發的。它有260億個參數（這是衡量AI模型"腦容量"大小的指標），但通過一種叫做"混合專家"的設計，實際運行時只激活其中的38億個，大大節省了計算資源。它自帶一個視覺理解模組，可以直接"看懂"醫學圖像，而不需要額外的圖像識別步驟。
為了做一個公平的比較，研究團隊特意選擇了DiffusionGemma-26B的"親兄弟"——Gemma-4-26B——作為自回歸模型的代表。這兩個模型來自同一個研究團隊，體量完全相同，視覺模組完全相同，唯一的區別就是生成文字的方式：一個是雕塑家（擴散），一個是打字機（自回歸）。這樣的設計讓兩者之間的對比幾乎排除了其他干擾因素，真正實現了"只改一個變量"的科學實驗標準。
三、如何讓AI學會看X光寫報告——訓練過程揭秘
兩個模型都通過一種叫做LoRA（低秩適應）的方法進行了醫學領域的專項訓練。LoRA是一種輕量級的微調技術，可以用一個恰當的類比來理解：假設你是一位精通多國語言的翻譯，現在要專門學習醫學文獻翻譯。你不需要從頭重新學習所有的語言知識，只需要在已有能力的基礎上，專門補充一套醫學詞彙和表達習慣就夠了。LoRA做的就是這件事——它在龐大的預訓練模型基礎上，只添加少量額外的"適配層"，而不改動原有的核心參數。
具體而言，研究團隊使用了秩64的LoRA設置（這個數字決定了適配層的"厚度"），在注意力機制和共享投影層上進行更新，同時凍結了模型中128個專家模組、路由器以及視覺模組的權重不動。這樣做的好處是：訓練成本大幅降低，同時兩個模型的訓練條件完全一致，對比才真正有意義。
訓練數據來自三個標準的醫學視覺問答數據集：VQA-RAD（1817個訓練問答對，涉及放射圖像的是非題和開放題）、SLAKE（4919個問答對，配有語義標註）以及VQA-Med-2019（約1.28萬個問答對，涵蓋影像模態、掃描平面、器官識別等問題）。每個數據集各取350個問題作為測試集，訓練和測試嚴格分開。
擴散模型用的是一種叫"均勻狀態去噪"的訓練目標：隨機把目標文字里的一些詞替換成詞彙表里隨機抽取的詞（不是專門的[MASK]符號，而是真正隨機的詞），然後讓模型學會把這些被替換的詞恢復回正確答案。自回歸模型則用經典的"預測下一個詞"的損失函數來訓練。除了這個損失函數的差異之外，兩個模型的所有其他訓練條件都完全相同。
四、成績單揭曉——擴散模型能打贏打字機嗎？
評測環節有一個有趣的挑戰：醫學視覺問答的標準答案往往非常簡短，比如"是"、"否"、"胰腺導管腺癌"。但如果讓AI不加限制地回答，它通常會給出一大段解釋性的長文，而不是簡單的一兩個詞。傳統的精確匹配評分方法（就是看AI的答案是否和標準答案一字不差）會把這些長文全部判為錯誤，哪怕意思完全正確。
研究團隊使用了一種更聰明的評分方式：讓另一個AI（Claude Sonnet 4.6）來當裁判，判斷AI的回答和標準答案在語義上是否等價，允許換一種說法或者加了額外解釋。這種"AI當裁判"的方法已經成為開放式醫學問答評測的行業標準。
測試結果相當有力地支持了擴散模型的可行性。在VQA-RAD數據集上，微調後的擴散模型和自回歸模型都達到了0.649的準確率，兩者打平；在SLAKE數據集上，擴散模型以0.863對0.817明顯領先，統計檢驗確認這個差異不是巧合（p=0.026）；在VQA-Med-2019上，擴散模型以0.666對0.631勝出。零樣本（不經過任何醫學數據微調直接測試）的結果同樣是擴散模型全面領先：VQA-RAD是0.614對0.523，SLAKE是0.700對0.674，VQA-Med是0.629對0.614。
更值得關注的是微調帶來的提升幅度。SLAKE數據集上，擴散模型的準確率從0.700跳升至0.863，提升了0.163個百分點；自回歸模型從0.674升至0.817，提升0.143。VQA-RAD上自回歸模型微調後提升了0.126。VQA-Med的提升幅度則相對有限，說明這個數據集本身對兩種模型都更具挑戰性。
研究團隊還把這兩個模型和三個"頂級選手"做了比較：谷歌的Gemini-3.5-Flash、OpenAI的GPT-4.1-mini，以及Anthropic的Claude Sonnet 4.6。這些都是當今最強的商業視覺語言模型，參數量和計算資源遠超本研究的兩個模型。結果是：微調後的擴散模型（僅260億參數、實際激活38億）在SLAKE數據集上以0.863的準確率位居所有模型之首，超過了Gemini的0.751；在VQA-RAD和VQA-Med上，Gemini-3.5-Flash略勝一籌，分別達到0.777和0.683，但擴散模型在VQA-RAD上超過了GPT-4.1-mini（0.649對0.571）和Claude（0.649對0.654，在350個樣本的規模下基本是誤差範圍內的平局）。
從具體案例來看，這種差異尤為生動。有一道題的標準答案是"胰腺導管腺癌"，所有未經微調的模型和所有頂級商業模型都給出了冗長的描述性回答（比如"這張腹部CT顯示膽總管區域有一個高密度亮點，符合膽石症"），唯獨微調後的擴散模型直接回答"胰腺腺癌"，被裁判判定為正確。
五、速度優勢——為什麼擴散模型還快了4倍？
除了準確率，研究團隊還在一塊英偉達
H100顯卡上測量了兩種模型的推理速度，結果出人意料地有利於擴散模型。
自回歸模型的速度瓶頸在於它的串行性：每生成一個詞，就需要做一次前向計算，前一個詞沒出來，後一個詞就沒法算。生成256個詞，就要做256次串行計算。這就像流水線上的工人必須一個接一個地傳遞零件，無法並行。測試結果顯示，Gemma-4-26B在貪心解碼模式下生成約256個詞需要6.43秒，吞吐量約為24.6詞/秒。
擴散模型的邏輯完全不同：它的計算次數由"去噪步數"決定，而不是由生成的詞數決定。每一步去噪，256個位置的詞都被同時更新。因此，無論生成多長的文本，只要步數固定，時間就固定。研究團隊測試了16步、32步、48步三個設置。16步時，DiffusionGemma-26B只需1.46秒，吞吐量高達175.3詞/秒，是自回歸模型速度的4.4倍；32步時耗時1.74秒，速度是3.7倍；48步時耗時1.84秒，速度是3.5倍。而且測試時擴散模型生成的是完整的256詞畫布，而自回歸模型生成的是它自然的、更短的輸出——這意味著這個對比實際上對自回歸模型更有利，擴散模型的真實速度優勢可能更大。
對於放射科的實際工作來說，這個速度差異意味著什麼？如果醫生需要反覆調整報告、讓AI重新生成某個部分，每次等待從6秒縮短到1.5秒，工作流的順暢度會有質的變化。更重要的是，如果醫院需要同時處理大量患者的報告，吞吐量提升7倍意味著同樣的硬體資源可以服務更多患者。
六、任意位置填空——擴散模型的獨門絕技
這項研究最具獨創性的部分，或許正是任意位置填充能力的實現和驗證。
研究團隊用MIMIC-CXR資料庫（一個大型去識別化的胸部X光及配套報告數據集）進行了專門的填充實驗。他們從249份報告中各取出中間位置的一個完整句子，然後測試兩種模型分別在兩種條件下的填充表現。第一種條件是"雙向"：同時提供缺失句子左邊的內容和右邊的內容，讓模型在兩側約束下填充中間的空白。第二種條件是"僅左側"：只提供左邊的內容，模擬自回歸模型的視野。對於自回歸模型，研究團隊在"雙向"條件下把右側內容也放進了提示詞裡——這是讓它"看到"右邊內容的唯一方式，但這種方式是硬塞進去的，不是它架構本身支持的條件。
評分標準有兩個：一是詞符F1分數（衡量填充結果和原始句子在詞彙層面的重疊程度），二是讓AI裁判判斷填充結果和原始句子在語義上是否等價。
結果非常鮮明。擴散模型在雙向條件下的詞符F1達到0.320，僅左側條件下只有0.211——雙向條件帶來了+0.109的提升，統計顯著性極高（p
自回歸模型的表現則說明了架構的根本性差異。即便把右側內容明確寫進提示詞，它在詞符F1上的提升只有+0.031（p=0.08，統計上不顯著），AI裁判準確率甚至輕微下降了-0.016（同樣不顯著）。也就是說，把右側內容"告訴"自回歸模型，對它的填充質量幾乎沒有幫助——因為它的架構根本沒有設計成利用這類資訊的方式，右側內容只是額外的"噪音"。
兩種模型在"雙向條件帶來的提升"上的差距，在統計上是顯著的（詞符F1的交互效應：p=2×10^-4；AI裁判準確率：p=3×10^-4），意味著擴散模型從雙向上下文中獲益的程度，大約是自回歸模型的3.5倍。
從具體案例來看，這種差異極為直觀。一份報告寫道"心臟大小正常。縱隔和肺門輪廓在正常範圍內。[缺失句子] 肺部看起來清晰。骨性結構無異常。無急性病變證據。"，缺失的那句原文是"未見胸腔積液或氣胸"。擴散模型在雙向條件下準確填入了"未見胸腔積液或氣胸"；而自回歸模型在同樣的雙向條件下（右側內容被放進提示詞）只填出了"胸膜腔清晰"，並沒有把兩種情況都點出來。
另一個案例的缺失句是"心臟大小正常"，周圍有大量關於雙側胸腔積液消退、雙頂部肺部瘢痕等內容。擴散模型在雙向條件下準確填出"心臟大小正常"；僅左側條件下它給出了"無急性肺實變"，自回歸模型無論哪種條件都給出了關於氣腔不透明度或實變的描述，完全沒有捕捉到心臟大小這個核心資訊點。
這項實驗使用的都是未經醫學數據微調的基礎模型，排除了微調帶來的影響，因此結果真正反映的是兩種架構本身的能力差異，而非訓練數據的差異。
七、技術實現細節——如何讓擴散模型"釘住"固定位置
實現任意位置填充在技術上需要一個小但關鍵的改動：在每一步去噪時，強制把固定位置的詞"釘死"，不讓它們被隨機替換。
研究團隊的實現方式是給去噪步驟打了一個補丁：在每一步開始前，把輸入畫布中固定位置的詞強制替換成目標詞（確保模型在做預測時能看到這些約束）；在每一步結束後，再次把這些位置的詞強制恢復（防止它們在去噪過程的隨機化步驟中被改掉）。這樣，無論去噪過程進行到哪一步，固定位置的詞始終保持不變，而自由位置的詞則在雙向上下文的約束下逐步收斂到合理的填充內容。整個過程不需要重新訓練模型，也不需要改變模型的任何參數，只是在推理（使用）階段加了一個約束機制。
這種設計的優雅之處在於，它完全利用了擴散模型本身的雙向注意力機制——每個自由位置在每一步更新時，都能看到整個畫布上所有位置的當前狀態，包括被釘住的固定詞和其他仍在演化的自由詞。固定詞在雙向注意力的上下文中，就像錨點一樣引導整個填充過程向正確方向收斂。
這對於臨床工作流的意義是直接的：放射科醫生可以先在報告模板里填好若干固定的關鍵判斷（比如"心臟大小正常"和"印象：雙側胸腔積液"），然後讓AI來填充中間描述性的細節；或者醫生可以改動報告中間的某一句話，讓AI重新生成與兩側內容語義一致的替換版本，而不是從頭重寫整份報告。這種工作方式更符合放射科實際的寫報告習慣，也更能適應不同醫院、不同醫生之間的風格差異。
歸根結底，這項研究想說明的其實不複雜：當AI生成文字的方式從"從左往右一字一字打"變成"像雕塑家一樣從全局逐步打磨"時，它不僅在準確率上能和傳統方式旗鼓相當，還天然地獲得了一項傳統方式永遠無法擁有的能力——真正理解並利用上下文兩側的資訊來填充中間的空白。
對於放射科這樣充滿"填空"需求的臨床場景，這種能力的價值不在於錦上添花，而在於解決了一個根本性的痛點。至於那3.5到4.4倍的速度優勢，則是擴散模型並行計算架構帶來的額外驚喜。
兩種方式在寫作質量上的差異並不是關鍵——研究團隊也明確指出，兩者的差距主要體現在是否能利用雙向上下文，而不是誰更"會寫字"。但正是這一點結構性的差異，可能決定了哪種AI模型更適合成為放射科醫生的日常助手。
研究團隊已將代碼和微調後的模型權重公開發布，感興趣的研究者可通過論文編號arXiv:2607.01436找到相關資源鏈接。
Q&A
Q1：擴散語言模型和普通的ChatGPT類模型有什麼本質區別？
A：普通的ChatGPT類模型（自回歸模型）每次只生成一個詞，必須從左往右按順序生成，後面的詞看不到前面還沒生成的位置。擴散語言模型則是先把所有位置都填上隨機亂碼，然後一輪一輪地同時修正所有位置，每個位置都能同時參考左邊和右邊的內容，最終收斂成有意義的文字。這就是為什麼擴散模型能做"填空"，而自回歸模型天然做不到。
Q2：DiffusionGemma填寫放射報告的準確率有多高？
A：在三個標準醫學視覺問答數據集上，微調後的DiffusionGemma-26B準確率分別為：VQA-RAD 64.9%、SLAKE 86.3%、VQA-Med-2019 66.6%。其中SLAKE數據集的成績超過了GPT-4.1-mini、Claude Sonnet 4.6和Gemini-3.5-Flash三個頂級商業模型。在任意位置填充任務上，使用雙向上下文時準確率從15.7%提升至28.5%。
Q3：任意位置填充技術對普通患者有什麼實際意義？
A：這項技術讓放射科醫生在寫報告時可以先定好關鍵結論，讓AI填充中間的描述細節；或者修改報告某一句話後，AI能自動生成與前後內容語義一致的新版本，而不必重寫整份報告。這有助於減少放射科醫生的重複性勞動，同時幫助不同醫院、不同醫生之間的報告風格更加標準化一致，最終提升報告質量和診斷效率。
