這項由DeepSeek
人工智慧公司與北京大學聯合開展的研究，以預印本形式發表於2026年7月6日，論文編號為arXiv:2607.05147，有興趣深入了解技術細節的讀者可通過該編號查詢完整論文。
每天有數以億計的人在使用各類AI聊天助手——無論是問一道數學題、讓它幫你寫封郵件，還是請它幫你調試一段代碼。你肯定注意到過一個現象：螢幕上的文字是一個字、一個字慢慢"蹦"出來的，而不是一下子全部出現。這種"一次出一個字"的工作方式，並不是設計師為了製造打字機氛圍而特意設計的，而是大語言模型（AI文字生成系統）底層運作機制的天然結果。每生成一個字，模型都需要完整地"想一遍"，然後才能蹦出下一個字。這種逐字推進的方式，就像一位廚師每做一道菜都必須把整個廚房從頭打掃一遍才能開始下一道，效率自然低得可憐。
這篇論文提出的"DSpark"系統，正是為了解決這個根本性的效率瓶頸。它不僅讓AI生成文字的速度大幅提升，更關鍵的是，它在真實的大規模服務環境下——也就是成千上萬用戶同時使用同一個AI系統時——依然保持了出色的性能，把用戶的體驗速度提升了60%到85%。這不是一個實驗室里的理想數據，而是在DeepSeek-V4這個真實運營的產品中，面對真實用戶流量測量得到的結果。
一、AI為什麼會"慢慢打字"，這到底是誰的問題
要理解DSpark解決了什麼問題，我們得先搞清楚AI文字生成慢的根本原因。大語言模型的工作原理有點像一位極其謹慎的預言家：每次它只敢預測下一個最可能出現的詞，然後把這個詞納入已知資訊，再預測再下一個詞。這個過程完全是串行的、線性的，沒有任何並行可言。生成一段200個字的文字，模型就需要走200次完整的"預測循環"，每次循環都需要調用功能強大但計算量巨大的神經網路。
現代AI晶片（GPU）本來是為了並行計算而生的，就像一個擁有幾千名工人的超大型工廠，最適合同時干很多件事。但逐字生成的方式卻把這家工廠變成了一條只有一名工人在慢慢操作的流水線，絕大多數工人都在閒置等待。這種資源浪費既拖慢了每個用戶的響應速度，也嚴重限制了系統能同時服務多少用戶。
"投機解碼"（Speculative Decoding）是解決這一問題的主流思路，它的核心邏輯類似於讓一個助理先打草稿、再交給主廚審核。具體來說，先用一個小而快的"草稿模型"快速猜出接下來的若干個詞，然後把這些猜測一次性交給大模型，讓大模型在一次運算中同時審核所有猜測的詞，接受猜對的部分，拒絕猜錯的部分。由於大模型的"審核"操作天然支持並行，每一輪審核都能一次性確認多個詞，整體速度便大幅提升。關鍵在於，這個過程並不改變大模型最終的輸出質量——那些被接受的詞，正是大模型自己也會生成的詞；那些被拒絕的詞，大模型會重新生成一個正確的替代。換句話說，速度提升了，質量卻沒有任何損失。
然而，投機解碼在實踐中面臨兩個相互纏繞的難題，而這兩個難題正是DSpark要解決的核心挑戰。
二、兩道攔路虎：草稿質量和驗證浪費
第一道攔路虎來自草稿質量。草稿模型有兩種基本路線：一種叫"自回歸草稿"，它和大模型一樣逐字生成草稿，每個詞都參考前面已經生成的詞，因此草稿質量較高，前後文連貫性好。但問題在於，這種逐字生成的方式使得生成速度和草稿長度成正比——草稿越長，等待時間越長，和大模型慢慢打字的困境如出一轍，只是換了個稍微小一點的模型而已。
另一種叫"並行草稿"，它一次性同時預測出多個位置的詞，生成速度極快，無論草稿有多長，生成時間幾乎不變，就像一個可以同時預測整行棋局的棋手。然而並行草稿有個致命弱點：它預測每個詞時，並不知道前面的詞最終會被選擇哪個。以一個簡單的中文例子來說，假設第一個詞既可能是"當然"也可能是"沒問題"，並行草稿在預測第二個詞時，不得不兩種可能都考慮，結果就可能生成"當然問題"或"沒然可以"這種前後矛盾的奇怪組合。隨著草稿位置越來越靠後，這種"多模態碰撞"（即多種可能性相互混淆）越來越嚴重，草稿被大模型接受的概率急劇下降，越到後面的詞越容易被拒絕，白白浪費了生成這些詞的計算資源。
第二道攔路虎來自驗證浪費。即使草稿模型生成了很長的草稿，把所有草稿詞都送給大模型驗證也不一定是明智之舉。大模型驗證操作本身消耗的計算資源與驗證詞的數量成正比。當系統負載很輕、同時只有少數用戶在使用時，多驗證幾個詞幾乎沒有額外成本，哪怕最後被拒絕了也無所謂。但當系統處於高並發狀態——比如幾百個用戶同時提問——情況就完全不同了。大模型的計算資源是有限的，每多驗證一個註定會被拒絕的草稿詞，就意味著其他用戶的請求要多等一會兒。換句話說，在系統繁忙時，盲目地把整段長草稿都送去驗證，反而會拖累整個系統的吞吐量，適得其反。
DSpark正是為了同時攻克這兩道難題而設計的。
三、半自回歸生成：魚和熊掌一起吃
DSpark的第一個核心創新叫做"半自回歸生成"，這是它解決草稿質量問題的方案。用一個直觀的比喻來理解：傳統並行草稿就像一個合唱團，所有人同時開嗓，但由於彼此聽不到對方在唱什麼，很可能唱出亂糟糟的和聲。傳統自回歸草稿則像一個接龍朗誦——上一個人說完，下一個人才能接著說，雖然銜接流暢，但速度太慢。DSpark的設計是讓合唱團先各自快速哼出一個大致的旋律框架（並行階段），然後再由一個輕量的指揮快速調整相鄰音符之間的銜接關係（順序階段），兼顧了速度和連貫性。
在技術層面，DSpark的並行骨幹網路與當前最先進的並行草稿模型DFlash結構相似：在一次前向計算中，同時為草稿序列中的所有位置生成初始預測（稱為"基礎邏輯值"）。不過DSpark對DFlash做了一個小而精妙的改動——它把錨定詞本身也納入第一個預測位置，使得相同數量的輸入詞能產出更多的草稿詞，在降低計算量的同時保持相近的草稿質量。
並行階段結束後，接力棒傳給了一個極其輕量的"順序模組"。這個模組的工作是給每個位置的基礎預測加上一個"過渡偏置"——簡單來說，就是根據前一個詞是什麼，微調當前位置的詞語概率分布，讓前後兩個詞之間的搭配更加合理。DSpark提供了兩種順序模組的實現方式。
第一種叫"馬爾可夫頭"，它的邏輯極為簡單：只看緊鄰的前一個詞來調整當前詞的概率。具體實現上，它維護了一個經過低秩壓縮的"詞語過渡表"——你可以把它理解為一個巨大的詞語搭配詞典，記錄了當前詞"of"之後最可能出現的詞、當前詞"no"之後最可能出現的詞，等等。這個詞典經過特殊的數學壓縮，儲存空間極小，查詢速度極快，每一步的計算量幾乎可以忽略不計。回到之前的例子：一旦第一個詞被確定為"of"，馬爾可夫頭就會立刻增強"course"在第二個位置出現的概率，同時抑制"problem"的概率，從而避免"of problem"這種奇怪搭配的產生。
第二種叫"RNN頭"，它的記憶比馬爾可夫頭更長：不只看前一個詞，而是維護一個隨草稿序列流動而不斷更新的"狀態向量"，這個狀態向量壓縮了整個草稿前綴的歷史資訊，讓過渡偏置能參考更遠的上下文。不過實驗結果表明，RNN頭相比馬爾可夫頭帶來的額外提升有限，主要體現在較長的草稿序列上，而RNN頭的實現複雜度更高、部署難度更大。綜合考量後，DSpark選擇馬爾可夫頭作為默認配置。
順序模組雖然是逐步運行的（必須先確定第1個詞，才能計算對第2個詞的偏置，再確定第2個詞，才能計算第3個詞的偏置……），但由於每一步的計算量極小，整個順序循環的總耗時遠遠小於並行骨幹網路的一次前向計算。實測數據顯示，在標準批處理規模下，加入順序模組後整個草稿生成階段的延遲增加僅為0.2%到1.3%，而換來的草稿接受長度提升卻高達16%到30%——這個交換比可謂極為划算。
四、置信度調度驗證：聰明地分配大模型的算力
草稿質量提升了，接下來需要解決驗證浪費的問題。DSpark的第二個核心創新叫做"置信度調度驗證"，可以理解為一套動態的"性價比過濾器"。
這套機制的第一個組成部分是"置信度頭"。在草稿生成階段，順序模組在決定每個草稿詞時，會附帶輸出一個介於0和1之間的置信度分數，代表"這個詞通過大模型驗證的概率"，更準確地說，是"在前面所有詞都已被接受的前提下，這個詞也被接受的條件概率"。這個置信度分數由一個極輕量的線性函數計算得出，輸入是草稿模型的隱狀態和前一個詞的嵌入向量，輸出經過一個Sigmoid函數壓縮到0到1之間。訓練時，這個置信度頭被要求預測一個理論上可計算的"真實接受率"——即草稿詞分布與大模型詞分布之間的統計距離（用總變差距離衡量），兩個分布越接近，這個詞被接受的概率就越高。
有了每個位置的條件接受概率，把它們從左到右連乘，就能得到每個位置的"前綴生存概率"——即從草稿第1個詞一直到第k個詞，全部都被大模型接受的聯合概率。這個概率隨著位置的推進單調遞減，位置越靠後，對應的前綴生存概率越低。
不過，神經網路輸出的置信度分數往往存在"過度自信"的問題——它預測的接受概率系統性地偏高。如果直接使用這些原始分數，系統會高估草稿被接受的可能性，導致送出太多低質量的草稿詞，適得其反。為此，DSpark引入了"序列溫度縮放"（STS）作為事後校準手段：在一個獨立的驗證數據集上，從左到右逐個位置地搜索一個最優的溫度係數，使校準後的聯合概率分布與實測的真實接受率儘可能吻合。溫度縮放是一種不改變排名順序的變換——它只是把過高的概率適當壓低，讓絕對值更準確，同時保留原來各詞質量高低的相對排序。實測數據顯示，校準後各位置的"期望校準誤差"（一種衡量概率預測準確性的指標）從校準前的3%到8%，大幅降低到約1%，同時各位置的區分能力（ROC-AUC指標）維持在0.81到0.90的較高水平。
第二個組成部分是"硬體感知前綴調度器"，這是整套機制的決策核心。它的任務很明確：在任意給定時刻，系統中有若干個並發請求，每個請求都有一組草稿詞及其對應的前綴生存概率，調度器需要決定每個請求應該送多少個草稿詞去驗證，使得整個系統的"每秒成功生成詞數"最大化。
這個問題的核心洞察在於：大模型每次前向計算能處理的總詞數（批處理大小）直接決定了計算速度，但不同批處理大小下的每步計算速度（SPS，Steps Per Second）是預先可以測量的。DSpark在系統初始化時，對不同批處理規模逐一測量並記錄這個速度曲線，形成一張輕量的"硬體容量表"。運行時，調度器結合每個請求的前綴生存概率（即每個草稿詞能真正貢獻到最終輸出的期望貢獻量）和這張硬體容量表，通過一個高效的貪心算法，找出全局最優的草稿詞分配方案。
貪心算法的運作方式是：把所有請求的所有草稿詞按前綴生存概率從高到低排成一個全局隊列，然後逐個把詞從隊列頭部"納入驗證"，每納入一個詞，就更新當前的預期總吞吐量（已接受詞的期望數量乘以對應批處理規模下的每步速度），當預期吞吐量不再增長時立刻停止。這種"早停機制"不僅保證了最優性（在目標函數單峰的假設下），更有一個關鍵的理論意義：它確保了調度決策在採樣具體草稿詞之前就已完成，不會因為"看到某個詞的具體取值後才決定是否接受它"而引入統計偏差——這是保證最終輸出分布與大模型原始分布完全一致（即"無損"）的必要條件。論文的附錄中還通過一個精心構造的反例證明：如果去掉早停機制、改用全局回溯搜索，就會出現"接受概率依賴於被接受詞本身取值"的循環，導致輸出分布系統性地偏離目標，破壞無損保證。
五、從實驗室到真實伺服器：部署中的工程挑戰
理論上完美的算法，在真實工業部署中往往會遭遇意想不到的阻力。DSpark的研究團隊誠實地記錄了將調度器部署進DeepSeek-V4生產服務系統時遭遇的兩大工程障礙，以及他們是如何繞過這些障礙的。
第一個障礙是硬體容量曲線的非平滑性。理論分析假設每步計算速度隨批處理大小的增加平滑遞減，但實際的GPU計算速度曲線因為底層張量核心利用率的變化而呈現出不規律的階梯狀下降——某些批處理大小會觸發效率斷崖，速度突然跌落，隨後又趨於平穩。這種"鋸齒狀"曲線使得早停機制可能過早地陷入局部最優點。
第二個障礙是與"零開銷調度"（ZOS）的兼容性衝突。現代高吞吐量大模型服務系統為了最大化GPU利用率，會提前預計算當前步驟的同時確定下一步驟的批處理配置，兩步操作高度流水線化。這意味著下一步要處理多少個詞，必須在當前步驟執行期間就確定好，不能等到當前步驟完成後再做決策。而DSpark調度器按照原始設計需要在當前步驟完成、新草稿詞採樣完成之後，才能計算出準確的置信度分數，進而決定下一步的驗證長度。同步調度與流水線執行之間存在根本性的時序衝突。
DSpark的解決方案是引入"異步調度"：不使用當前步驟剛剛產生的置信度分數，而是使用兩步之前的置信度分數來預測當前步驟需要的驗證容量K。實際的候選詞仍然按照最新的置信度分數從高到低排序，歷史預測值僅用於確定截斷閾值（即最多驗證多少個詞）。這種"容量用歷史、排序用當前"的混合策略引入了一個兩步的時間偏移，但由於截斷決策依賴的是兩步之前的資訊，而不是當前草稿詞的具體取值，因此不會引入基於"當前詞取值"的選擇性偏差，無損保證依然成立。
更妙的是，異步設計還自然地化解了第一個障礙：由於截斷決策本身基於歷史資訊，已經不再依賴於"吞吐量目標是否單峰"這一假設，因此可以安全地去掉早停的break條件，改為無約束地全局搜索，從而繞過硬體容量曲線上的局部鋸齒，找到真正的全局最優截斷點。兩個工程難題被一個設計改動一併解決，實屬精巧。
在計算核心層面，可變長度驗證也帶來了挑戰：不同請求被分配了不同數量的草稿詞參與驗證，標準的固定長度批處理核心無法高效處理這種可變長度的輸入，直接處理會導致大量填充（Padding）和計算資源浪費。團隊採用了扁平化處理策略：把所有請求的所有待驗證詞在計算核心層面鋪平為連續序列，用一個專門的標記張量記錄每個詞屬於哪個請求、在序列中處於哪個位置，注意力機制則通過讀取這個標記張量來正確處理跨請求的邊界。在DeepSeek-V4的稀疏注意力架構下，只有索引注意力和壓縮注意力兩個計算核心需要針對這種可變長度路由做修改，改動範圍相當有限。
訓練階段同樣面臨獨特的工程挑戰。草稿模型的訓練需要目標大模型的概率分布作為監督信號，但把大模型的完整詞表概率分布（約10萬個詞的概率向量）傳輸給草稿模型的計算節點，會產生巨大的通信開銷。團隊採用了"隱狀態通信"方案：只傳輸大模型語言建模頭之前的隱狀態向量（維度遠小於完整詞表），在草稿模型的本地節點上重新運行語言建模頭的投影，僅為訓練中實際採樣到的位置計算概率值，通信量降低到與模型隱藏維度成正比。另一個訓練優化是"錨點有界序列打包"：從長文本序列中隨機採樣固定數量的錨點位置，把每個錨點周圍的短草稿塊打包成密集的訓練批次，通過詞級別的注意力索引而非二維掩碼來保證跨塊的因果隔離，既避免了塊間資訊泄露，又規避了大量填充帶來的計算浪費。
六、數據說話：DSpark的實驗成績單
在離線受控評測中，DSpark在四個目標模型（Qwen3-4B、Qwen3-8B、Qwen3-14B、Gemma4-12B）和九個基準測試集上，與兩類頂尖競爭者進行了全面對比。競爭對手之一是Eagle3，代表當前最先進的自回歸草稿方案；另一位是DFlash，代表當前最先進的並行草稿方案。所有參與比較的模型都在相同數據集、相同訓練框架下重新訓練，確保比較公平。數據集涵蓋三個領域：數學推理（包括GSM8K、MATH500、AIME25）、代碼生成（包括MBPP、HumanEval、LiveCodeBench）和日常聊天（包括MT-Bench、Alpaca、Arena-Hard）。評價指標是每輪解碼的平均"接受長度"——即大模型每次一併驗證時平均能接受多少個草稿詞，這個數字越大，加速效果越好。
在Qwen3-4B上，DSpark的宏平均接受長度比Eagle3提升了30.9%，比DFlash提升了16.3%。在Qwen3-8B上，對應提升分別是26.7%和18.4%。在Qwen3-14B上，分別是30.0%和18.3%。在不同架構的Gemma4-12B上，DSpark同樣超越了兩位競爭對手，證明這種提升具有跨模型家族的普遍性。
一個有趣的深層分析是"逐位置條件接受率"曲線。研究團隊追蹤了在前k-1個草稿詞全部被接受的前提下，第k個草稿詞被接受的概率，按照k從1到7繪製曲線。結果清晰展示了三種架構的本質差異：Eagle3（自回歸）的曲線隨位置推進保持平穩甚至略有上升，說明它的草稿質量不隨位置衰減，序列越長越有把握；DFlash（並行）的曲線則明顯向下傾斜，每進一個位置接受概率就下降一步，印證了並行生成的多模態碰撞問題；DSpark（半自回歸）的曲線從與DFlash相近的高起點出發（受益於深度並行骨幹），隨後保持平穩而不急劇下滑（受益於順序模組的前後文約束）。
另一個令人深思的發現是：並行草稿模型在"第一個詞的接受率"上顯著優於自回歸草稿模型（以Qwen3-4B為例，數學推理領域DFlash首位接受率約0.88，而Eagle3僅約0.81；日常聊天領域兩者差距更大，分別約為0.72和0.53）。這看起來違反直覺——不是應該知道前文的自回歸模型更準確嗎？原因在於計算資源的分配：自回歸草稿必須把草稿延遲時間保持在O(草稿長度)以內，因此只能使用非常淺的網路（Eagle3隻用了1層Transformer）；並行草稿的延遲與草稿長度無關，可以使用深得多的網路（DFlash使用5層Transformer），深層網路對目標大模型的特徵理解能力更強，首位預測自然更準確。由於投機解碼是從左到右的前綴匹配過程，第一個詞被拒絕後後面的詞全部作廢，因此首位準確率對整體加速效果的槓桿效應遠超其他位置。這正是為什麼即便並行草稿在位置3之後的接受率低於自回歸草稿，它的總體接受長度依然更高——贏在了最關鍵的第一步。
在深度消融實驗中，研究團隊還測試了草稿模型層數對DSpark表現的影響。僅2層的DSpark（而非默認的5層）就已經在所有九個基準上超過了5層的DFlash基線，說明輕量的順序模組帶來的序列連貫性提升有著極高的參數效率，用更少的參數實現了更好的效果。隨著草稿序列長度從4增加到16，DSpark相對於DFlash的優勢持續擴大（數學領域：+16% → +30%，代碼領域：+15% → +26%，聊天領域：+18% → +22%），這完全符合預期：草稿越長，多模態碰撞的累積效應越明顯，順序模組的糾偏價值也越大。
七、生產環境中的真實表現：Pareto前沿的移動
離線評測固然重要，但DSpark更值得關注的成果來自DeepSeek-V4真實生產環境下的部署結果。測試對象是DeepSeek-V4-Flash（預覽版）和DeepSeek-V4-Pro（預覽版）兩個服務引擎，對比基準是此前在生產中運行的MTP-1系統——一次驗證1個草稿詞的單詞投機解碼方案，這個方案之所以是生產基線，正是因為更激進的多詞方案（如一次驗證3-5個詞的MTP-3/5）在高並發場景下會因驗證浪費而拖累整體吞吐量，反而不如MTP-1。DSpark的出現，讓更長草稿塊的驗證在高並發下也變得可行，接替MTP-1成為新的生產基線。
評測使用的是真實用戶流量產生的遙測數據，散點圖呈現了系統聚合吞吐量（每秒每GPU處理的總詞數）與用戶側生成速度（每秒每用戶收到的詞數，TPS）之間的關係曲線。這兩個指標之間存在內在張力：吞吐量代表系統整體利用率，TPS代表單個用戶的主觀體驗流暢度；通常情況下，為了提升吞吐量而增大批處理規模，會降低單個請求的TPS，兩者此消彼長。
在V4-Flash引擎上，當系統在中等TPS約束（80詞/秒/用戶）下運行時，DSpark相比MTP-1實現了51%的聚合吞吐量提升。當約束收緊到120詞/秒/用戶時，MTP-1已經接近其可運行邊界，並發批處理規模極小，系統吞吐量急劇萎縮；DSpark在這一約束下仍能維持實質性的服務能力，名義上實現了661%的吞吐量優勢。研究團隊特別說明，這個661%更多是"MTP-1能力邊界崩潰"的體現，而非DSpark本身倍數級的性能提升，應主要解讀為DSpark成功地把"120詞/秒/用戶"這個性能層級從"不可達"變為"可正常服務"。在等吞吐量的穩定比較點上，DSpark為每個用戶帶來60%到85%更快的生成速度。V4-Pro引擎的規律與此相同，中等SLA約束（35詞/秒/用戶）下吞吐量提升52%，嚴格SLA約束（50詞/秒/用戶）下名義提升406%，等吞吐量比較下每用戶速度提升57%到78%。
動態驗證預算的調度行為也被詳細記錄：在低並發階段，調度器把每個請求的平均驗證長度擴展到4到6個詞（相比MTP-1固定的2詞大幅增加），充分利用閒置的計算資源；隨著並發請求數量增加，驗證長度平滑下降，在高並發狀態下自動收縮到接近MTP-1的水平，保護了其他等待服務的請求。這種自適應行為不需要任何手動調節，完全由硬體容量曲線和實時置信度分數自動驅動。
八、問題的邊界：DSpark尚未解決什麼
這篇論文的一個值得讚賞之處是，研究團隊在最後坦誠地指出了DSpark當前方案的局限性。
核心局限在於草稿生成階段的"固定成本"問題。無論調度器最終決定驗證多少個草稿詞，並行骨幹網路都必須為完整的最大草稿長度（γ=5）做一次完整的前向計算，無法提前退出。對於那些本身接受率極低的請求（比如讓AI生成高度創意性、極度開放式的內容），草稿被接受的概率本來就不高，這次骨幹網路的計算實際上大部分都被浪費了，無法回收。研究團隊提出了一個未來可能的優化方向：在草稿模型內部引入"基於難度的早退出"機制，對於那些顯然會產生低質量草稿的請求，允許骨幹網路在中間層提前終止計算，跳過剩餘層次，直接輸出基於當前層資訊的草稿預測，以降低無效計算的絕對消耗。
歸根結底，DSpark代表了一次系統性的工程與算法協同設計的成功實踐。它沒有單點突破，而是在草稿質量、置信度估計、調度策略和計算核心四個層面同時做出針對性的改進，讓每個環節的改進都與其他環節形成正向協同。特別是它對"無損"這一理論約束的處理方式——不是繞開約束，而是通過精心的算法設計（早停機制、異步調度形成的因果屏障）在滿足約束的前提下最大化性能——體現了嚴謹性與實用性的平衡，也為後續的研究工作提供了一個可復用的思路框架。
目前，團隊已經開源了DSpark在DeepSeek-V4-Flash和DeepSeek-V4-Pro上的模型權重，以及包含Eagle3、DFlash和DSpark完整實現的訓練代碼庫DeepSpec，有興趣復現或繼續研究的讀者可通過論文編號arXiv:2607.05147找到完整資訊和相關鏈接。
Q&A
Q1：投機解碼（Speculative Decoding）是什麼原理，為什麼能加速AI生成文字？
A：投機解碼的原理是"先猜後驗"：用一個小而快的草稿模型提前猜出多個可能的詞，再一次性交給大模型並行審核所有猜測。大模型的"審核"操作天然支持並行計算，所以一次審核可以同時確認多個詞。只要草稿猜得足夠准，每次大模型運算就能產出多個詞，整體生成速度自然大幅提升，且最終輸出質量與大模型直接生成完全一致。
Q2：DSpark的半自回歸架構相比純並行草稿有什麼具體優勢？
A：純並行草稿預測每個詞時不知道前面的詞是什麼，容易產生前後矛盾的組合（如"of problem"）。DSpark在並行骨幹網路之後，加了一個輕量的馬爾可夫過渡模組，根據前一個詞微調當前詞的概率分布。這個模組計算量極小，只增加約0.2%到1.3%的延遲，但能讓草稿的前後文連貫性大幅提升，使接受長度比純並行草稿提升16%到30%。
Q3：DSpark的硬體感知調度器如何決定每次驗證多少個草稿詞？
A：調度器在系統啟動時，預先測量不同批處理大小下GPU每步的計算速度，形成一張容量表。運行時，它把所有並發請求的草稿詞按"前綴生存概率"（即這個詞及其前面所有詞都被接受的聯合概率）從高到低排序，逐個納入驗證，同時用容量表實時估算當前方案的預期總吞吐量，一旦吞吐量不再增長就立即停止，保證資源分配的全局最優。
