宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

NPU從推理單元到協調中樞,驍龍新一代旗艦平台怎麼做到的

2026年09月17日 首頁 » 熱門科技

驍龍新一代旗艦移動平台發布在即,高通在官方部落格中正式揭曉了其搭載的全新Hexagon NPU。這一次升級的核心,不僅僅是算力提升多少的簡單敘事,而是一個更根本的轉變:NPU的角色正在從執行單一模型的推理單元,變成調度多個專用模型的協調中樞。

高通技術公司產品市場高級總監Cisco Cheng在署名部落格中給出了一個明確的判斷:隨著AI智能體化的深入,脫穎而出的架構不是依賴單一龐大模型處理所有任務,而是由多個專用模型組成的系統,根據任務、情境和用戶需求進行智能調度。這句話,是理解新一代Hexagon NPU全部設計邏輯的鑰匙。

NPU從推理單元到協調中樞,驍龍新一代旗艦平台怎麼做到的

高通做NPU,比大多數人想像的要早得多

很多人不知道,Neural Processing Unit(NPU)這個概念,最早就是高通提出的。2013年,高通發布了一個名為Zeroth的獨立NPU項目,目標直指「定義一種全新的處理架構」——神經處理單元。到了2015年的驍龍820,高通已經將研究成果落地為實際能力:Hexagon 680 DSP實現了基於加速器的電腦視覺感知、低功耗語音喚醒和本地惡意軟體行為分析。全時開啟的傳感器數據處理、隨時在線的語音喚醒——這些功能在當時看足夠超前,放到現在也不落伍。

2018年的驍龍855是另一個節點。高通在Hexagon 690中首次加入獨立的張量加速器,讓NPU正式具備針對深度學習模型的專用加速能力。從這一代開始,Hexagon NPU的架構輪廓逐漸清晰。

正因在這條路上走了很久,高通對於NPU應該怎麼設計、如何使用,向來有自己的想法。

NPU從推理單元到協調中樞,驍龍新一代旗艦平台怎麼做到的

NPU升級的兩個重點:計算更強,調度更順

回到即將發布的驍龍新一代旗艦平台。高通公布的資訊顯示,NPU的改進集中在兩個層面。

Element Accelerator:讓NPU學會「調度」。 這是新一代Hexagon NPU最核心的變化。傳統NPU的設計重心在「算」:把矩陣乘法做快。但智能體需要的不只是「算」,還需要「想」:在推理過程中選擇走哪條路、調用哪個工具、下一步做什麼決策。Element Accelerator讓NPU第一次同時具備高效計算和智能調度兩類能力,配合Fast Action Loops和KV-Cache加速,支持最長32K的上下文長度。

共享記憶體擴容50%:讓數據留在該留的地方。端側大模型推理有一個反直覺的工程現實:解碼階段的瓶頸往往不在計算,而在數據搬運。模型每生成一個詞元,都需要讀取保存對話上下文的KV緩存。如果NPU片上空間不足,數據就必須在NPU與主記憶體之間頻繁搬移,推高時延和功耗。共享記憶體擴容後,更多數據留在NPU內部,減少DDR訪問頻次。用高通的話說,這讓智能體在處理更長上下文、調用更多工具以及執行並發任務時,始終保持流暢響應。

在模型層面,新一代NPU支持在終端側運行300億參數的MoE模型,每次生成詞元僅激活約30億個被路由選中的參數。配合從快閃記憶體到記憶體的智能加載機制和INT2到FP16的五種精度策略,開發者可以根據任務複雜度靈活平衡性能、記憶體和功耗。對於INT4精度模型,預填充性能提升最高50%,40億參數模型首個詞元生成時間低於1.5秒。

NPU從推理單元到協調中樞,驍龍新一代旗艦平台怎麼做到的

不只是旗艦的事,更是在為端側AI鋪路

自智慧型手機出現「AI」概念以來,已有十餘年。但大多數用戶真正用過的AI功能,幾乎都是廠商預裝的——第三方應用絕大多數時候仍然依賴雲端處理,很少調用設備的端側算力。根本原因在於,旗艦與非旗艦的AI性能落差太大,開發者不敢輕易將端側AI在大眾應用上落地。

高通顯然看到了這個問題。新一代Hexagon NPU支持多種精度策略,本質上是為開發者提供更大的靈活度;與記憶體和模型廠商合作推進MoE架構,則是為了以更低的記憶體需求實現更大的模型體驗。這些技術如果能夠「下放」到更多設備,受益的絕不僅限於新一代旗艦。

更值得關注的是高通的自研架構優勢。由於驍龍平台的CPU、GPU、NPU全部自研,高通能更容易地打通這幾個計算組件,讓複雜的AI任務被拆解到多個單元里協同執行。手機的AI能力,不再局限於NPU的規格。這或許才是新一代Hexagon NPU最值得期待的地方——它不只是讓旗艦手機跑得更快,更是在為整個行業的端側AI落地鋪路。

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2026 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新