Fable 5 傳來好消息，原定今日下午就要下線，被延長到了 12 號 才告一段落了，在那之後，訂閱用戶不再能用套餐限額體驗。
這短短的幾天，已經讓許多人愛上卻又要失去。不禁讓人暢想，這種級別的模型，什麼時候能跑在我們自己的設備上？
曾經人們討論前沿模型時，話題通常是「它有多強」「它比競品快多少」「它能取代什麼工作」。但這一次，有人開始問「它能不能跑在端側」，這個問題的出現本身就是一種信號：說明端側 AI 這件事已經從行業術語變成了大眾期待。
不過說實話，這個想法目前還是太樂觀了。Fable 5 是 Anthropic 第一個 Mythos 級的公開模型，100 萬 token 上下文窗口，專為長時間異步任務設計，跑在 AWS 和 Google Cloud 的數據中心裡。它離端側設備之間隔著的不是一代晶片，是好幾個數量級的算力、功耗和模型壓縮難題。
當人們開始把「頂級模型離線跑」從一個玩笑變成一個認真討論的問題，是一個值得考慮的信號：說明端側 AI 已經從廠商 PPT 里的願景走進了用戶真實的期待。Fable 5 下線事件本身也在提醒另一件事，正如 Reddit 上所說，如果你不擁有矽和權重，高可用性就是個幻覺。
從發布參數，到發布架構
如果說過去兩年端側 AI 的主題是「宣布」，今年的主題變成了「重構」。晶片廠商不再滿足於在發布會 PPT 上標一個 NPU 算力數字，而是開始圍繞本地 AI 推理重新設計整個硬體架構。
6 月 25 日高通給出了一組讓華爾街重新評估這家公司的數字：2029 財年非手機業務收入目標上調到 400 億美元，汽車業務 100 億美元。CFO Akash Palkhiwala 的表述更直接：「到 2029 年，手機將只占我們晶片收入的三分之一。」
支撐這個目標的硬體基礎，是已經進入第二代的驍龍 X2 系列。驍龍 X2 Elite 的 Hexagon NPU 做到了 80 TOPS 的 AI 算力，這個數字在 2024 年還屬於雲端推理晶片。最高 18 核 CPU、228GB/s 內存頻寬、128GB 統一內存的配置，已經不再是「能跑 AI 的筆記本」，而是「為 AI 設計的筆記本」。
比晶片本身更值得關注的是高通的系統級布局，6 月 17 日的 AWE 大會上推出的驍龍 START 計劃，把晶片、AI 軟體棧、合作夥伴網路打包成模組化方案，讓品牌和企業能像搭樂高一樣推出個人 AI 終端。首批落地的品類是智能眼鏡，後續擴展到更多形態。高通管這個願景叫 The Ecosystem of You」——不是你在不同設備上打開不同的 AI，而是同一個 AI 追著你走。
蘋果的牌打得更激進，根據彭博社 Mark Gurman 爆料，蘋果正在做出自 2020 年 Apple Silicon 發布以來最大的一次路線圖調整，跳過 M6 Pro 和 M6 Max，直接押注 2027 年的 AI-focused M7。
蘋果的 M 系列從 2020 年至今，路線圖像瑞士鐵路一樣準時——每年一代，每代三種配置（基礎、Pro、Max）。突然跳過整整一個高端代際，意味著蘋果內部判斷端側 AI 的需求已經緊迫到等不及按常規節奏疊代了。
M6 基礎版的內存頻寬預計 200GB/s（M5 是 153GB/s），M7 目標 240GB/s。統一內存架構讓 CPU、GPU 和 Neural Engine 共享同一個內存池，天然適合大模型推理。M5 開始在每個 GPU 核心內置了 Neural Accelerator，AI 不再是一個獨立的協處理器功能，而是分布在整個晶片的每一處計算單元里。
在 Gurman 看來，這是蘋果正在「加速推進」，因為 M7 擁有「支持端側 AI 和 GPU 密集型軟體的技術」——不是「支持 AI 功能」，是「支持端側 AI」。這是一個晶片設計目標的轉向。
當蘋果和高通在筆記本和手機上布局時，英偉達
從另一個方向殺進來了。售價 4699 美元的桌面設備 DGX Spark，搭載 Grace Blackwell 超級晶片，128GB 統一內存，1 PFLOP 的 FP4 AI 算力。
英偉達把它定位為「個人 AI 超級電腦」。今年 6 月的 GTC 台北上，老黃又發布了 RTX Spark，更輕量的超晶片，目標是把 AI 原生 PC 推向更薄的筆記本形態。這條線跟英偉達的工作站策略也在匯合，RTX PRO Blackwell 系列已經在 Dell、HP、Lenovo 的新款工作站上落地。
NemoClaw 項目讓用戶可以在本地工作站上運行安全、始終在線的 AI 助手。DGX Spark 負責桌面級重度推理，RTX Spark 負責輕薄本，RTX PRO 負責專業創作，全方位出擊，把本地 AI 從極客玩具變成了可量產、可定價的硬體品類。
向設備彎腰
硬體在追 AI，模型也在反過來適應硬體。過去一年，幾款關鍵模型的出現正在改變「端側 AI 能做什麼」的答案。最明顯的動作來自於 Google DeepMind，發布了 Gemma 4。
這是來自 Gemini 3 研究、Apache 2.0 許可的開放模型家族。五個參數規格一字排開，從只有 5GB 內存就能跑的 E2B，到對標 70B 級能力的 31B 密集模型，構成了一條從手機到個人電腦的完整產品線。
最讓人興奮的是那幾顆「小」模型，E2B 和 E4B 在 4-bit 量化下只需要 4-5GB 內存，可以在沒有 GPU 的普通筆記本甚至手機上跑；12B 模型在 8GB 內存設備上就能運行，同時支持文本、圖像和音頻多模態輸入；26B-A4B 是 MoE 架構，30GB 內存就能跑到 30+tokens/s。
Google AI Edge 團隊專門寫了一篇部落格來展示如何把 Gemma 4 12B 部署到日常筆記本上做 agentic 工作流，「Google 免費的 Gemma 4 模型跑在你可能已經擁有的硬體上。」
當「可能已經擁有」成為一篇評測的賣點，說明端側模型的硬體門檻正在快速塌縮。
作為開源模型的典範，阿里 Qwen3.6 也在想方設法讓更大的模型變得對本地更友好。Qwen3.6-27B 是一個 27B 參數的密集模型，100 萬 token 上下文窗口，MindStudio 的評測把它評為 2026 年最佳開源 agentic coding 模型。
Reddit 上已經有開發者搭建了「Qwen3.6 35B + llama.cpp + RTX 5090」的本地 agentic coding 方案。Qwen 的策略不是在參數規模上跟雲端模型硬拼，是用 MoE 和架構優化，把接近前沿的能力塞進本地可承受的硬體邊界裡。它不是「小模型」，是「被壓縮的前沿模型」。
如果說 Gemma 和 Qwen 是在做模型能力的降維適配，面壁智能的 MiniCPM 系列走得更底層——直接為手機和邊緣設備設計模型。MiniCPM-V 4.6 只有 1.3B 參數，專為端側多模態設計，能處理單圖、多圖和影片理解，可以在 iPhone、Android 和鴻蒙手機上直接運行，Apache 2.0 開源，支持 Ollama 和 llama.cpp。
1.3B 的參數數字放在雲端模型旁邊幾乎可以忽略，但它在 OCR、文檔理解和視覺推理上的表現已經可以跟 7B 級的模型競爭。MiniCPM5-1B 則更激進——1B 級的密集模型，搭配部署和微調 Agent Skills，把目標用戶從「AI 開發者」擴展到了「普通消費者」。Nature Communications 上發表的論文給了它一個很重的評價：「邁向在邊緣設備上部署 GPT-4V 級多模態能力的關鍵一步。」
這些模型現在到底有多強，並不是重點，重點是它們正在證明一件事：端側 AI 不是「雲端模型的縮水版」，它是一個獨立的模型品類，有自己的設計目標、優化路徑和使用場景。而這個品類正在以極快的速度成熟。
代價？不再是訂閱費那麼簡單
如果上面這些讓你覺得端側 AI 的未來一片光明——你是對的，但賬單也來了。
本地 AI 不是免費的，可能你省掉了訂閱費，但要為高內存頻寬、大容量統一內存和高算力 NPU 支付更高的硬體溢價。
M5 Max 從 36GB 到 128GB 內存的差價是數千元，而這條價格曲線在「本地 AI」時代只會更陡。過去買電腦是選 CPU 型號和 SSD 大小，以後要多問一句：「我買的這台，能跑多大的模型？」
端側推理的功耗牆也遠比顯存更硬。驍龍 X2 Elite 的 NPU 可以持續跑幾十 TOPS，但滿負荷 80 TOPS 時，無風扇輕薄本的體驗會明顯打折。英偉達的 DGX Spark 本身就是一台需要主動散熱的桌面設備。未來「能跑大模型」和「續航不崩」之間，大概率是一個二選一。
硬體溢價和功耗之外，廠商已經在用產品和本地模型的綁定，建立壁壘。蘋果的 Neural Engine 只能在 macOS 生態內發揮最大效能，Windows AI PC 的 Copilot+ 綁定了驍龍 NPU 和安全晶片，Google 的 AI Edge Gallery 是 Gemma 在安卓上的最佳路徑，英偉達的 RTX Spark 跟微軟的 Windows agent 生態深度鎖定。每一家都在用硬體能力築自己的圍牆。
這是端側模型必須面對的又一個問題，更新也會比雲端慢。雲端模型疊代已經是月級，本地部署依賴推理框架適配、量化工具鏈成熟以及用戶主動更新。否則，你買回家的設備跑的可能是上個季度的模型。
還有一條最容易被忽略：本地 AI 意味著一個系統級的模型能讀到你的文件、照片、螢幕、日程和郵件，不用上傳到雲端了，但它在你的設備上，擁有更高清的視野。當 AI 從雲端的匿名請求變成你設備上那個「什麼都能看見」的常住程序，「本地 = 安全」這個等式就不再自動成立。權限管理的複雜度，會比隱私本身更早撞上消費者。
AI 的使用成本不會因為端側模型而消失，它只是從訂閱費變成了硬體溢價、生態鎖倉、功耗散熱和權限管理。過去買手機是在選 App 生態，未來買設備可能是在選你的 AI 記憶住在哪裡。
所以，2028 年消費者可能真正得到什麼
把上面所有的變量放在一起，我們能做出一組分層預測。
高端電腦本地運行強寫作、代碼、文檔和圖片理解模型，將成為常態而不是嘗鮮。本地 RAG、會議摘要、文件搜索和私有知識庫真正可用，成為日常工具。手機端的多模態助手在相冊搜索、語音翻譯、智能摘要上明顯變強。高端創作者、開發者和敏捷小團隊會更願意部署本地 AI，因為數據不外泄、延遲更低、按需使用邊際成本為零。AI PC、Mac 和本地 AI 盒子將形成新的硬體分層，「這台設備能跑什麼模型」會成為和「這台設備螢幕多大」一樣自然的購機參數。
再往遠看一步，接近 GPT-5 或 Claude 4 水平的開放模型，有可能通過量化、MoE 和推理優化，在高端個人設備上達到可用水平。但這取決於推理框架（llama.cpp、MLX、vLLM）的演進、KV cache 壓縮技術的成熟，以及模型廠商是否願意針對本地部署做專門的訓練路線優化。本地多模態實時助手有可能在部分設備上達到「日常可用」，但自然度和低延遲離雲端旗艦還有一段距離。
至於普通手機或普通筆記本完整運行 Mythos 本體，短期內不可能。萬億級參數的推理即使最激進的量化方案也需要數十 GB 顯存，遠超消費電子設備的極限。本地 AI 在長程 agent、百萬 token 上下文、多模態實時推理和安全能力上全面等價於雲端旗艦，2028 年大概率做不到。
但方向已經不會回頭了。蘋果不惜打亂最穩定的晶片節奏，高通把「個人 AI 終端」寫進了公司級戰略，英偉達在量產桌面 AI 超級電腦，Google 和阿里的開源模型正在以月級速度降低本地部署門檻。
端側 AI 不再是一個「會不會來」的問題，是誰先跑通硬體成本、模型能力和用戶體驗之間那個精確的平衡點。而當這個問題從產業鏈上游一路燒到消費者的搜索框裡，這件事已經比任何參數和路線圖都更能說明，端側 AI 的時代，已經不在遠處。
