智慧型手機統治了過去十幾年的數字生態，它是注意力的黑洞，是我們最私密的隨身之物。但手機從設計之初就是為「人盯著它」而生的——它的全部邏輯，都止於螢幕。
AI 的需求卻恰恰相反：它需要持續感知物理世界——見你所見，聽你所聞，隨時在場，而非等你解鎖螢幕才醒來。
當 AI 真正成為一種基礎能力，它遲早要從螢幕里破殼而出，尋找屬於它自己的形狀。這將是一個漫長的探索和演化過程。
「AI 器物志
」欄目由此而來，想和你一起持續觀察：AI 如何改變硬體設計，如何重塑人機交互，以及更重要的——AI 將以怎樣的形態進入我們的日常生活？
這是「AI 器物志」的第 23 篇文章。
蘋果前不久剛發的新 Mac，再次刷新了「AI 電腦」的性能預期。小巧的 Mac mini 被官方直接定義成了全天候跑 Agent 的生產力工具，而專業級的 Mac Studio，更是直接給到了最高 512GB 統一內存。
不過，它們真正「強」的地方，藏在一個過去大家都不怎麼關心的參數裡——內存頻寬。
標準版 M6 的統一內存頻寬來到 170GB/s，M5 Pro 版本推到了 307GB/s，頂配的 M5 Ultra 更是直接跨過 TB 級大關，干到了 1.2TB/s。
為了配合這次新品，蘋果還給 Mac mini 拍了一支「牛來」宣傳片，讓小巧的銀色方盒子長出了粗壯的肌肉手臂。
無獨有偶，就在新 Mac Studio 發布前一天，小米公布的端側 AI 加速晶片玄戒 O100，同樣把內存頻寬做到了 1.22TB/s；而英偉達目前最新的消費級旗艦顯卡 RTX 5090，憑藉 32GB GDDR7 顯存，頻寬更是頂到了接近 1.8TB/s。
桌面 SoC、端側專用 NPU 與獨立 GPU 的架構路徑大相徑庭，但無論是做電腦的、做手機晶片的，還是做顯卡的，大家都在不約而同地干同一件事——讓內存里的數據跑得更快。
AI 算得越來越快，也越來越容易「吃不飽」
晶片廠費這麼大勁去拼頻寬，說到底，是因為今天的 AI 越來越能算，同時也越來越容易被內存「餓著」。
這裡很多人的第一反應往往是：內存不就是看容量嗎？大就是好，好就是大！
其實容量和頻寬完全是兩碼事。容量決定的是這台電腦能裝下多大的模型，而頻寬決定的，是這些數據每秒能以多快的速度餵給計算核心。
大模型一旦跑起來，最消耗資源的往往不是單純的計算，而是貫穿始終的「搬數據」。
我們平時在對話框裡看到文字一個接一個往外冒，在自回歸生成（Decode）階段，計算單元每生成一個新 token，就必須把內存里幾十億、上百億的參數權重完整讀取一遍。
就像後廚里手速極快的大廚，翻炒只要兩分鐘，但配菜師傅半天才能送來一盤切好的食材。大廚炒得再快，大部分時間也只能握著鍋鏟在灶台前乾等。
不管是 CPU、GPU 還是 NPU，現在都卡在這道坎上。算力一路狂飆突進，但內存通道的拓寬速度卻跟不上。模型小的時候還能湊合，一旦上了幾十 B、幾百 B 的大模型，每吐一個詞都要吞吐海量數據。
計算單元再能算，也只能把大把時間耗在等內存餵飯上。這種現象在體系結構中被稱為 memory-bound（內存受限）。
更快的內存，也更貴
很多人看內存價格，直覺上總覺得「32GB 肯定比 16GB 貴，512GB 自然比 32GB 貴」。但如果把視線放進半導體供應鏈，真正的規律其實是：越大的內存越貴，但越快的內存，貴得呈指數級上升。
要讓海量數據跑得更快，不能只靠堆顆粒，還得用更寬的位寬、更高頻的接口，以及極其複雜的先進封裝與垂直堆疊。以今天 AI 伺服器標配的 HBM（高頻寬內存）為例，它把多層 DRAM 晶片垂直打孔堆疊（TSV），製造難度和晶片面積遠超傳統內存。
這種對超高頻寬的極端渴求，正在上游掀起一場全球性的「產能大遷徙」。
TrendForce 的調查數據顯示，由於 AI 數據中心對 HBM 和高規格伺服器 DDR5 的需求暴增，三星、SK 海力士和美光三大儲存巨頭正在全力將有限的先進晶圓產能向企業級傾斜。
這直接擠壓了留給消費級 PC DRAM 的供給空間，即便在傳統淡季，合約價格依然持續環比上漲。
去年底，美光正式宣布逐步退出 Crucial（英睿達）消費級內存業務，把供應鏈資源全面倒向規模更大、利潤更高的戰略客戶；而最近國內 SK 海力士的第三方品牌授權店終止運營，也折射出上游原廠對消費級渠道的冷落。
普通裝機者面對價格猶豫不決時，一抬頭才發現：自己加裝一根內存條的預算，無形中正和全球 AI 數據中心搶奪著同一批先進晶圓。
為了不讓算力卡在數據搬運上，晶片界從不同維度給出了各自的解法：
1. 物理加寬車道：GDDR7 與 HBM
最直觀的辦法依然是「大力出奇蹟」。RTX 5090 採用 512-bit 超寬位寬配合 GDDR7，硬把顯存頻寬拉到了 1.8TB/s；AI 數據中心則在 GPU 身邊緊挨著塞進一圈 8 層、12 層的 HBM 堆棧。這條路簡單粗暴，但代價極其高昂，屬於用最貴的工藝換取極致的吞吐。
2. 把儲存搬到計算隔壁：玄戒 O100 的 3D 堆疊
既然平面走線太長會有延遲和功耗，那就向立體空間要效率。小米玄戒 O100 採用了晶圓級垂直堆疊（Wafer-on-Wafer），直接把兩層 DRAM 晶圓壓在 NPU 計算晶圓的正上方。物理距離縮短到了微米級，數據不用在電路板上長途跋涉，用超短的垂直互聯一口氣換來了 1.22TB/s 的端側頻寬。
3. 消除冗餘搬運與外部高速擴展：統一內存與雷靂 5
在系統架構層面，蘋果的統一內存解決的是「避免無謂倒手」。傳統 PC 里 CPU 內存與 GPU 顯存各占一邊，數據要在兩塊內存之間來回複製；而在 Apple Silicon 統一內存體系下，所有計算核心直接共享同一塊內存池，省去了繁瑣的跨總線拷貝——少跑一趟，本身就是在搶時間。
而當單台設備的內存裝不下超大模型時，高速數據通道還在往機殼外延伸。M5 Pro 版本的 Mac mini 配備了 3 個雷靂 5 埠，支持將多台設備直接串成集群；而在 Mac Studio 上，通過雷靂 5（最高 120Gb/s）和 RDMA 技術，4 台 Mac Studio 組建的分布式推理集群，能跑出接近單機 3 倍的吐字吞吐。
4. 把計算搬到內存旁邊：PIM 與存內計算
再往前走一步，則是更大膽的顛覆：如果數據搬運代價太大，能不能幹脆把計算挪到儲存旁邊，讓數據留在原地？
還是用前面後廚做菜來理解：GDDR7 和 HBM 是把過道拓寬；玄戒 3D 堆疊是把備菜台挨著炒鍋放；蘋果統一內存是共用一個主備料盒；而 PIM（Processing-in-Memory）和存內計算，則是工程師在琢磨——
有些洗菜切菜的基礎備菜工作，能不能直接在倉庫里順手做完，免得每次把整筐生料大老遠端給大廚去折騰？
PIM 會把部分計算單元直接塞進內存顆粒附近，避免數據反覆回傳；更進一步的存內計算（CIM），甚至嘗試直接利用儲存介質本身的物理特性完成矩陣乘加。
儘管這類前沿架構在通用性和編譯器生態上仍待成熟，但它指明了一個確定性的方向：未來的晶片設計，必須想方設法讓數據少走幾步路。
繞了一大圈，AI 還是撞上了「內存牆」
今天 AI 硬體折騰的這些問題，其實並不是什麼新鮮事。
我們現在使用的大部分電腦，仍然延續著經典馮·諾依曼架構的基本思路：儲存和計算分離。
數據放在內存里，處理器負責計算，需要用時再通過總線搬運。這種設計賦予了通用電腦極大的靈活性，但也埋下了一個三十年來始終無法擺脫的物理宿命：只要存算分立，數據就必須來回搬。
早在 1995 年，電腦科學家 William A. Wulf 和 Sally A. McKee 就發表過一篇經典論文《Hitting the Memory Wall》（撞上內存牆）。
他們敏銳地注意到，處理器的算力增速遠快於內存頻寬增速，兩者的剪刀差持續擴大，處理器終將把越來越多時間耗在等待數據上——這便是著名的「內存牆」。
三十年過去，這堵牆從未消失，只是大模型的爆發以前所未有的速度把整個行業推到了它面前。
電腦關於「快」的度量衡，也隨之發生了變化。以前衡量晶片，大家盯的是發布會 PPT 上的 TOPS、TFLOPS 和跑分；但到了今天，算力再高，只要數據送不過來，晶片也只能原地空轉。
再回頭看蘋果那支 Mac mini 宣傳片，小盒子上長出的粗壯肌肉胳膊，像極了過去幾十年大家對「性能」最樸素的想像：晶片變強，就等於電腦又練出了一身肌肉，能扛更重的活。
但在 AI 時代，肌肉練得再大，如果原料和養料供不上，龐大的身軀也只能原地乾等。
有意思的是，在這個連做張海報都能一鍵交給 AI 生成的時代，蘋果這次給 Mac mini 拍攝宣傳片，反而罕見地用了「古法手作」。
從草圖起步，到手工雕刻微縮模型、焊接機械聯動結構，鏡頭裡那些稍縱即逝的機械變形與視覺特效，背後大多真有一個可以拿在手裡的實體道具。
在全行業都在為純虛擬的 AI 生成狂熱時，蘋果反倒花了大量「笨功夫」打磨實體質感。這恰好就像今天晶片底層的處境一樣——
無論上層的 AI 模型如何神乎其神，底層的硬體系統依然無法逃避最樸素的物理法則；想要數據跑得快，那些實實在在的通道、走線和晶圓工藝，終究一步都偷不了懶。
過去幾十年，我們想盡辦法讓電腦算得更快；而 AI 帶來的新命題，則是如何讓數據跟得上它。
