AI晶片領域正迎來一場內存定製化浪潮。隨著HBM4的到來，超大規模雲服務商（超算中心）獲得了一項此前從未有過的能力：定製高頻寬內存的底層邏輯晶片
。這一變化正在重塑整個內存產業鏈的分工格局。
HBM4帶來的轉折點
高頻寬內存（HBM）由多層晶片堆疊而成，其中絕大多數是儲存晶片，只有最底層是邏輯晶片，負責管理、尋址等非儲存任務。在HBM3及之前的版本中，美光、三星、SK海力士等儲存廠商負責設計並製造堆棧中的所有晶片，包括底層邏輯晶片。
但HBM4改變了這一格局。為了滿足功耗和性能需求，底層邏輯晶片需要遷移到更先進的FinFET工藝（可能是4nm或更先進），而DRAM晶片並不採用這類工藝。因此，雖然儲存廠商仍負責設計標準底層邏輯晶片，但製造工作將交由邏輯代工廠完成。更重要的是，HBM4及後續版本允許用定製底層邏輯晶片替換標準版本，以更高效地處理特定工作負載。
為何要定製HBM？
理論上，各行各業的許多公司都可能對定製內存感興趣。儲存層本身不做定製，但控制邏輯可以定製，這對晶片和系統架構師而言極具價值。
然而，定製化意味著需要自行投資和管理一個晶片設計項目，這立刻將潛在參與者的範圍大幅收窄。事實上，這項能力主要面向超算中心，原因有三：
第一，超算中心有足夠的資金。第二，AI計算的工作負載類型相對單一，可以將大量機器專門用於某一特定任務，這使得定製化的投入產出比更高。第三，JEDEC等標準化組織的推進速度遠跟不上AI計算的演進節奏。Marvell數據中心內存解決方案副總裁Khurram Malik表示："JEDEC的標準化進程較慢，而超算中心的推進速度要快得多，問題在於如何根據工作負載定製HBM底層邏輯晶片。"
除超算中心外，企業級客戶也開始進入這一領域。Malik指出："我們越來越多地看到企業客戶也在嘗試構建自己的XPU，相關討論目前仍處於早期評估階段。"
具體案例：Marvell的實踐
Marvell是目前已推進定製HBM實施的公司之一。該公司設有專門的定製雲計算部門，為客戶定製XPU（CPU/GPU/NPU的統稱）。
"這是為了支持我們正在開發的定製XPU，"Marvell定製雲解決方案高級副總裁Jim Rogers解釋道。
不同超算中心的需求各不相同，Malik表示："不同的超算中心希望擁有各自的晶片間互聯接口。"為降低設計成本，Marvell嘗試打造一個能兼容所有定製XPU的單一定製HBM方案。
接口封裝的技術邏輯
在定製底層邏輯晶片時，即便不做其他改動，內存控制器也會從主晶片遷移至底層邏輯晶片。這相當於用一個定製接口"封裝"了標準接口。
Synopsys產品管理總監Rob Kruger解釋說："如果採用定製HBM，需要定義與HBM控制器的接口方式，可以是AXI（Arm的高級可擴展接口），也可以是其他方式，雙方需要就數據傳輸格式和接口達成一致。"
這一遷移帶來了顯著的面積和成本收益。內存控制器體積較大，且擁有大量連接點，占用了主晶片寶貴的"海岸線"（即晶片邊緣可用於連接的焊球區域）。將控制器遷移至底層邏輯晶片後，雖然增加了底層晶片的面積，但底層晶片採用的工藝節點成本低於主晶片，因此整體上是淨成本收益。
Malik進一步量化了這一收益："將內存控制器遷移至定製HBM底層邏輯晶片，並移除PHY（物理層接口），改用UCIe或其他晶片間互聯接口，可使接口面積縮小約70%，為主計算晶片釋放約25%的計算能力，同時降低整體功耗，提升XPU的整體效率。"
此外，"海岸線"的釋放還意味著可以連接更多HBM堆棧，從而為計算單元提供更大的內存容量。
誰來設計？誰來製造？
定製HBM涉及四個核心環節：設計、製造（含晶圓測試）、封裝和最終測試。其中，設計是最難的環節，因為它需要專業團隊、工具和對內存如何影響性能與功耗的深刻理解。
儲存廠商在這方面面臨資源約束。SK海力士美國公司封裝工程副總裁Jaesek Lee坦言："現在客戶的需求都是定製化的，因為他們想要更高頻寬，但儲存廠商需要承擔定製HBM的設計和製造工作，而我們的資源是有限的。"
Kruger也指出了規模門檻問題："這些公司沒有閒置團隊等著做定製設計，需要足夠大的出貨量才能支撐定製開發的投入，這本身就會限制項目數量。"
因此，設計工作更可能由超算中心自身或專業設計公司（如Marvell）承擔。
在封裝環節，同樣沒有統一模式。每個項目都需要在儲存廠商、邏輯代工廠和封裝廠之間協商確定分工。近期，台積電宣布與華邦電子合作，由華邦提供儲存晶圓，台積電負責堆棧封裝，這在一定程度上緩解了其他三家主要儲存廠商的壓力。
"窮人版HBM"：普通DRAM的堆疊方案
面對內存短缺，一些設計師開始探索替代方案：將標準DRAM晶片堆疊在主晶片之上。這類堆疊雖然層數不及真正的HBM，但可以集成多達四層DRAM晶片，且已率先採用混合鍵合技術。
Kruger指出，這一方案的核心優勢並非僅僅是應對短缺，更在於性能："採用混合鍵合或間距更小的凸點進行傳輸，可以顯著降低延遲，同時降低功耗。"Synopsys預計每年採用這種方式實施的項目不超過20個。
各環節分工總結
綜合來看，定製HBM各環節的分工如下：
設計：因項目而異，通常由消費方（如超算中心）或專業設計公司承擔。
製造與晶圓測試：在邏輯代工廠完成，不一定與標準底層邏輯晶片使用同一家代工廠。
封裝：因項目而異，由項目協議確定責任方。
最終測試：與標準HBM流程相同，但需定製測試程序。
目前已有項目在推進中，定製HBM堆棧預計將在一到兩年內進入數據中心。
對內存供應的影響
定製HBM並不會額外增加內存需求總量，因為行業對內存的需求是以總量計算的，不區分標準版還是定製版。但Malik提醒："內存目前嚴重短缺，價格持續攀升，儲存廠商的產能已經售罄至未來一年半到兩年。"定製版與標準版之間的產能分配，將給供應規劃帶來新的不確定性。
Q&A
Q1：定製HBM（cHBM）和標準HBM有什麼區別？
A：標準HBM的底層邏輯晶片由儲存廠商統一設計製造，而定製HBM允許超算中心或設計公司將底層邏輯晶片替換為針對特定工作負載優化的定製版本。核心變化是內存控制器從主晶片遷移至底層邏輯晶片，並可替換為更緊湊的晶片間互聯接口，從而為主晶片釋放更多計算面積，提升整體效率。
Q2：定製HBM主要面向哪些客戶？普通企業能用嗎？
A：目前定製HBM主要面向超算中心（大型雲服務商），原因是他們有足夠的資金、工作負載類型相對單一且對標準化進程的等待成本極高。普通企業客戶目前也開始評估構建自己XPU的可能性，但相關討論仍處於早期階段，短期內定製HBM仍是超算中心的專屬能力。
Q3：定製HBM的設計和製造由誰負責？
A：沒有統一答案，每個項目都是一次獨立協商。設計通常由超算中心自身或Marvell這類專業設計公司承擔，儲存廠商因資源有限難以大規模承接定製設計。製造由邏輯代工廠完成，封裝責任方則由項目協議決定，可能是儲存廠商、代工廠或專業封裝廠，台積電與華邦電子的合作就是其中一種模式。
