為了滿足更高帶寬、更大容量、更高效率的需求，定製化高帶寬內存（HBM）正逐步成為市場焦點，預計至2026年，隨著HBM4的推出，定製化HBM市場將迎來顯著增長。目前NVIDIA、亞馬遜、微軟、博通及Marvell等主要IT企業正積極推動HBM的定製化發展。
根據Marvell的預測，定製化運算市場占數據中心的比重將從2023年的16%提升至2028年的25%，而部分內存企業預計，定製化HBM將在2030年占據整體HBM市場的30%至40%。
調研機構Counterpoint指出，定製化HBM主要有兩種技術路線備受矚目。首先是HBM直接封裝至SoC，這個方案可省略基底晶片（Base Die）與中介層（Interposer），有效降低成本並擴展I/O數量。然而，此方法在擴展HBM容量方面存在挑戰，並可能加劇散熱問題；或者選擇在基底晶片中添加邏輯功能，通過優化基底晶片內部空間，提升內存性能並改善穩定性。
除了架構選擇，定製化HBM的創新主要圍繞數據傳輸效率的提升，通過通信IP、光子技術與數據完整性強化等創新，提高數據傳輸效率，進一步提升HBM性能。舉例來說，通過處理器與內存通信IP，包括控制器、Physical Layer（實體層）及界面技術，確保GPU與內存之間的高效傳輸；再來是光子技術，利用光信號替代電子信號，提高傳輸速率並降低延遲，雖仍面臨技術與成本挑戰，但具備長遠發展潛力；最後是通過緩存內存降低DRAM錯誤，提高系統可靠性與傳輸性能。
Counterpoint指出，全球內存大廠與雲計算企業正加速投入定製化HBM市場，雖然定製化HBM市場持續增長，但標準化趨勢與成本壓力可能影響其長期發展。目前企業偏好標準化解決方案以降低成本，預計隨著2028年軟硬體標準化進一步成熟，市場對定製化HBM的接受度可能受限。此外，內存企業需在創新與成本競爭之間尋求平衡，類似於1990年代Rambus的授權模式，未來HBM標準的演進仍存在變量。
Counterpoint Research研究總監MS Hwang表示，面對生成式AI帶來的變革，內存產業正站在關鍵轉折點。雖然定製化HBM具備突破性潛力，但市場仍須在性能提升與實際應用之間找到最佳平衡點。隨著技術持續進步，未來內存市場的發展，將取決於創新能否與產業現實需求相結合。
（首圖來源：shutterstock）
