英偉達宣布，推出NVHBM。這是一種定製HBM，進一步擴展了NVLink Fusion生態系統，為XPU帶來更高的內存性能和效率。亞馬遜的Annapurna Labs將成為首個與NVLink Fusion合作開發NVHBM技術的公司，助力打造下一代半定製AI基礎設施。
NVHBM採用了定製的HBM基礎裸片（Base Die），相比於標準的HBM4E，不但可以提供更高的頻寬，而且功耗更低，晶片面積也更小。傳統的HBM架構將內存控制器放置在XPU晶片上，消耗了本可用於計算的寶貴空間。NVHBM則基於英偉達未來GPU採用的相同技術，將定製的內存控制器集成到HBM基礎裸片中。
英偉達表示，新設計使得單個NVHBM堆棧能夠提供的頻寬比標準的HBM4E高出30%，功耗也降低了15%，同時為主計算晶片帶來了最多25%的額外空間。考慮到AI基礎設施上將部署成千上萬晶片，累積起來的效果會相當地驚人。
NVHBM代表了一種提升HBM性能和效率的新架構方法，但是並非為了取代通用的HBM產品，而是英偉達專門向潛在合作夥伴提供的基礎組件，是圍繞NVLink Fusion更廣泛合作的一部分，帶來了更為靈活的選擇。
英偉達正在建立一個標準的NVHBM實現方案，可由多個提供商提供組件，減少了跨供應商封裝集成和認證所需的工程工作量，從而減少供應瓶頸，為NVLink Fusion客戶提供了更快將定製AI晶片推向市場的路徑。
