內存大廠美光9日發布12層堆棧的HBM3E高帶寬內存，產品容量為36 GB，針對人工智慧和HPC，可搭配英偉達H200和B100/B200數據中心GPU。
美光指出，新發布的12層堆棧HBM3E擁有36GB容量，比之前的8層堆棧的24GB容量增加50%。容量增加可使數據中心執行更大AI模型，例如Llama 2高達700億個參數。美光12層堆棧HBM3E消除CPU從內存頻繁讀取，並減少GPU溝通延遲，加速數據處理。
性能方面，美光12層堆棧HBM3E超過1.2TB/s內存帶寬，數據傳輸速率超過9.2Gb/s。雖然12層堆棧HBM3E容量比競爭對手產品高50%，但功耗卻低於前代八層堆棧HBM3E。
美光12層堆棧HBM3E還包括完全可編程內存的內置自測 (MBIST) 系統，以確保客戶更快上市時間和可靠性。全速模擬系統級流量，對新系統徹底測試和更快驗證。
美光還強調，HBM3E內存與台積電先進封裝 (CoWoS) 兼容，可搭配封裝英偉達的H100和H200等數據中心GPU。 台積電生態系統與聯盟管理部負責人Dan Kochpatcharin表示，台積電和美光有著長期的戰略合作夥伴關係。 生態系統的一部分，雙方將密切合作，使美光以HBM3E系統和先進封裝 (CoWoS) 支持客戶AI創新。
美光已送樣給主要合作夥伴，以利用AI生態系統驗證測試。
(首圖來源：美光)
