2023年10月，三星舉辦了Samsung Memory Tech Day 2023活動，宣布推出代號為Shinebolt的新一代HBM3E。到了2024年2月，三星宣布已開發出業界首款HBM3E 12H DRAM，擁有12層堆棧，容量為36GB，是迄今為止帶寬和容量最高的HBM產品。之後，三星開始向客戶提供了樣品，並計劃2024年下半年開始大規模量產。
根據外媒報道，三星已經與處理器大廠AMD簽定價值30億美元的新協議，將供應HBM3E 12H DRAM，預計會用在Instinct MI350系列AI晶片上。在此協議中，三星還同意購買AMD的GPU以換取HBM產品的交易，但是具體的產品和數量暫時還不清楚。
先前有市場消息指出，AMD計劃在2024年下半年推出Instinct MI350系列，屬於Instinct MI300系列AI晶片的升級版本。其採用了晶片代工龍頭台積電的4納米製程技術生產，以提供更強大的運算性能，並降低功耗。由於將採用12層堆棧的HBM3E，也在提高傳輸帶寬的同時，還加大了容量。
根據官方消息，三星的HBM3E 12H DRAM提供了高達1280GB/s的帶寬，加上36GB容量之後，相較前一代的8層堆棧產品提高了50%。由於採用了先進的熱壓非導電薄膜（TC NCF）技術，也使得12層堆棧產品與8層堆棧的產品有著相同晶片高度，滿足當前HBM封裝技術的要求。該技術還藉由晶片間使用不同尺寸的凸塊來改善HBM的熱性能，在晶片鍵合過程中，較小凸塊用於信號傳輸區域，而較大凸塊則放置在需要散熱的區域，將有助於提高產品的良率。
根據三星的說法，在人工智慧應用中，採用HBM3E 12H DRAM預計比HBM3E 8H DRAM的大模型訓練，平均速度提高34%，同時推理服務用戶數量也將增加超過11.5倍。對此，市場人士表示，該筆交易與三星晶片代工的談判是分開的。因此，先前有消息表示，AMD將把部分新一代CPU/GPU交由三星晶片代工來生產，這與該筆交易將不相關。
(首圖來源：Flickr/Jamie McCallCC BY 2.0)
