隨著生成式人工智慧應用的發展，訓練模型現階段也大幅增加，這使得包括HBM和DDR5等內存在高性能計算中所扮演的角色也日趨重要，但也使得內存能耗問題也被凸顯。因此，根據韓國媒體Chosun Biz的報道，韓國三星和SK海力士兩大內存製造商正在與學術界展開合作投資於下一代技術，以降低內存的能耗，以提升高性能計算的效率。
根據統計，DRAM目前占以英偉達A100 GPU為主的數據中心平台總能耗的約40%。未來，隨著層數的增加，其HBM內存的能耗也會持續增加。對此，韓國首爾大學推出了DRAM Translation Layer技術，聲稱可以將DRAM的功耗降低31.6%，這也引來三星對此青睞。
目前，三星正在與首爾大學進行相關合作，以進一步降低內存功耗。當前所採取的是Compute Express Link的技術，進一步開發了採用12納米製程技術的16GB DDR5 DRAM。而該型產品與上一代相較，能耗降低了23%。
除了三星之外，韓國另一家內存大廠SK海力士則是推出了LPDDR5X，將High-K金屬柵（HKMG）製程技術應用於移動DRAM上。因為High-K材料的介電常數比傳統SiON絕緣膜高約5倍，可以在相同面積和厚度下存儲5倍的電荷，並幫助減少電流外泄。如此在控制外泄電流的基礎上，SK海力士的LPDDR5X不但在傳輸速度上提高了33%，功耗也比上一代產品降低了20%以上。
根據市場人士的回應，指出隨著訓練模型對內存廠商提出進一步的技術更新要求，廠商們當下也紛紛展開彼此之間的競爭，如此預計將使得內存成本獲得一定幅度下降，這樣消費者也能從中獲得利益。
(首圖來源：三星)
