一般來說,像HBM3這樣的顯存由於需求量不是很大,因此價格不會出現大波動,當然供應量也不低,畢竟製造成本高昂,產能也有限,基本上是供需平衡,然而現在由於ChatGPT的火爆,導致NVIDIA的計算卡供不應求,使得HBM3顯存出現了嚴重短缺的情況,由此導致三星以及海力士作為HBM3顯存的供應商報價不斷提升,遠超平均報價水準。
根據業內的報道,由於ChatGPT的火爆,導致作為深度學習訓練工具的英偉達計算卡供不應求,比如說A100計算卡配備的是80GB的HBM2e顯存,而新一代的Ada計算卡更是配備了HBM3顯存。英偉達也加大訂單給三星和海力士,讓他們加班加點生產HBM3顯存,當然成本也是節節攀升,據悉HBM3顯存目前的價格已經是最出色的DRAM存儲5倍的價格,但還是供不用求,看起來英偉達這一次下單的量的確十分地恐怖。
目前海力士是全球HBM3顯存的主力生產商,占據了60-70%的市場,而三星則憑藉著強大的研發實力以及資金投入,現在也在HBM顯存市場上如魚得水。考慮到不斷接入的ChatGPT的需求,有關公司對於計算卡的需求也呈現出暴增的態勢,據悉目前已經有超過25000塊英偉達計算卡加入到了訓練之中,而假如說所有的網際網路企業都在搜尋引擎中加入ChatGPT這樣的機器人,那麼計算卡以及相應的伺服器的需求量將會達到50萬塊,遠遠超過現在的產能。