在Ignite開發者大會上微軟展示了他們最新的Azure HBv5 VM虛擬機,而這款虛擬機上搭載了四顆向AMD定製的搭載了HBM3內存的EPYC處理器,HBv系列Azure虛擬機專注於提供大量內存帶寬,這是HPC的重要指標,微軟稱其為HPC最大的瓶頸,此前微軟使用AMD帶3D V-Cache的Milan-X和Genoa-X處理器來解決帶寬的問題,而現在的HBv5 VM微軟明顯改變了方向。
根據tomshardware的報道,單個Azure HBv5 VM上有450GB的HBM3內存,352個主頻4GHz的Zen 4核心,它可提供普通EPYC處理器兩倍的IF總線帶寬,但SMT同步多線程被禁用了,它還具有800Gb/s的Nvidia Quantum-2 InfiniBand用於網路切換。單個HBv5 VM上的四顆處理器可提供6.9TB/s的內存帶寬,是使用Genoa-X CPU的HBv4 VM的9倍,是採用Milan-X的HBv3 VM的20倍。
這些定製處理器上的HBM3內存擁有和3D V-Cache類似的功能,但它並不是充當L3緩存使用,而是相當於一個巨大的L4緩存,擁有更大的容量和帶寬,算下來,但延遲方面當然和可以直接充當L3緩存的3D V-Cache相差甚遠,當然了在這個產品的工作負載中延遲問題不會像帶寬那麼重要。
四個CPU共352個核心,也就是每個CPU有88個核心,但更有可能是這些CPU本身有96個核心,其中8個保留用於操作虛擬機。此外微軟的這個定製處理器定製程度好像也不是很高,它的規格和MI300C比較接近,本質上就是僅配備Zen 4 CCD沒有CDNA 3顯卡的MI300A APU,它也是個96核CPU並配備HBM3內存,這些處理器最高主頻是3.7GHz,和HBv5使用的CPU差別不大。