宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

Intel Gaudi 2 AI訓練比英偉達H100快55%

2024年03月12日 首頁 » 熱門科技

目前在AI領域,最受關注的就是ChatGPT,以及引起巨大震撼的Sora模型,此外基於Stable Diffusion打造的AI生圖也是各大廠商目前所重點宣傳的。而作為AI背後的算力硬體支持,英偉達的計算卡可以說備受追捧,供不應求,英偉達也是賺的盆滿缽滿。當然這也讓其他計算卡廠商感到十分地眼紅,比如行業巨頭英特爾。這家藍色巨人推出的Gaudi 2加速卡就是為對抗H100計算卡而生,而經過不斷地優化,目前在Stable Diffusion領域,Gaudi 2加速卡的表現比NV的計算卡更加出色。

Intel Gaudi 2 AI訓練比英偉達H100快55%

Intel Gaudi 2 AI訓練比英偉達H100快55%

目前Stable Diffusion開發商Stability AI發布了一份報告,在報告中Stability AI重點對比了英偉達與英特爾計算卡在AI作圖上的效率。以參數為2B的MMDiT模型為例,訓練深度設置為24、BFloat16的混合精度,在該模型設置下,Gaudi 2計算卡最高可以達到每秒訓練1254張圖片,而256容量下則是每秒927張。這個性能要比英偉達現在的H100更加出色,比如說H100-80GB計算卡的訓練速度為每秒595張,而A100-80GB則是每秒訓練381張,也就是說基於英特爾Gaudi 2的訓練速度在相同容量下比H100計算卡提升55%,更是A100性能的2.43倍。

Intel Gaudi 2 AI訓練比英偉達H100快55%

Intel Gaudi 2 AI訓練比英偉達H100快55%

另外如果說採用32批量單元的設置下,英特爾Gaudi 2訓練速度為每秒12654張,而A100-80GB則為3992張,英特爾計算卡是A100-80GB計算卡的3.17倍,還是相當給力的。當然Stable Diffusion作為現在最為流行的模型,各大計算卡廠商都願意花精力去優化,而且更為重要的是英偉達的AI生態已經做得十分地完善,並且英偉達B100什麼水平還不知道。要是英特爾Gaudi 2訓練計算卡真這麼給力,那現在AI市場也不會被英偉達所壟斷了。

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2025 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新