宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

AI數據中心花大錢買到手GPU,但使用壽命卻短得驚人

2024年11月02日 首頁 » 熱門科技

AI數據中心花大錢買到手GPU,但使用壽命卻短得驚人


過去一年多,人工智慧(AI)浪潮席捲全球,主要的科技公司都在大舉投資數據中心GPU,而且數據中心用的GPU往往一張價格都一兩百萬起,這使得市場上最大的NVIDIA股票不斷上漲。

不過,雖然高性能的數據中心GPU定價很高,但是使用壽命卻不太長,這是由於平常承受著AI推理訓練的繁重工作負載,往往會比其他組件老化得更快。

據報道,最近有報告稱,雲計算服務提供商(CSP)運營的數據中心內,這些GPU在AI工作負載中的利用率約為60%至70%。按照這個利用率,GPU通常只能使用1到2年,即便較為理想的狀態,最多也就3年。

需要說明的是,現在用於AI和HPC應用的數據中心GPU功耗很高,可達到700W或以上,這對於晶片來說是一個很大的壓力,一定程度上也減少了壽命。

如果想要延長數據中心GPU的使用壽命,其中一種方法是降低利用率,然而這也意味著其以更緩慢的速度貶值,並且需要更長的時間才能回本,這對於付出高昂成本的企業來說是不利的。因此大部分雲計算服務提供商衡量了收益以後,最常見的做法仍然是以高利用率運行。

此外,報告還根據數據統計結果指出,數據中心GPU的年化故障率約為9%,3年後大概在27%,一般使用一年後更可能頻繁地出現故障。

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2025 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新