眾所周知,AI運行的背後離不開算力的支持,而算力的堆砌需要大量能源的消耗。那麼我們使用一次AI,會消耗多少能源呢?
近日,谷歌發布了一項技術報告,其中詳細介紹了自家AI大模型Gemini對能源、碳排放以及水資源的影響。
谷歌表示,Gemini應用程序每次進行文字回答時,平均會消耗0.24Wh的電力能源,相當於一台微波爐運行大約1秒鐘,或者看9秒鐘左右的電視。
除此之外,Gemini一次文字回答還會排放出0.03g的二氧化碳,因為運行設備需要水來散熱,所以還會消耗0.26ml水資源,大約為5滴水。
當然,以上說的耗能都是運行AI設備的總體消耗,拆開來看的話,專為AI量身打造的加速器TPU占到了平均能耗的58%,CPU與內存能源消耗占到25%,為防故障設置的備用設備占了10%,剩下能源則是消耗在數據中心的電源轉換與散熱冷卻上。
針對谷歌的這份報告,有部分學者並不認同,他們認為谷歌的估算忽略了間接用水量,比如提供電力需求的工廠,本身也有冷卻系統需要大量用水。而他們估算的AI平均消耗需要大約50ml水,這與谷歌的結果差距非常大。
值得一提的是,近日英偉達CEO黃仁勛拜訪台積電董事長時,也提到能源的話題。他表示,隨著AI的發展,真心希望各種形式的能源都能被探索出來,目前核能則是一個很好的選擇。