GPU大廠英偉達 (NVIDIA) 在售出了大量的H100 AI GPU之後，由於每個GPU的功耗高達700W，單一套的設備就媲美國一般家庭的平均用電量還要高。現在，英偉達正在大量銷售用於AI工作執行的GPU，預計這些GPU的總用電量將與美國一個主要城市的用電量一樣高。另外，法國施耐德機電公司10月份的統計，全球GPU的耗電量，則相當於歐洲小國用電量。
根據施耐德統計數據顯示，目前全球用於人工智慧運算的數據中心的總耗電量與賽普勒斯全國的用電量相當。對此，微軟數據中心技術治理和策略機電工程師Paul Churnock則認為，到2024年底，在全球部署數以百萬計的英偉達H100 GPU時，英偉達的H100 GPU的總耗電量將超過亞利桑那州鳳凰城所有家庭的用電量，而僅次於德州休斯頓的用電量。
Paul Churnock指出，這是英偉達的H100 GPU最大用電量達到700W，以61%的年使用率計算，將相當於美國一般家庭平均用電量。而因為英偉達預計2024年H100 GPU的銷量為150-200萬顆，以住宅用電對比城市消費量來計算，這總和將使得全球H100 GPU用電量將排名全美第五，僅次於德州的休斯頓，領先亞利桑那州的鳳凰城。
事實上，如果年利用率為61%，H100 GPU每年將消耗約3,740千瓦時 (kWh) 的電力。假設英偉達在2023年銷售150萬個H100 GPU，在2024年銷售達到200萬個H100 GPU，則到2024年底將部署350萬個此類處理器。總共，它們每年將消耗高達13,091,820,000千瓦時 (kWh) 的電力，或13,091.82 GWh。
結合實際情況來看，H100 GPU的耗電量則相當於喬治亞、立陶宛等國家的約13,092 GWh年耗電量。雖然這個耗電量看起來相當令人震驚，但值得注意的是，AI和HPC GPU的效率正在提高。因此，雖然英偉達採用Blackwell的B100的功耗可能會超過H100，但它將提供更高的性能。因此，每單位功耗可以完成更多的工作，這情況是不是有助於汰換H100 GPU，以降低所需的耗電量，則有待後續觀察。
(首圖來源：英偉達)
