雖然還沒有人知道如何阻止AI功耗呈現指數級的增長，但一些IT領導者已經找到了方法以減輕AI對可持續發展計劃帶來的影響。
去年，隨著許多CIO開始進行第一輪Scope 3報告，AI幾乎進入了每個辦公室。有時AI是從「大門」進來的，但在大多數情況下，它是悄無聲息地滲透進來的，因為知識工作者嘗試用AI來編寫文檔和電子郵件，而不一定承認他們正在這樣做。
在許多組織中，這種用例已經停止了，但一些IT部門現在正在批准——甚至鼓勵——將AI用於編碼等工作中。不過，有些組織仍然希望軟體提供商可以提供包含了生成式AI組件的升級。然後在另一端，像瑞典金融科技公司Klarna這樣的公司，不僅把生成式AI集成到一系列內部項目中，而且還集成到了他們銷售的產品中，同時制定了AI治理策略，包括如何在項目中使用AI的指導方針。
自2022年11月ChatGPT問世以來，Klarna公司一直在大力發展AI，公司內部的普遍感覺是，生成式AI可以幫助組織中幾乎所有人提高效率，無論他們是什麼樣的技能水平或角色。Klarna公司高級工程總監Martin Elwin表示：「目前我們正在研究整個公司大約一百個可能使用生成式AI的生產和開發計劃，不僅是工程師在做這件事，從財務和法律到營銷每個職能的人都在這麼做。」
Klarna公司高級工程總監Martin Elwin
幾周前，Klarna公司公布了一款AI助手，可以在很少、或者完全沒有人工支持的情況下回答用戶的問題。這款軟體可以幫助消費者從最相關的商家那裡找到他們想要購買的商品，並且為消費者提供支付和售後方面的支持。據Klarna公司溝通負責人Daniel Greaves稱，這種生成式AI立即取得了成功。他說：「在推出後的大約四周時間內，這款AI助手就已經接手了我們三分之二以上的客戶服務聊天請求，相當於大約700人的工作量。」
這些或者其他AI的用途，儘管聽起來可能很有好處，結果可能卻是讓人大跌眼鏡的。「表面上看，目前的情況是AI和可持續性是背道而馳的，」Rackspace Technology公司人工智慧、技術和可持續性總裁Srini Koushik表示。「AI會消耗大量的電力，無論是訓練大型語言模型還是運行推理。而這僅僅是個開始，功耗正在呈指數級的增長。」
然而，Koushik和許多其他技術專家認為，AI的好處遠遠超過其不斷增長的碳足跡，而加密貨幣等其他耗能應用可能並非如此。AI有望幫助研究人員發現更高效的能源，例如核聚變，通過增強電力分配優化現有能源的利用率，並通過分析氣候模式分析二氧化碳排放的影響。Koushik說：「AI將在很多方面造福人類，從我自己企業的角度來看，如果AI的好處之一是它讓我不用再派人從紐約飛往倫敦，那麼就相當於抵消了碳排放。」
Rackspace Technology公司人工智慧、技術和可持續性總裁Srini Koushik
無論AI是否能長期兌現承諾，那些需要對全部碳排放影響進行核算的CIO們，現在都需要將AI的影響納入他們的Scope 3報告中了，而這個情況很快就會變得非常複雜。例如，如果你使用由其他人訓練的模型進行推理，則應該報告你在碳排放中所占的份額。這家提供商可能會告訴你培訓的總成本，但沒有人知道如何在模型整個生命周期內在所有用戶之間如何分攤成本。
「目前尚不清楚，因為Scope 3報告是新的，生成式AI也是新的，」瑞士全球運輸和物流公司Kuehne Nagel的首席數字官、高級副總裁Niklas Sundberg這樣表示。
儘管存在模糊性，但IT領導者仍在大力推進AI。在此過程中，一些人發現可以採取的三項措施來減輕對可持續發展計劃的影響。
通過大型提供商來優化利用率
CIO可以更進一步，向提供商詢問一系列問題，首先是他們如何訓練模型以及如何運行推理。「如果你只購買推理服務，就問問他們如何解釋所有上游的影響，」總部位於英國的Verne公司首席技術官Tate Cantrell這樣表示，該公司為企業和超大規模企業提供數據中心解決方案。「推理輸出只需一瞬間，但神經網路中的權重之所以如此，唯一的原因就是大量的訓練才能讓基礎設施保持現狀，而這些訓練可能要花費一兩個月的時間，功率高達100到400兆瓦，那麼你應該為其中多少費用買單呢？」
Verne公司首席技術官Tate Cantrell
Cantrell敦促CIO們要向提供商詢問他們自己的報告。「他們是否從可持續發展的角度公開報告了他們的服務對上游的全部影響？訓練過程有多長，有效期有多長，以及這個權重影響了多少客戶？」
Sundberg表示，理想的解決方案是讓AI模型告訴你它的碳足跡。「你應該能夠向Copilot或者ChatGPT詢問你上次查詢的碳足跡是多少，據我所知，目前沒有任何工具可以回答這個問題。」
2、使用最合適的模型解決問題的每個部分
當Klarna開發他們的AI助手時，他們並沒有使用一個AI模型來完成所有事情。相反，他們的過程是先評估服務的每一個步驟，以了解每個部分真正需要什麼。「我們努力提高資源效率，確保使用儘可能小的模型，提供完成給定步驟所需的能力。」
Klarna通過發布指導方針來推廣這個想法，以確保團隊在構建其他解決方案時以這種方式進行思考。其中一個步驟可能需要一個綜合模型，例如GPT-4，而服務的另一部分則可以使用GPT-35 Turbo這樣更輕量級的模型。
較小的模型不僅在訓練階段需要較少的電力，而且在推理階段需要的電力也更少。最終，企業要測量能耗，這可能是基於每個查詢的，而較小模型的表現則要好得多。Koushik說：「在保險行業中，你不需要GPT-4來進行索賠裁決，你需要的是一個規模較小的、在更多領域特定數據上訓練的東西，比使用GPT-4更準確地回答你所在領域的問題。」
Sundberg說，儘管大型企業已經使用機器學習很長一段時間了，他們的模型並不像大型開源模型那麼複雜，「但他們在解決非常具體的企業問題（如定價和預測客戶流失）方面做得更好。」
3、確定用例的優先級
CIO們可以平衡地看待用例並確定其優先級。Koushik說：「大多數人都不需要Copilot，寫出更好的電子郵件的好處，不足以抵消訂閱費用和二氧化碳排放量。另一方面，我們的法律部門確實從Copilot中受益，抵消了成本，因此我們已經將其推廣給他們。」
Kuehne Nagel公司首席數字官、高級副總裁Niklas Sundberg
對用例進行優先級排序，意味著IT領導者必須告訴一些用戶，AI不是解決他們問題的合適方法。避免引起不滿的最佳方法，就是儘早制定明確的指導方針。首先找到衡量AI工具碳足跡的方法，然後針對每個用例，將其與潛在收益進行對比。Sundberg說：「對於CIO來說，重要的是要有針對特定應用的二氧化碳排放量指標，這讓他們能夠權衡成本和收益。如果你自己不知道碳足跡有多少，請嘗試詢問你的軟體廠商。」
但更具挑戰性的是，廠商們並不總是會說出他們所知道的東西。「雖然AI可以帶來很多可持續發展方面的機會，但它的陰暗面並沒有被提及——當然不是又廠商來提的，他們太專注於在自己領域爭奪頂級廠商的地位。」
