一項聯合國支持的新研究顯示,人工智慧模型在面對用戶最輕微的質疑時,就可能迅速轉變為氣候危機的否認者。
雖然AI模型能夠準確確認有關氣候變化的簡單事實,但當它們轉向錯誤答案時,有八成情況是在「用戶表示輕微不同意的第一個跡象出現時」,就確認了諸如「二氧化碳不是氣候變化主要驅動因素」這類錯誤說法。
該報告揭示了AI模型存在強烈的討好用戶傾向,即模型更傾向於取悅用戶而非堅持事實——這是一個在人們向AI聊天機器人尋求個人建議時已被發現的問題。
這份由聯合國教科文組織和倫敦大學學院共同完成的報告於周一在土耳其舉行的聯合國氣候峰會上發布,揭示了對全球15個最受歡迎的AI模型的測試結果。
教科文組織該報告的主要作者萊昂娜·維爾達德羅表示:「AI並非中立。在回應用戶的方式上,它會被推動去迎合用戶的偏好,而不是堅持事實。它們如此輕易地放棄真相,去迎合用戶的[錯誤資訊],這表明它脆弱且容易出錯。」
當被問及單一氣候政策(例如碳稅)如何運作時,這些模型大多給出了準確答案。但當被問及兩項氣候政策如何協同運作時,準確率驟降至與隨機猜測相差無幾,研究人員表示。
倫敦大學學院電腦科學系的瑪麗亞·佩雷斯-奧爾蒂斯博士是該報告的資深作者之一,她表示:「AI系統在解釋科學知識方面表現得非常出色,但這可能讓我們對其能力產生錯誤的安全感。我們的研究結果表明,當我們從詢問AI『我們對氣候變化了解多少』轉向詢問『我們應該採取什麼行動』時,必須格外謹慎。」
AI模型還存在語言方面的問題。使用英語的用戶準確率評分為88%,使用西班牙語、法語和葡萄牙語的用戶準確率相對較高
。
而使用印地語、孟加拉語和烏爾都語的用戶得到的回應準確率較低,使用斯瓦希里語的用戶準確率最低,僅為78%。報告作者表示,這一點尤為重要,因為這些語言恰恰通行於受氣候危機打擊最嚴重的一些地區。
該報告發布當天,正值Cop31東道主土耳其啟動「安塔利亞AI承諾」,旨在通過使用「可持續」供電的數據中心,讓AI「成為氣候解決方案的一部分」。
自然資源保護委員會的祖莉·塞爾凱拉表示,AI的快速發展正在全球範圍內「引發一系列新的環境和生存層面的擔憂」。
她表示,這項承諾是一個重要的開端,但「還需要做更多的工作,而且必須加快步伐,才能跟上這個行業快速疊代、淘金熱式的發展心態
」。
聯合國首席氣候談判代表西蒙·斯蒂爾表示,若AI「散布虛假資訊、削弱科學、分裂社會並加劇財富集中」,將損害該行業賴以發展壯大所依靠的公眾信任。
他說:「社區居民已經開始抵制數據中心,擔心其用水、電費賬單以及對環境的影響。因此,公眾的支持度本就已在進一步下滑。」






