宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

AI成本「黑洞」:近半數企業超支問題已上升至董事會層面

2026年08月07日 首頁 » 熱門科技

意外的AI成本正迫使企業重新審視實施方案。根據成本管理軟體公司Mavvrik發布的《2026年AI成本治理現狀報告》,近半數企業機構表示,AI支出超預算問題已上升至董事會層面。該報告於今年4月至5月期間,對396家跨行業企業機構展開調查。

AI採用與治理之間的脫節,正在對項目推進產生連鎖影響——四分之一的受訪者表示,已因不可預見的成本而推遲或取消了AI計劃。

對於三分之二的企業而言,意外的AI成本已對至少一項業務決策產生實質性影響;與此同時,三分之一的企業在賬單持續攀升的壓力下,啟動了緊急凍結支出措施。

AI支出的來源已不再局限於模型本身,而是日益分散,覆蓋開發者工具、數據平台、基礎設施及智能體工作負載等多個層面。這種碎片化態勢,加之缺乏有效監管,使首席資訊官和財務負責人愈發難以全面掌握AI項目的總成本,也難以準確衡量投資回報率。

"AI正在從根本上改變基礎設施的消耗方式和成本積累模式,"Mavvrik首席執行官桑迪普·戈爾(Sundeep Goel)在報告中表示,"過去可預測的IT支出,如今已變得動態分散,且越來越難以準確歸因。"

Gartner數據與分析研究主管麗塔·薩拉姆(Rita Sallam)指出,隨著企業從簡單的生成式AI部署邁向自主智能體階段,上述挑戰正變得愈加突出。

"儘管單位模型成本(例如每Token的價格)看似在下降,但隨著智能體工作流AI成本黑洞近半數企業超支問題已上升至董事會層面日趨複雜、對高級推理能力的需求不斷提升,每項任務實際完成的成本反而在上升,"她在發給CIO Dive的郵件中寫道,"定價模式正向基於使用量的方式轉變,這進一步加劇了運行複雜自主智能體工作流的費用壓力,而這些費用往往遠遠超出這些工作流原本預期節省的成本。"

可見性缺口正在指揮鏈上產生多米諾骨牌效應,最終左右業務決策、觸發緊急支出審查,並隨著企業重新評估成本而改變AI項目走向。

"所有人都在談論AI帶來的投資回報,但投資回報歸根結底是道數學題,"Benchmarkit首席執行官雷·萊克(Ray Rike)在報告中說道,"如果不清楚自己的成本,就根本無法準確計算投資回報率。"

高管們長期以來一直在與隱性成本博弈。Wasabi Technologies去年發布的數據顯示,近三分之二的企業因意外產生的使用費和數據傳出費用不斷疊加,導致雲儲存預算嚴重超支。

在支出缺口不斷擴大的背景下,成本管理措施也在持續加強。谷歌雲、AWS和微軟等雲服務提供商在審查壓力日益加劇的情況下,已相繼下調部分儲存相關費用。與此同時,原本針對雲成本設計的FinOpsAI成本黑洞近半數企業超支問題已上升至董事會層面實踐,如今也被引入AI領域,用於幫助企業抵禦高額AI賬單的衝擊。

薩拉姆認為,首席資訊官應將AI成本優化視為一項架構層面的必要要求,而非事後才進行的財務復盤。

"企業還應將成本優化直接內嵌到智能體工作流的設計中,"她補充道,"要根據任務匹配合適的模型,避免犯'殺雞用牛刀'的錯誤。"

薩拉姆還特別強調,將簡單查詢路由至成本較低的模型,以及使用更小型、特定領域的語言模型,都是可行的優化策略。

她同時指出,企業在推進AI部署的同時,還應同步投入治理、安全與數據基礎建設,認為這些投入是維持長期投資回報的必要保障。

"AI用戶自身也扮演著重要角色,"她補充說,"他們必須了解自身AI使用行為所帶來的財務影響。企業應強制推行AI素養培訓,教導用戶具備AI Token的財務意識——你可不希望他們用最昂貴的推理模型去查天氣預報。"

Q&A

Q1:Mavvrik的《2026年AI成本治理現狀報告》主要發現了什麼問題?

A:報告對396家企業的調查顯示,意外的AI成本已成為普遍問題:近半數企業的AI超支問題已上升至董事會層面,四分之一的受訪者因不可預見成本而推遲或取消AI項目,三分之一的企業甚至啟動了緊急凍結支出措施。AI支出來源已從單純的模型費用,擴展至開發者工具、數據平台、基礎設施及智能體工作負載等多個層面,治理缺失使成本管理難度大幅上升。

Q2:為什麼智能體工作流會導致AI成本不降反升?

A:Gartner研究主管麗塔·薩拉姆指出,雖然單位模型的Token價格看起來在下降,但隨著智能體工作流日趨複雜、對高級推理能力的需求增加,完成每項任務的實際成本反而在上升。同時,定價模式正向基於使用量的方向轉變,這進一步疊加了運行複雜自主智能體的費用,而這些費用往往超過了這些工作流原本預期節省的金額。

Q3:企業應該如何有效控制AI使用成本?

A:專家建議從多個層面入手:首先,將成本優化內嵌到智能體工作流的架構設計中,根據任務複雜度匹配合適的模型,避免過度使用高成本推理模型;其次,將簡單查詢路由至更低成本的模型,或採用小型領域專用語言模型;此外,應同步加強AI治理、安全與數據基礎建設,並對AI用戶推行Token財務素養培訓,讓員工了解不同AI使用行為背後的實際費用。

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2026 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新