人工智慧治理領域正出現一種奇特的分裂:決策權似乎在向高層集中,而日常治理AI的責任卻在企業內部不斷擴散。
這會帶來實質性問題:有責無權讓員工無從行動,有權無責則讓高管脫離了完整的問責鏈條。最終,這種日益擴大的落差可能使AI治理狀況比以前更糟——儘管大多數組織已經設立了多個關鍵AI職位,這一局面依然存在。
例如,IBM的2026年CEO調研發現,76%的受訪企業設有首席AI官(CAIO)
,而2025年這一比例僅為26%。首席AI智能體官、首席監管官等其他新提議的頭銜也在不斷湧現,表明高管層仍在進一步擴張。然而,79%的受訪高管表示,隨著AI在企業中扮演越來越重要的角色,他們正在分散決策權、分攤責任。擁有頭銜並不等於真正承擔了責任。
AI治理的角度同樣不夠清晰。看似明確的首席治理官(CGO)頭銜已經投入使用,但不同組織對其含義的理解各不相同。
傳統上,CGO職能與公司治理和董事會監督相關,根據美國公司治理協會(Society for Corporate Governance)的調研,84%的受訪公司將該職能設置在法務部門或總法律顧問辦公室內。而韓國SK電訊則在其AI治理架構中使用CGO這一頭銜。這種職責與術語的重疊,可能給組織在建立責任層級時帶來更多混亂,而非清晰。
對CIO而言,真正重要的問題並非是誰又獲得了一個新頭銜,而是誰能讓這些日益分散的管控機制協同運作起來。
真正的權力在系統之中
這一新局面帶來的挑戰之一是:智能體AI需要一套完全不同的治理方式。書面的AI政策能夠確立預期,但無法獨立阻止某個智能體訪問受限資訊或執行未經授權的交易。
為應對這些需求,通過對多位CIO、CTO和治理專家的採訪,一個新趨勢浮現:AI治理正從政策文件和委員會,轉移到執行決策的運營系統之中。
"在大多數企業中,AI治理存在於兩個幾乎互不溝通的地方:一份由委員會掌管的政策PDF文件,以及由完成系統集成的人配置的一套OAuth授權範圍、服務帳戶和API密鑰,"一家美國大型媒體、電信、娛樂與科技企業的網路安全工程師Bapuji Koraganti表示。
Koraganti認為,真正具有實質後果的"批准",往往發生在有人授予憑證的那一刻,而非治理委員會批准部署的那一刻。
這種安排在更受控的系統中或許可行,但AI智能體讓情況變得複雜,因為它們可以跨應用程式運行、訪問敏感資訊,並在無需反覆人工干預的情況下發起交易。
身份治理提供商Omada的首席創新官Patrick Parker表示,更好的做法是明確區分"授權某個智能體"與"授權某筆特定交易"。例如,一個被允許訪問財務系統的智能體,不應因此自動獲得更改供應商銀行資訊或放款的權限。
這類限制必須在動作發生時予以強制執行,而不僅僅是在政策中加以描述。
"企業可以擁有一整套完整的AI政策體系,但治理決策與執行環節之間仍可能缺乏連接,"Parker說。
執行層面的轉變正在改變治理在操作層面的含義。相較於依賴一概而論的批准和聲明,組織需要的是可執行的權限設置、交易限額、監控機制,以及隨時撤銷智能體權限的能力。
"敏感操作需要在模型之外、在執行時刻就得到強制授權。凡需要審批的場合,審批必須與實際受益方、金額、目標帳戶或數據範圍嚴格綁定,"Parker表示。"對一家供應商的付款授權,不能因為涉及同一個智能體和同一工具,就變成對另一家供應商的付款許可。"
保險業與採購環節加大風險砝碼
治理正日益成為一個財務與合同層面的考量因素。保險經紀公司Gallagher報告稱,部分保險公司正根據投保企業對AI治理相關問題的回答,採用分級定價並調整承保限額。該公司2026年春季商業保險報告還指出,AI風險管理準備工作的不足,已開始影響保費定價。
這並不意味著AI治理薄弱會導致統一的保費上浮。各家保險公司的做法不盡相同,整體網路保險的定價趨勢也可能與針對具體AI相關風險的處理方式有所區別。儘管如此,這一趨勢為企業提供了動力,促使其證明治理管控措施確實存在並有效運作。
然而,CIO必須謹慎,不要假設更強的AI治理會自動帶來更低的保費。保險公司在定價時會評估具體的風險敞口、保單條款和承保限制。
"就像要求採用多因素認證一樣,保險公司也開始關注AI防護措施是否真正落地,而不僅僅是一份聲明。這包括證明組織在AI智能體或AI驅動的攻擊造成損害後能夠恢復數據和系統,正如保險公司在勒索軟體興起期間開始要求提供經過測試的備份證明一樣,"網路彈性提供商Druva負責生成式AI產品的副總裁David Gildea表示。
採購和法務部門同樣面臨壓力,需要通過供應商合同這一機制來落實治理策略。安全服務公司Guidepost Solutions高級常務董事、副總法律顧問兼首席隱私官Allison Spagnolo指出,數據使用條款、審計權、責任分配,以及針對AI能力變化的合同保護條款,都是供應商合同中需要重新關注的敏感問題,以避免企業承擔不應有的風險。
與此同時,託管服務提供商Ensono的CIO Savio Lobo認為,AI供應商協議應被視為企業風險管理的一部分,而非孤立的技術採購行為。他表示,採購部門負責商業談判,法務部門制定合同條款,安全與隱私部門界定風險要求,技術或業務負責人則決定剩餘風險是否可以接受。
但僅靠合同限制無法阻止AI系統執行未經授權的操作。企業必須將這些合同義務與技術管控及運營監督連接起來。
"關鍵在於,AI供應商審查不能與第三方風險管理脫節、自成一體。它需要增加針對AI的專門問題,但應當融入企業現有的管控體系之中,"Lobo補充道。
高管權責問題
隨著治理工作融入越來越多的業務職能,其組織歸屬也變得愈發難以界定。但顯然,必須有人來統籌負責。
在Ensono,Lobo與一位CTO和一位CAIO共同協作。他們的合作方式展示了企業如何在不將每項決策都集中到某一位高管手中的情況下,在領導層之間協調AI治理工作。
CAIO在CIO和CTO的協助下,制定戰略、標準和採用優先級。但特權訪問、合同責任和業務流程自動化方面,仍由負責相應具體領域的高管掌握決定權。
"為每一個新出現的問題設立新的C級頭銜,不太可能解決AI治理問題,"Lobo表示,這也不會取代現有的問責分工。
在缺乏這種清晰架構的公司中,隨著AI決策下沉到各個業務單元,日益細化的職責分工帶來的後果會更加嚴重。某業務負責人可能批准了一個自動化工作流,但權限由安全部門掌控,運行環境由技術部門管理,合同義務則由法務部門決定。沒有哪一方天然對其他各方擁有管轄權——由此產生的"最終問責主體缺位"的真空狀態,可能是難以維持的。
AI治理平台Monitaur的CEO兼聯合創始人Anthony Habayeb認為,企業的最終問責歸屬應在CEO和董事會,由他們確立組織的風險偏好。
"能否由一位高管為整個公司的AI問責負責?不能。能否由CAIO來統籌協調,再由風險和審計部門核實?可以,"Habayeb表示。
"正確的架構最終應該是:一位負責任的業務高管做出'是'或'否'的決定,而這一決定建立在分布於技術、風險、安全等各領域的專家所完成的基礎工作之上,這些專家各自承擔著執行關鍵治理管控的職責,"Habayeb解釋道。
挑戰在於如何協調各方決策,同時不讓決策權歸屬和責任歸屬變得模糊不清。
另設治理頭銜的替代方案是什麼?
一個正在浮現的答案是:引入一套通用的治理運營模式,而不是再設一個高管職位。
決策智能平台RelationalAI戰略合作副總裁Tom Jenkins表示,雖然目前還不存在單一的AI治理運營模式,但他觀察到一種日益普遍的聯邦式方法正在興起——即標準由中央統一制定,而各業務單元仍對自身的結果承擔責任。
"這在組織層面是合理的,但也帶來了一個技術挑戰:如何確保相同的政策、業務規則和約束條件,在不同的應用程式和智能體之間保持一致?"Jenkins說。
跨應用程式、數據環境和AI智能體實現一致的執行是必要的。Jenkins表示,他看到CIO或首席數據與AI官的角色正日益承擔起建立通用架構的職責,從而讓分布式治理變得可管理。
Lobo主張採用統一的控制平面,涵蓋AI資產清單、風險分級、指定責任人、身份標準、監控機制和運營證據。"然後各個具體職能部門就可以在這些邊界範圍內進行創新,"他說。
與統計已批准的政策數量或治理會議次數相比,CIO更應該關注的是:有多少AI系統擁有明確的責任人、符合訪問權限要求,並能夠證明相關管控措施確實在發揮作用。
Parker提出了另一個衡量指標:治理延遲,即從做出授權或撤權決定,到該決定在生產系統中真正生效之間所經過的時間。這類指標能夠揭示治理究竟只是停留在組織層面的職責分配上,還是真正在控制AI的行為。
AI治理的下一階段可能還會催生更多的高管頭銜。具體的高管架構安排也會因企業而異:有些企業會擴大CAIO的職責範圍;另一些則會將協調工作交給CIO,或通過現有的技術和風險領導團隊分散權力。無論如何,企業都會傾向於通過更新組織層級結構來確立權責歸屬。
但如果新設立的職位沒有配套的預算、決策權和解決衝突所需的運營權力,那麼它只會給本已碎片化的審批流程再添一位參與者。
相反,領導層應將目光轉向一個已經在發生、且更為關鍵的趨勢:治理正在變成一種運營層面的學科。而企業必須明確,由誰來確保這眾多運轉部件能夠協同一致地運作下去。






