當企業員工詢問某款伺服器的報價時，如果AI智能體無法訪問內部價目表，便無從作答。然而，當這份價目表屬於高度敏感的企業機密數據時，如何管控哪些智能體有權查閱，並確保它們不會濫用數據，已成為企業AI部署中最棘手的問題之一。
近日，Google Cloud智能體平台產品管理副總裁麥可·格斯滕哈伯（Michael Gerstenhaber）在接受《Computer Weekly》採訪時，以谷歌內部一個真實案例對這一挑戰進行了說明。該案例涉及兩代張量處理器（TPU）硬體，內部代號分別為"Viperfish"和"Ghostfish"。
格斯滕哈伯指出，如果用戶要求AI智能體計算這兩代系統之間的財務換算比率，智能體無法憑空猜測，必須訪問一份高度受限的內部價格表。
"這份價格表極為敏感，只有具備一定權限的人員才能查閱，"他解釋道，"只有通過身份驗證、權限管理、審計追蹤和可觀測性，我才能放心地讓虛擬員工訪問敏感數據——因為這正是我們對待真實員工的方式。"
擴展自主AI智能體的能力，不能僅僅依賴更智能的前沿模型，成功與否在很大程度上取決於企業在AI治理實踐方面的完善程度，包括智能體生命周期管理和數據訪問策略，以建立對該技術的信任。
默認安全與防止數據泄露
格斯滕哈伯建議企業在應對AI智能體安全問題時，秉持一種與人類企業責任機制相似的理念：軟體必須默認安全。
"員工應當展現出良好判斷力，這意味著智能體也應如此，"他表示，"如果員工惡意竊取數據，應當被追責；但即便沒有惡意，數據泄露也應當極其困難。"
為此，Google Cloud部署了一套智能體網關，供管理員設置全局企業策略。這種縱深防禦方案整合了專用智能體註冊表、技能庫以及模型上下文協議（MCP
）註冊表。即便某個AI智能體構建了存在缺陷的工作流，企業級策略也會介入，阻止未經授權的訪問。
"如果要訪問敏感資料庫，你必須每次都以相同的方式進行，並確保全程受到管控，"格斯滕哈伯強調。
智能體身份與人類身份的管理差異
儘管AI智能體常被比作數字員工，但對智能體的治理與人員管理存在本質差異。格斯滕哈伯指出，將人類與智能體的管理整合到同一個操作界面中面臨獨特挑戰，因為兩者的風險特徵截然不同。
"智能體可以無限擴展，而我不行；智能體不怕被解僱，但我怕，"格斯滕哈伯打趣道，"你允許它們表達判斷的程度不同，這一點必須在權限設置中有所體現。"
管理這些權限級別需要嚴格的隔離機制。例如，AI智能體可能被授權訪問某份特定的機密文件以完成特定任務，但同時被限制訪問其人類上級有權查看的絕密文件。
可觀測性難題
如何持續掌握智能體的決策過程，是另一項重大挑戰。憑藉此前在可觀測性領域知名企業Datadog的工作經驗，格斯滕哈伯提出利用分布式追蹤技術來監控智能體的工作流。通過這種方式，管理員可以審計智能體的每一個操作步驟：選擇了哪些工具、查詢期間的權限狀態，乃至模型內部的"思考過程"。
然而，將這些密集的遙測數據呈現給業務管理層，需要精心的界面設計。"難點在於不讓解讀數據的人感到困惑，"格斯滕哈伯說。舉例來說，一位銷售經理不應該為了了解AI助手在做什麼，而不得不面對複雜晦澀的技術圖表。
在安全防護層面，Google Cloud依託Model Armor保護生產環境部署。Model Armor完全在帶外運行，實時監控生成預填充內容的API與推理解碼輸出之間的交互過程。由於它運行於構建智能體的工程師職責範圍之外，可以獨立防範提示注入和有害內容，不受內部干擾。
智能體或許永不需要退役
談及企業應如何管理智能體的全生命周期——包括部署、再訓練和退役時，格斯滕哈伯提出了一個不同尋常的觀點：智能體或許根本無需退役。
由於驅動智能體的底層基礎模型在發布後保持不變，智能體的運行行為可以持續修正，無需下線。
"你甚至不需要真正退役它，"格斯滕哈伯說。通過可觀測性追蹤數據，人類管理員或由大語言模型驅動的自動化"評判系統"可以標記出不良交互，並將修正內容直接反饋至智能體的記憶中。
"它會通過這種在線學習不斷改進，並在運行期間將不良行為從模型中'微調'掉。即便模型本身在同一代際內訓練完成，它也會變得更智能、更精準，"他補充道。
邁向"彈性智能"
受到有效治理、持續學習的智能體，其終極目標正是格斯滕哈伯所稱的"彈性智能"。對於企業IT而言，這將從根本上改變工作資源的調配方式。複雜任務不再受制於人力工時的瓶頸，AI智能體讓企業得以動態擴展運營能力。
"我們將原本受時間限制的事情，轉化為受空間或成本限制的事情——但它可以在相同預算下無限快速地完成，"他說。
為實現這一願景，Google Cloud正在開發新一代能力，包括即將推出的Gemini Spark個人AI智能體，該智能體專為自主運行而設計。屆時，人類員工將不再需要向智能體分配細粒度的逐步任務，而是基於高層次的業務目標來進行指引。
"要做到這一點，你必須提前授予它相應權限，讓它能夠自主運行，"格斯滕哈伯說。一旦建立起這種信任，企業將擁有一支"永遠不會感到厭倦、無需睡眠、能夠全天候代替我處理大量複雜工作"的數字化勞動力。
Q&A
Q1：Google Cloud的智能體網關是什麼，有什麼作用？
A：Google Cloud的智能體網關是一套用於企業AI治理的安全管控工具，管理員可通過它設置全局企業策略。它整合了智能體註冊表、技能庫和模型上下文協議（MCP）註冊表，形成縱深防禦機制。即便某個AI智能體構建了存在缺陷的工作流，企業級策略也會自動介入，阻止未經授權的數據訪問，從而保障敏感數據安全。
Q2：AI智能體和普通員工在權限管理上有什麼不同？
A：AI智能體與人類員工的風險特徵存在本質差異。智能體可無限擴展、不受解僱威脅，因此不能按照管理人類員工的方式來管理它們。在權限設置上需要嚴格隔離：智能體可能被授權訪問某份特定機密文件以完成任務，但同時被限制訪問其人類上級有權查看的更高級別文件，權限粒度須根據任務需求精確控制。
Q3：AI智能體需要定期退役或更新換代嗎？
A：按照Google Cloud的理念，AI智能體或許根本不需要退役。由於底層基礎模型發布後保持不變，智能體的行為可通過在線學習持續修正。人類管理員或大語言模型驅動的自動評判系統會標記不良交互，將修正內容反饋至智能體記憶中，使其在同一代模型框架內持續變得更智能、更精準，無需下線重建。
