Salesforce和Databricks於近日相繼推出智能體AI治理功能，旨在為企業快速部署智能體工作流的過程中提供更完善的管控機制。
就在本周早些時候，AWS也發布了智能體註冊中心（Agent Registry）——一個用於統一託管、構建和管理跨框架、跨設計智能體的集中化平台。
這些產品的密集發布，折射出業界對收緊智能體AI訪問權限的迫切需求。當前，企業普遍同時使用多款智能體產品，並通過多個試點項目尋找最佳應用場景和投資回報。然而，這一模式也容易導致智能體數量失控蔓延，帶來安全隱患和高昂運營成本。
Salesforce在公告中指出，快速演進的AI格局需要精細化的管控能力才能實現規模化落地。兩家公司均將上述新功能集成到各自的現有產品中——分別是Salesforce的Agent Fabric和Databricks的AI Gateway。
"AI智能體如今已能在多個模型和系統之間協調編排多步驟工作流，而在每個環節幾乎都會接觸到敏感數據。"Databricks在公告中表示。
Salesforce方面，Agent Fabric新增功能允許用戶在多大語言模型技術棧中統一管理Token及合規事項，並支持為智能體配置特定權限。Salesforce表示，該功能可針對資金劃轉、法律審查等敏感任務進行定製化配置。此外，旗下Agent Broker產品也新增了允許用戶定義固定交接規則的功能，同時由大語言模型負責推理判斷。
Databricks對AI Gateway的功能擴展，則使用戶能夠管控大語言模型的訪問權限、規範智能體調用API的方式，並針對不同智能體的內部系統訪問範圍制定相應策略。AI Gateway還將在其Unity Catalog中記錄每次請求所產生的美元成本，以應對外界對AI支出日益嚴格的審查。
Info-Tech研究集團研究總監托馬斯·蘭德爾在接受電子郵件採訪時表示，正在尋找最合適治理方案的CIO應首先評估自身現有的技術架構。
"如果你深度植根於Salesforce生態系統，那麼選擇Salesforce提供的智能體治理工具會更為合理，而不必引入一個需要額外承擔實施成本、集成成本乃至架構調整的獨立工具。"他說。
蘭德爾還指出，CIO在與供應商溝通並進行選型時，必須清晰界定自己希望解決的具體應用場景。由於智能體AI及其治理策略正處於高速發展階段，大多數工具在功能上會趨於同質化。他建議將企業最核心的四個應用場景提供給供應商，讓其展示產品在真實條件下的實際效果。
蘭德爾還建議技術負責人將FinOps（財務運營）與智能體治理視為一體，因為智能體工作流本身具有可變的成本結構。
"一個將自身定位為智能體控制平台的供應商，必須能夠為所有在管智能體、模型和工具——包括第三方組件——生成統一的成本賬本。"他說。
Q&A
Q1：Salesforce的Agent Fabric新增了哪些治理功能？
A：Salesforce的Agent Fabric新增了跨多大語言模型技術棧的統一Token管理與合規功能，並支持為智能體配置特定操作權限。這意味著企業可以針對資金劃轉、法律審查等高敏感性任務進行精細化定製，降低數據泄露和越權操作的風險。此外，旗下Agent Broker產品還允許用戶設定固定的任務交接規則，由大語言模型負責推理部分，實現人機協作的有效分工。
Q2：企業在選擇智能體AI治理工具時應該怎麼做？
A：Info-Tech研究集團研究總監托馬斯·蘭德爾建議，企業應首先評估自身現有技術架構，選擇與已有生態系統契合度高的產品，避免引入額外的集成和遷移成本。同時，CIO應明確希望解決的核心應用場景，建議將企業最重要的四個場景提交給候選供應商，要求其展示產品在真實條件下的表現，而非僅依賴功能列表進行比較。
Q3：Databricks的AI Gateway擴展了哪些功能？
A：Databricks擴展後的AI Gateway支持用戶管控大語言模型的訪問權限、規範智能體調用API的方式，並可針對不同智能體設定其能夠訪問的內部系統範圍。此外，AI Gateway還會在Unity Catalog中記錄每次請求的美元成本，幫助企業在AI支出日益受到審查的背景下實現精細化的財務管理，將智能體治理與FinOps有效結合。
