在如何保障日益強大的AI模型安全性這一問題上，領先AI公司之間的分歧正在擴大，這種分歧已開始轉化為企業IT層面的實際挑戰，並影響到組織獲取、部署和治理AI系統的方式。
最新的爭議焦點出現在Meta首席執行官馬克·祖克柏
呼籲引入中立評估機構獨立測試AI模型之後，他此舉是對競爭對手要求放緩開發或加強協調的回應。
"信任與對齊正迅速成為區分智能體和模型的最重要能力。任何不專注於對齊的實驗室都將落後，"祖克柏在X平台的一篇帖子中寫道。
"引入獨立評估者和顧問是行業最佳實踐，"他補充說，並指出Meta已在多個領域這樣做。
他的言論緊隨AI行業領袖一系列公開提議之後，其中包括達里奧·阿莫代伊主張以更謹慎的節奏進行開發，以及山姆·阿特曼呼籲在安全標準上開展合作。
隨著AI實驗室和政策制定者披露先進系統潛在濫用風險的資訊，這場辯論進一步升級。據公司聲明和報道，Anthropic表示已限制在敏感領域使用其Claude模型的嘗試，而OpenAI則已就AI相關風險與政策制定者展開接觸。
儘管這場辯論常被描述為在放緩創新與加強監管之間做出選擇，但分析人士表示，企業應更少關注哪種方式將占上風，而應更多關注已經顯現的實際運營後果。
Gartner總監分析師蘇肖萬·穆霍帕德亞伊表示："不同的安全方式將使獲取先進AI模型變得更難預測，而非導致整個行業放緩。"他說，供應商可能會採用不同的發布時間表、區域可用性、訪問層級和使用限制，這意味著企業可能會在"不同時間、以本質上不同的條件"獲得類似能力。
穆霍帕德亞伊表示，企業應為訪問的不確定性做好規劃，而不是假設跨供應商或跨地區的可用性是一致的。
Kanerika首席營收官布彭德拉·喬普拉表示："我認為本周標誌著前沿AI變成了一種受管控的供給。三年來，首席資訊官們都可以假設下一代模型會自然而然地出現。現在，前沿模型的行為更像是來自某個供應商的關鍵組件，其交付日期部分取決於外部審查者和出口規則。"
喬普拉補充說："任何建立在某個模型將於特定日期到來這一假設之上的AI路線圖，都承擔著尚未被計入成本的供應風險。"
分析人士表示，單純放緩開發速度不太可能實質性改變企業面臨的風險，尤其是在開源模型不斷擴散的背景下。
ArmorCode創始人兼首席執行官尼基爾·古普塔表示："最重要的點不在於暫停本身，而在於AI公司的領導者們正在就某件事達成一致。"
古普塔表示，威脅格局已經發生了變化。"即使公司選擇暫停，開源AI模型也已經存在於市場中，"他說。"我並不認為放緩部分公司的開發進度會實質性改變對手能做什麼。"
"即使AI開發明天就放緩，安全工作也必須加速，"古普塔補充道。"確保這些系統安全的工作難度實際上已經增加了十倍。"
對評估的關注正在推動分析人士所稱的新興"AI保障"層的出現，第三方將在其中對模型的安全性和合規性進行評估。
穆霍帕德亞伊表示："一個獨立的AI保障層很可能會出現，但企業不應指望單一認證就能證明某個AI系統是安全的。企業風險還取決於數據、系統指令、工具、智能體和部署控制。"
喬普拉表示，企業可能會誤讀這類評估。"採購團隊可能看到第三方評估結果，就認為該模型已經過審查，"他說。"一年之內，這就會變成一個走過場的勾選項。"
他表示，相反，企業將需要進行自己的驗證。"走在前面的首席資訊官會在每個模型投入生產環境之前，用自己的數據對其進行測試。"
對於採取多供應商策略的首席資訊官而言，各供應商之間方式的差異可能會帶來額外的複雜性。
喬普拉表示："碎片化本就是默認狀態，安全方式上的分歧使其進一步加深。"
他表示，風險在過渡階段最為突出。"對於運行多個模型的企業而言，風險敞口就存在於交接環節，"他說。"當某個模型被延遲或替換時，系統的表現可能會不同。"
喬普拉說："我認為未經測試的模型替換比供應商鎖定風險更高。"
古普塔表示，開放架構將變得十分重要。"這個框架需要是開放的，不能被鎖定在任何單一供應商身上，"他說。
穆霍帕德亞伊補充說，企業應為模型變得不可用或受限做好準備。
分析人士表示，企業需要設計能夠適應可用性、定價和治理變化的AI戰略。
穆霍帕德亞伊表示："對於關鍵應用而言，首席資訊官應將應用控制和業務邏輯與底層模型分離。"
喬普拉強調了靈活性的重要性。"在應用程式和模型供應商之間設置一個路由層，能把切換工作變成配置工作，"他說，並補充道合同應涵蓋模型棄用的時間表。
他還指出了定價方面的影響。"獲取前沿模型的稀缺訪問權限開始附帶溢價，"喬普拉表示。
Q&A
Q1：為什麼科技巨頭在AI安全問題上出現分歧？
A：Meta首席執行官祖克柏呼籲引入中立評估機構獨立測試AI模型，反對競爭對手提出的放緩開發或加強協調的主張，這與達里奧·阿莫代伊主張謹慎開發、山姆·阿特曼呼籲安全標準合作的觀點形成對比，反映出行業對如何保障AI安全存在不同看法。
Q2：AI安全分歧會給企業帶來哪些實際影響？
A：企業獲取先進AI模型將變得更難預測，不同供應商可能採用不同的發布時間表、區域可用性和訪問限制。分析師建議企業應將應用控制與底層模型分離，並建立路由層以應對模型切換，避免過度依賴單一模型或供應商。
Q3：企業應如何應對AI供應商之間的差異化風險？
A：專家建議企業不要假設模型能持續穩定獲取，應自行對每個模型進行數據驗證測試，而非僅依賴第三方評估結果。同時，採用開放架構、設置路由層、在合同中明確模型棄用時間表，可以幫助企業更靈活地應對供應變化。
