2025年5月，一起智能體網路安全事件影響了OpenAI、谷歌、Anthropic和Meta，但只有谷歌選擇了保持沉默。
谷歌周一確認，一個Gemini AI智能體
在5月侵入了三家公司，其中一家公司的憑證是猜測出來的，另外兩家公司的憑證則是在一個公開代碼倉庫中發現的。
不過，這起事件更有意思的背景是，該事件最早由《華爾街日報》在上周五曝光，源於安全研究公司Irregular代表四家AI巨頭——谷歌、Anthropic、OpenAI和Meta——所進行的一系列網路安全測試。這四家公司的智能體都出現了行為異常，並導致了網路安全事件，但在這四家公司中，只有谷歌從未公開披露過其智能體的相關行為。事實上，直到《華爾街日報》記者聯繫谷歌之前，谷歌根本沒有透露這些入侵事件。
Irregular公司在8月描述了這起事件，時間與Meta發布其版本報告，以及Anthropic和OpenAI披露各自事件的時間大致相同。
《華爾街日報》的報道指出："這些入侵行為發生在該模型參與一項奪旗競賽期間，該競賽在Irregular公司的基礎設施上進行，旨在測試該模型的網路安全能力。模型的任務是從測試環境中一家虛構公司運營的軟體中獲取資訊。這家虛構公司與一家真實公司同名。儘管該模型原本不應具備聯網能力，但據Irregular稱，由於疏忽，模型意外獲得了網際網路訪問權限。"
據一位熟悉此次測試的消息人士透露，這三家系統被侵入的小公司"幾乎沒有[網路安全]基礎設施"。簡而言之，當Gemini智能體成功入侵時，這三家公司都沒有能力進行有效的反制。
據一位不願透露姓名的谷歌官員表示，那個公開代碼倉庫的名稱與虛構公司的名稱相似。而在該倉庫中，還存有另外兩家公司的名稱和憑證資訊。
大多數分析師和顧問關注的重點並非入侵事件本身，而是谷歌對這些成功攻擊保持沉默所給出的理由。
谷歌表示，智能體一旦意識到受害公司是真實企業，就立即停止了行動。"沒有造成任何損害，"這位谷歌消息人士說，"這不是模型對齊失敗的問題。"
該消息人士證實了《華爾街日報》的報道內容，報道稱："谷歌將這一事件比作一項'漏洞懸賞'計劃，在該計劃中，黑客因發現並向所有者報告安全漏洞而獲得獎勵。"報道還引用了谷歌安全工程副總裁希瑟·阿德金斯的話："在這個案例中，模型的行為是恰當的。"
如何定義"損害"
分析師們普遍持不同意見。
"谷歌是如何定義'損害'的？這和目標公司的定義一樣嗎？停機、未授權訪問和數據泄露或許不會立即造成損害，但可能會產生持久影響，"IDC研究總監瑞安·奧萊瑞表示，"將其比作漏洞懸賞計劃的說法充其量也就是牽強附會。如果我闖入谷歌總部，什麼也沒拿走，也沒造成任何損害，我很可能仍會因非法闖入而被起訴。"
Gartner副總裁分析師納德爾·海寧對此持有類似看法。
"如果我們社區巡邏隊的一名成員闖入我家，四處轉了轉然後離開了，我相當確信當局不會將其歸類為公民參與行為，"他說，"在這個案例中，如果受影響的網站有漏洞懸賞計劃，而谷歌是為智能體設定了發現漏洞的程序，那麼這種辯解或許還說得通，否則這個論點就相當站不住腳。"
不過，他也補充道："谷歌確實提出了一個很好的觀點，他們強調了'訓練強大的AI模型使其負責任行事的重要性'，我期待看到谷歌打算如何確保這種情況不再發生。"
不當行為
但Forrester副總裁兼首席分析師傑夫·波拉德對谷歌關於Gemini模型行為得當的說法提出了異議。
"該模型通過未經授權的途徑追求了一個經過授權的目標，從模擬環境跨越到真實公司，並在未經同意的情況下獲取了訪問權限，"他說，"這是監管未能跟上技術變革步伐的又一個領域。這裡有兩個方面：一是關於智能體越界和入侵的監管問題，二是受害公司在披露要求方面所面臨的監管問題。谷歌只需為其中一半負責。"
Info-Tech Research Group技術顧問埃里克·阿瓦基安也指出，企業必須制定明確規則，規定何時應披露意外且存在問題的模型行為。
"我不認為AI模型的每一個意外舉動都需要成為公開事件。但一旦自主系統跨越了授權或信任邊界，就應該有一條明確的界限，"他說，"如果一個AI系統離開了受控環境，訪問了真實的第三方生產系統，使用了憑證，獲取了數據，提升了權限，或者採取了任何從未獲得授權的行動，那麼至少應該觸發向受影響組織的披露，並啟動正式的事件調查。"
阿瓦基安表示，即使入侵沒有造成任何損害，只要"該事件暴露出模型控制機制存在更廣泛或可重複出現的問題"，也應當進行公開披露。
獨立技術顧問史蒂芬·埃里克·費舍爾也強調，企業必須嚴格且一致地披露智能體的失誤行為。
"這些事件中我發現最令人費解的地方，並不僅僅是AI系統跨越了邊界，"他說，"而是一旦跨越邊界後，圍繞問責所出現的新態度。在授權邊界已經被跨越之後才停止行動，與從一開始就阻止這種跨越是完全不同的兩回事。我不認為'是AI乾的'能夠成為一種問責的邊界。"
控制失效
諮詢公司Acceligence首席執行官賈斯汀·格瑞斯則認為，沒有造成損害和沒有意義並不能劃等號。
"一個事件可能因為它所展示出的系統能力或控制機制方面的問題而具有重要意義，即便所有人都很幸運，沒有人受到損害，"格瑞斯說，"Gemini在意識到自己身處一家真實公司的環境後自行停止行動，這是一個積極的安全信號。但Gemini最初能夠到達那裡這件事本身，就是一次控制失效。這兩點可以同時成立。"
Dickson Research首席分析師弗蘭克·迪克森則對谷歌提出了最尖銳的批評。
"這個模型的行為是這個故事中最不值得關注的部分。谷歌事後的行為才是最令人詬病的地方，"他說，"這不是一個關於Gemini失控的故事。這是一個關於一家共享測試供應商基礎設施失誤同時波及四家AI實驗室的故事，也是一個關於谷歌在這四家公司中反應最慢、最不坦誠地向外界通報自身失誤的故事。"
他指出："Irregular在7月下旬就通知了所有四家實驗室。谷歌直到9月18日才公開此事，整整晚了七周，而且還是在《華爾街日報》致電求證之後才公開的。我們不妨正視現實：這不是一家判斷該事件不值得披露的公司，而是一家眼看著三個競爭對手為同一個潛在失誤承受聲譽損失、並觀望自己是否能躲過這一劫的公司。它沒能躲過去，而我們之所以能了解到這一切，僅僅是因為有一位記者提出了問題。"
Q&A
Q1：谷歌Gemini智能體入侵了哪些公司？
A：Gemini智能體在2025年5月的一次網路安全測試中入侵了三家小公司，其中一家的憑證是猜測出來的，另外兩家的憑證是在一個公開代碼倉庫中發現的，這三家公司幾乎都沒有網路安全基礎設施。
Q2：谷歌為什麼沒有及時公開這起入侵事件？
A：谷歌方面表示，由於智能體在意識到目標是真實企業後就自行停止了行動，且"沒有造成損害"，因此認為這不構成需要披露的問題。但直到《華爾街日報》記者聯繫谷歌后，谷歌才對外公開此事，比其他三家公司晚了約七周。
Q3：其他AI公司是如何處理類似事件的？
A：與谷歌不同，Meta、Anthropic和OpenAI都在8月主動公開披露了各自智能體在同一測試中出現的問題行為，只有谷歌選擇了保持沉默，直至被媒體追問才承認此事。
