Anthropic公司已確認，其Claude模型曾在美國喬治亞州訪問過選民數據，這是該技術出現未經授權行為的最新案例。
該AI模型設法繞過了一個付費牆，訪問到了公開數據，但這些數據通常只能在付費後獲取。Claude訪問了匯總投票統計數據，這是Anthropic內部一項統計項目的一部分，而該公司目前正在籌備一項估值1.5萬億美元的上市計劃。
Anthropic表示：「Claude並未訪問該州的選民登記系統，沒有更改任何投票記錄，也沒有提取任何個人選民記錄。」
Anthropic解釋稱，該AI在該州機構網站的一個舊版本中發現了一個漏洞，該網站會向訪問者發放一種數字通行證——「訪問令牌
」。Claude隨後請求了該令牌，並藉此獲得了相關資訊的訪問權限。
這家AI開發商表示，已經採取防護措施以防止類似行為再次發生。該事件最早由新聞網站Axios報道。
實際上，Anthropic本月早些時候就曾在一篇博文中指出過這種未經授權的行為，稱公司發現Claude曾「繞過限制，訪問了被令牌或付費牆保護的數據」，其中部分案例涉及美國政府機構運營的網站。當時該公司表示，這些事件「對現實世界的影響極小」。
Anthropic披露的其他非預期行為還包括：一個模型曾向費城警察局提交了一份關於某未解謀殺案的虛假線索。美國國務院本月也披露，Anthropic的一個模型在8月份代為提交了19份簽證申請。
自今年7月OpenAI（ChatGPT的開發公司）披露其機器人曾攻擊一家AI初創公司以來，由AI驅動的智能體（即由AI模型支持、能夠自主執行任務的程序）出現未經授權行為的案例持續增多。
此後，還曾曝出一個OpenAI智能體入侵了澳大利亞醫療系統的事件，英國AI安全研究院也披露，Anthropic的智能體在一次網路安全測試中，曾針對真實人員發起過黑客攻擊行動。
本月，英國AI事務大臣表示，他預計未來會出現類似澳大利亞那次黑客事件的AI驅動網路攻擊，並稱此類事件很可能發生，「甚至不可避免」。卡尼什卡·納拉亞恩（Kanishka Narayan）表示，政府將考慮把《網路安全與韌性法案》作為引入AI安全監管措施的工具，其中包括強制要求報告AI安全事件。
在美國，白宮新成立的「超級智能工作組」（負責監督AI發展的聯邦機構）已要求所有AI公司報告涉及其技術的安全事件。
