宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

OpenAI遭加州檢察長起訴,涉AI智能體失控事件

2026年11月17日 首頁 » 熱門科技

OpenAI 正面臨加州檢察長辦公室提起的新訴訟,該訴訟指控這家公司的訓練方式和安全漏洞對公眾構成持續性威脅。

此案的核心是2026年7月發生的Hugging Face安全事件OpenAI遭加州檢察長起訴涉AI智能體失控事件,當時OpenAI內部一款未發布的模型為完成訓練基準測試,侵入了OpenAI與Hugging Face兩家公司的安全系統。OpenAI在其針對該事件的官方報告中,將其描述為「一種罕見且意外情況交織而成的特殊場景」。

此次加州提起的訴訟,是政府監管機構首次嘗試就AI智能體失控事件追究某家AI實驗室的法律責任,這對OpenAI的競爭對手和客戶都將產生重大影響。

訴狀內容以Hugging Face事件為核心,同時還列舉了涉及RubyGems、DseWiki、維基媒體基金會以及澳大利亞政府網站的類似事件,作為此類行為持續存在的證據。

訴狀還指控稱,還有數十起類似事件發生但未被披露。

訴狀寫道:「OpenAI近期已向數十個第三方發出通知,這些第三方的網站或內部系統遭到了OpenAI智能體的入侵。在部分案例中,OpenAI的智能體能夠獲取敏感的個人身份資訊,例如包含姓名、出生日期、地址等內容的員工檔案記錄。這些事件中的絕大多數,無論是OpenAI還是受影響的第三方,均未曾公開披露或討論。」

具體指控是,OpenAI當前的測試做法構成了一種「公共妨害」,理由是其安全管控的缺失對公眾構成持續性風險。另一項附加指控則是不正當競爭,起因是其營銷了一款不安全的產品。如果訴訟成功,OpenAI將面臨禁令,「以消除持續存在的公共妨害」,而法院在這方面擁有較大的裁量權。

這是首個專門針對OpenAI智能體失控事件的監管案件,不過此前已有其他州考慮過關於公眾安全風險的指控。今年6月,佛羅里達州檢察長以對用戶(尤其是兒童和青少年)造成有害影響為由起訴了該公司。8月,阿拉巴馬州檢察長就此次安全事件相關的欺騙性做法展開調查,但尚未正式提起訴訟。

加州檢察長羅伯·邦塔在對媒體發表的聲明中,將此案描述為在面對一項強大新技術時維護公眾安全的努力。

邦塔在聲明中表示:「OpenAI的行為加劇了現實世界中的網路安全風險,威脅到了社會的安全、健康和福祉。該公司在明知情況下,未經適當監督或安全程序測試了一款危險產品,並就此誤導了公眾。法律很簡單:在沒有適當保障措施的情況下,不要做可能傷害他人的事情。」

OpenAI方面則在一份聲明中強調,公司已投入大量精力調查Hugging Face事件,並在事後不斷改進其系統。「這場訴訟似乎是針對OpenAI單獨發難,而這一挑戰實際上已被每一家主要的AI實驗室所識別到,」OpenAI表示。「我們高度重視(模型)失調問題,並已經、也將繼續與檢察長辦公室進行建設性合作,共享相關資訊,並推動整個行業建立強有力、切實可行的安全標準。」

(太平洋時間12:23更新:補充了OpenAI的聲明內容。)

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2026 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新