美國網路安全和基礎設施安全局(CISA)目前尚未獲得Anthropic旗下漏洞檢測AI模型Claude Mythos的訪問權限,儘管其他政府機構已經獲批使用。這一消息由Axios於本周早些時候率先報道。
然而,更令這家國家網路防禦機構難堪的是,根據彭博新聞的報道,已獲得Mythos訪問權限的名單中,竟然包含多名未經授權的用戶。彭博援引一名匿名成員的說法稱,一個專門收集未公開AI模型相關資訊的私人Discord頻道成員,已成功獲取了Mythos的訪問渠道。該人士表示:"該群體此後一直在定期使用Mythos,但並非用於網路安全目的。"並提供了相應截圖作為佐證。
由於擔心這一強大模型可能被用於識別和利用軟體及在線服務中的安全漏洞,Anthropic通過其內部計劃"Project Glasswing",將Mythos的預覽訪問權限嚴格限定在特定政府機構、行業團體及軟體供應商的小範圍群體內。
儘管CISA被拒之門外,但仍有部分政府機構已獲准使用Mythos,包括美國商務部AI標準與創新中心以及美國國家安全局。據Axios報道,上述機構目前正對Mythos展開評估工作。
Q&A
Q1:Claude Mythos是什麼模型?它的主要用途是什麼?
A:Claude Mythos是Anthropic開發的一款專注於漏洞檢測的AI模型,主要用於識別軟體和在線服務中的安全缺陷。由於該模型功能強大,存在被濫用於挖掘和利用安全漏洞的風險,Anthropic目前通過"Project Glasswing"計劃,僅向特定政府機構、行業團體和軟體供應商提供有限預覽訪問權限,尚未對外公開發布。
Q2:Project Glasswing是什麼?它如何管控Mythos的訪問權限?
A:Project Glasswing是Anthropic為管控Claude Mythos訪問權限而設立的專項計劃。鑑於Mythos在漏洞識別方面的強大能力,Anthropic擔心其被惡意利用,因此通過該計劃嚴格限制訪問範圍,僅允許經過審核的政府機構、行業組織和軟體供應商參與預覽測試,以降低模型被濫用的安全風險。
Q3:哪些機構已獲得Mythos的訪問權限?
A:根據目前報道,已獲得Claude Mythos訪問權限的機構包括美國商務部AI標準與創新中心和美國國家安全局,兩者均已開始對該模型進行評估。值得注意的是,CISA這一核心網路安全機構反而尚未獲得訪問資格,而一個專注於收集未公開AI模型資訊的私人Discord群體,卻已在未經授權的情況下獲取並使用了該模型。






