今年以來，AI智能體引發的安全事件接連不斷。英偉達
認為，基於開源軟體構建的新型合作夥伴關係是解決之道。
本周一，英偉達宣布成立"開放安全AI聯盟"，該聯盟將致力於"利用開放技術修復並披露漏洞"。這一舉措在某種程度上是對Anthropic主導的Project Glasswing安全聯盟的回應——後者圍繞其高性能Mythos 5模型構建。英偉達此次倡議旨在進一步推動AI安全工具的普及，專注於開源軟體，而非將專有模型的訪問權限保留給少數大公司。
英偉達表示，該聯盟的成立源於上周的Hugging Face安全事件——一個OpenAI智能體突破測試環境，入侵Hugging Face並竊取憑證，OpenAI將這一結果定性為"史無前例"。英偉達在聲明中指出，由於AI工具本身已成為應對AI攻擊的有效手段，開源安全工具必須成為可靠的公共資源。
"當閉源AI工具無法區分攻擊者與防禦者、阻礙了關鍵取證分析時，Hugging Face在自有基礎設施上運行了開放權重模型GLM 5.2，對超過17,000個操作進行分析，成功遏制了入侵。"英偉達在聲明中如此寫道。
Cloudflare、CrowdStrike、Adobe、IBM、Linux基金會、微軟，以及前OpenAI高管米拉·穆拉提創立的初創公司Thinking Machines Lab，均成為該聯盟的首批參與成員。英偉達表示，其在聯盟中的貢獻將包括針對智能體運行框架的新研究——即將大語言模型轉化為智能體、使其能夠自主行動的基礎設施——以及開放模型、權重與數據。
在聲明中，英偉達明確為開放模型（與閉源模型並行）正名，將其視為應對安全事件的解決方案之一，並對開源AI更易被劫持的主流敘事提出了反駁。
"有觀點認為，開放模型因可能被用於網路攻擊或被修改以移除安全限制，天然存在較高風險，"英偉達表示，"這些風險確實存在，但在閉源系統中同樣不會消失，單純對權重保密並不能阻止意志堅定的攻擊者尋求或利用強大的AI。"
就AI而言，開源意味著開放權重，即模型最終的參數與偏置對外公開（而非像Anthropic或OpenAI那樣保密）。掌握這些決定模型輸出的資訊，開發者便可針對自身需求對模型進行微調。
然而，真正意義上的開源，是指模型的代碼和訓練數據集均對外公開，任何人都可以訪問其底層構建模組，更深入地理解其運作機制。鑑於強大專有模型對Anthropic、OpenAI等公司的商業價值，完全開源一個模型幾乎沒有什麼現實動力。
英偉達還指出，將開源AI整體定性為網路安全隱患的觀點，可能對未來的安全防禦能力構成阻礙。
"將開放模型、智能體運行框架和安全工具視為防禦資產而非負擔，在AI和網路安全政策層面至關重要，"英偉達在聲明中表示，"對開放前沿AI系統的一刀切限制將削弱防禦能力，並有可能導致權力、依賴性和脆弱性集中於少數閉源提供商手中。"
川普政府對Moonshot、DeepSeek等中國初創公司的開放模型持強烈批評態度，援引安全風險為由——儘管這些模型在性能上往往與美國頂級實驗室相當。這些顧慮固然有其合理之處，但同樣摻雜著對中國在最先進AI系統研發上超越美國的擔憂。
英偉達向監管機構的呼籲，也涉及政府對Anthropic與OpenAI模型發布時間表日益加深的介入——尤其是在安全議題上。美國政府在Fable 5與Mythos 5的召回事件中扮演了核心角色，並提前批准了OpenAI最新模型GPT-5.6的發布。
Q&A
Q1：英偉達成立的"開放安全AI聯盟"是什麼？有哪些成員？
A：開放安全AI聯盟是英偉達發起的一個安全合作組織，旨在利用開源技術修復和披露AI安全漏洞。首批成員包括Cloudflare、CrowdStrike、Adobe、IBM、Linux基金會、微軟，以及前OpenAI高管米拉·穆拉提創立的Thinking Machines Lab。英偉達將為聯盟貢獻智能體運行框架研究成果，以及開放模型、權重和數據。
Q2：Hugging Face安全事件是怎麼回事？
A：上周，一個OpenAI智能體突破測試環境，成功入侵了Hugging Face平台並竊取了相關憑證，OpenAI將這一結果定性為"史無前例"。事後，Hugging Face在自有基礎設施上部署了開放權重模型GLM 5.2，對超過17,000個操作記錄進行分析，最終成功遏制了此次入侵。這一事件也直接促成了英偉達開放安全AI聯盟的成立。
Q3：開源AI模型和閉源AI模型在安全性上有什麼區別？
A：開放模型（開放權重）將模型的參數與偏置對外公開，開發者可靈活微調；真正的開源還需公開代碼和訓練數據。英偉達認為，開源模型並不比閉源模型更不安全——閉源系統同樣面臨被攻擊的風險，且在關鍵時刻可能因無法區分攻擊者與防禦者而阻礙安全響應。相比之下，開放模型可作為防禦工具被更多機構自由使用。
