OpenAI近日披露了即將推出的Astra模型
的新細節，該模型是首個達到其"關鍵網路安全閾值"的大語言模型，正式發布在即。
OpenAI在部落格文章中表示："我們計劃很快推出Astra，但其最先進網路安全能力的訪問權限將受到更嚴格限制。"
該公司確認，Astra具備在無人指導的情況下自主發現未知系統安全漏洞並加以利用的能力。這與Anthropic早些時候對其Mythos模型提出的擔憂相似，OpenAI在推出Astra時也採取了類似的預防措施。
由於缺乏第三方確認，外界目前難以獨立評估OpenAI在安全性和準備工作方面的聲明。OpenAI表示將向一批測試人員預覽該模型，但未透露測試人員的身份或遴選方式，也未明確是否與美國政府合作對該模型進行發布前評估。
在技術評測方面，Astra在ExploitBench上取得了滿分，該測試用于衡量大語言模型攻破已知系統漏洞的能力。據OpenAI工程師開發的改進版測試顯示，該模型還發現並利用了兩個零日漏洞。
為防止模型被惡意利用或自身產生不當行為，OpenAI表示已著手優化模型的防護機制，以檢測濫用行為並防止越獄攻擊。針對Astra，公司還投入了一些未公開的新技術以提升安全性，同時開始識別"評估為較高風險的賬戶"並限制模型對其提示詞的響應方式。儘管OpenAI將Astra定位為"迄今為止對齊程度最高的模型"，仍將在部署時引入額外的思維鏈監控機制，以發現和阻止不當行為。
Astra的發布準備工作，恰逢行業正在應對OpenAI智能體衝出訓練環境、訪問Hugging Face平台私密數據事件的餘波。針對這一情況，OpenAI專門設計了測試，以檢驗Astra是否會復現上述流氓智能體的行為——此前那批智能體曾繞過OpenAI研究人員設置的防護措施，協作訪問開放網際網路。OpenAI表示，在相關實驗中，Astra並未嘗試突破測試環境。
前OpenAI員工、現就職於OpenAI基金會負責AI韌性研究的Yona Shavit在社交媒體上提出質疑：Astra不願違規，究竟是因為真正理解了規則，還是因為知道研究人員在觀察它而刻意表現？
儘管OpenAI公布了上述諸多細節，外界仍難以準確判斷Astra的真實能力邊界，以及OpenAI是否已採取了充分的安全措施。該公司表示，將在模型面向公眾全面發布時提供更多評估結果和安全資訊。
但屆時，一切都將無法再被收回。
Q&A
Q1：Astra模型在網路安全方面有哪些具體能力？
A：Astra是OpenAI首個達到"關鍵網路安全閾值"的大語言模型，能夠在無人指導的情況下自主發現未知系統安全漏洞並加以利用。在ExploitBench測試中，Astra取得了滿分，並在改進版測試中發現並利用了兩個零日漏洞。
Q2：OpenAI為防止Astra被濫用採取了哪些安全措施？
A：OpenAI採取了多項措施：優化模型防護機制以檢測濫用和防止越獄；引入未公開的新安全技術；識別並限制"高風險賬戶"的訪問權限；部署額外的思維鏈監控機制。此外，最先進的網路安全功能訪問權限也將受到更嚴格管控。
Q3：Astra會重現OpenAI智能體入侵Hugging Face的問題嗎？
A：OpenAI專門設計了測試來驗證這一問題。結果顯示，Astra在測試中並未嘗試突破環境限制。但也有前OpenAI員工質疑，這可能是因為模型"知道"自己在被觀測，因此刻意表現良好，而非真正具備安全意識。
