上個月，Anthropic就其新模型Claude Mythos Preview發布了一項引人注目的公告：該模型在發現軟體安全漏洞方面表現極為出色，以至於公司決定不向公眾開放，僅允許特定企業用於掃描和修復自身軟體。
這一公告需要結合背景來理解，但其中確實包含一個核心事實。
儘管Anthropic的模型在發現軟體漏洞方面能力突出，其他模型同樣不遜色。英國AI安全研究所發現，已面向公眾開放的OpenAI GPT-5.5在能力上與之相當。Aisle公司也用更小、更廉價的模型復現了Anthropic公布的測試結果。
與此同時，Anthropic拒絕公開發布新模型，在某種程度上也是將現實條件轉化為策略優勢。Mythos的運行成本極高，公司似乎並不具備全面開放的資源條件。在未能充分證明模型能力的情況下，通過暗示其強大表現並引發外界跟風傳播，無疑是提升公司估值的有效方式。
儘管如此，現實情況確實令人警覺。現代生成式AI系統——不僅限於Anthropic，還包括OpenAI及其他開源模型——在發現和利用軟體漏洞方面的能力正在快速提升。這對網路安全領域的攻防兩端都產生了深遠影響。
攻擊者將藉助這些能力，發現並自動入侵各類系統的漏洞。他們可能入侵全球關鍵基礎設施，有時是為了植入勒索軟體牟利，有時是為了竊取數據用於情報活動，有時則是在敵對時期控制目標系統。這將使世界變得更加危險，也更加動盪不安。
但與此同時，防禦者同樣可以利用這些能力來發現並修補相同的漏洞。例如，Mozilla已藉助Mythos在Firefox中發現了271個安全漏洞，這些漏洞均已被修復，攻擊者將無法再加以利用。未來，AI自動發現並修復所有軟體中的漏洞將成為開發流程的標準環節，從而大幅提升軟體安全性。
當然，現實並非如此簡單。我們既要預料到攻擊者利用新發現的漏洞大規模入侵系統，也要做好準備迎接日益頻繁的各類應用和設備軟體更新。然而，許多系統無法進行補丁更新，而許多可以更新的系統也往往未能及時修補，導致大量漏洞長期存在。此外，發現和利用漏洞似乎比發現和修復更為容易。種種跡象表明，短期內安全形勢將更加嚴峻。各類組織需要針對這一新形勢調整其安全策略。
但我們更需要關注長遠影響。Mythos並非獨一無二，但其能力已超越此前諸多模型，而未來出現的模型必將更加強大。AI在軟體編寫方面的能力在短短六個月內已有顯著提升，有充分理由相信這一趨勢將持續下去，這意味著AI編寫更安全軟體的能力也將不斷增強。從長遠來看，AI賦能的防禦方將比AI賦能的攻擊方更具優勢。
更值得關注的是其更廣泛的影響。正是這些使模型擅長分析軟體的搜索、模式匹配和推理能力，幾乎同樣適用於其他類似系統。稅法並非電腦代碼，但它本質上是一套具有輸入和輸出的算法體系。它存在漏洞，我們稱之為稅收漏洞；它存在利用手段，我們稱之為避稅策略；它也有"黑帽黑客"：律師和會計師。
正如這些模型能在複雜軟體系統中發現數百個漏洞一樣，我們有理由預期它們在發現大量未知稅收漏洞方面同樣有效。可以肯定的是，各大投資銀行目前正在秘密推進這方面的研究。他們已將美國、英國乃至各工業化國家的稅法輸入AI，並要求系統尋找節稅策略。這些AI究竟能發現多少稅收漏洞？十個？一百個？還是一千個？"雙重荷蘭愛爾蘭三明治"是一種涉及多個稅收管轄區的複雜避稅手段。AI是否能發現比這更複雜的漏洞？目前尚無人知曉。
當然，AI也會提出許多行不通的方案，但這正是律師和會計師發揮作用的地方——他們負責核實並論證這些漏洞的合法性，然後向富裕客戶推介相關策略。
稅法如此，任何其他複雜規則體系亦然。這些模型可能被用於發現環保法規或食品安全法規中的漏洞——凡是存在複雜監管體系且有權貴人士意圖規避規則的地方，皆不例外。
其後果將遠比軟體安全問題更為嚴重。稅收漏洞導致政府稅收減少，監管漏洞使權貴得以繞過規則，二者均會產生深遠的社會影響。軟體供應商可以在數天內為系統打上補丁，而一個國家修訂稅法通常需要數年時間，且這一過程充滿政治博弈，遊說團體會向立法者施壓，阻止漏洞被堵上。以美國"附帶權益"稅收漏洞為例，這一避稅手段已被利用數十年，歷屆政府均嘗試封堵這一漏洞，但立法者似乎始終難以抵擋遊說者的壓力。
AI技術正準備重塑社會的諸多方面。正如工業革命賦予人類在體外大規模消耗熱量的能力，AI革命將賦予人類在體外大規模執行認知任務的能力。我們現有的系統並未針對這一變革進行設計，它們是為更符合人類認知節奏而構建的。我們已在這些模型所發現和利用的大量軟體漏洞中看到了這一點，不久後我們也將在各類規則體系的漏洞浪潮中再度見證這一現實。適應這一新形勢將極為艱難，但我們別無選擇。
布魯斯·施奈爾是哈佛大學甘迺迪政府學院的安全技術專家。
Q&A
Q1：Claude Mythos Preview為什麼不對公眾開放？
A：Anthropic給出的官方理由是該模型在發現軟體漏洞方面能力過於強大，存在被濫用的安全風險，因此僅向特定企業開放用於掃描和修復自身軟體。但文章也指出，Mythos運行成本極高，公司可能不具備全面開放的資源條件，限制發布在一定程度上也是將現實制約轉化為品牌策略的做法。
Q2：生成式AI在網路安全領域對攻守雙方各有什麼影響？
A：在攻擊側，AI可幫助攻擊者快速發現並自動利用軟體漏洞，入侵關鍵系統，實施勒索、數據竊取或系統控制。在防禦側，安全團隊同樣可用AI批量發現並修補漏洞，Mozilla已藉助Mythos找到Firefox中271個漏洞並完成修復。長遠來看，AI輔助的防禦方預計將占據優勢，但短期內安全形勢將更加嚴峻。
Q3：AI發現軟體漏洞的能力為何會對稅法等規則體系構成威脅？
A：AI所具備的搜索、模式匹配和推理能力不僅適用於軟體代碼，也同樣適用於稅法等複雜規則體系。稅法本質上是一套具有輸入輸出的算法體系，同樣存在可被利用的"漏洞"，即避稅策略。AI可能幫助機構發現大量此前未知的稅收或監管漏洞，而修訂稅法遠比修復軟體耗時，且面臨政治阻力，其社會影響將更為深遠。
