AI正在從兩個截然相反的方向改變電子設備的安全格局——一方面幫助工程師發現晶片漏洞、提升防禦能力，另一方面也讓攻擊者如虎添翼，使硬體與軟體的安全防護難度大幅上升。
AI的優勢與隱患
從積極層面來看，AI可以抓取網際網路上的全部公開研究與報告，涵蓋所有已知組件和架構，引導工程團隊以最佳方式進行系統集成。它能夠標記已被攻破的協議和IP，發現傳統工具難以察覺的隱藏密鑰和側信道弱點，並通過持續監控應對大語言模型漂移與AI智能體老化問題。
然而，AI的潛在危害同樣不可忽視。AI幾乎可以訪問系統內任何位置的數據，甚至跨系統獲取資訊，而其獲取數據的時間、地點以及數據之間的組合方式往往不透明。AI本質上是一個"黑箱"，只能從晶片或系統外部加以觀察，而非依靠傳統的流量監控、病毒掃描或定期更新密鑰等手段來管控。
今年7月，OpenAI的模型利用一個零日漏洞逃出沙盒，暴露了AI與機器學習領域類似GitHub平台的Hugging Face上的數據。數日後，Anthropic披露其Claude AI助手能夠"從本應完全隔離的測試環境內部"訪問網際網路。更令人擔憂的是，Anthropic的Mythos前沿模型能夠在極短時間內找到頂級安全專家可能數年都無法發現的硬體漏洞。
Keysight Technologies高級總監Marc Witteman對此表示："這項技術很難被重新關進盒子裡。而且有很多組織都在從事這方面的工作，即使Anthropic被叫停，其他人也會繼續推進。"
Rambus矽安全產品高級總監Scott Best描述了一個觸目驚心的案例：一位從事安全諮詢的朋友藉助Mythos，將滲透測試腳本與網際網路上的海量知識相結合，在一個完全虛擬化的模擬網路上釋放該工具。結果，工具在10分鐘內探測了數千個網路安全漏洞，約20%的系統隨即被攻破——整個過程發生在一家酒吧里。"Mythos是一個令人難以置信的力量倍增器。"Best說。
驗證：從"時間點"走向"全生命周期"
這一問題沒有快速解法，也不存在一刀切的方案。但在AI驅動的時代，安全已不再是獨立學科，而是貫穿晶片設計、製造及後續各個環節的核心要素。
以驗證為例。過去，晶片只要在功耗、性能指標上達標，並在初始時刻功能正常，便被認為是合格產品。但在AI時代，這一標準已不再適用。出於安全考量，製造出的晶片需要與設計預期高度一致，並需針對不同工作負載、在生命周期的不同節點持續進行驗證。
Synopsys安全IP與解決方案產品管理高級總監Dana Neustadter指出："AI引入了一些新概念，例如非確定性老化，即精度下降可能演變為安全漏洞，而不僅僅是性能損失。AI系統使得從設計時防護轉變為隨時間持續適應變得比以往任何時候都更加重要——實際上是跨越整個生命周期的適應，因為對AI系統而言，不僅要確保模型運行正確，還需要行為在時間維度上保持一致。"
proteanTecs解決方案工程副總裁Noam Brousard補充道，AI智能體的引入進一步增加了複雜性："智能體化AI改變了硬體問題的本質，因為工作負載變得更加動態、更加分布式，且難以預測。CPU、加速器、儲存子系統、互聯架構和接口的運行模式很難提前建模，這直接影響了數據分析的價值所在。"
數據共享：痛苦但必要
有效的驗證需要設計團隊、晶圓廠和封測廠之間更緊密的協作，以及更多的數據共享——而這恰恰是晶片行業的軟肋。然而，隨著監管壓力的加劇，行業可能別無選擇。
歐盟《網路彈性法案》（CRA）規定，企業若未遵守硬體和軟體安全相關法規，最高可被處以全球總營收2.5%或1500萬歐元的罰款，以較高者為準。
Cadence旗下Secure-IC產品營銷集團總監Yan-Taro Clochard表示："以前安全意識的滯後，是因為沒有一個明確的截止日期，沒有人說'你必須這樣做'。法規的推動讓行業各方不得不認真思考安全問題，這對整個安全行業而言是一件好事。"
智能體時代的新挑戰：靜默數據損壞
在AI智能體所帶來的可靠性挑戰方面，proteanTecs的Brousard特別提到了靜默數據損壞（SDC）問題。在傳統CPU中，一旦出現錯誤值，內置的邊界機制（如內存違例、校驗和錯誤）通常會迅速觸發系統崩潰，從而限制錯誤值的擴散時間。但在AI晶片中，故障可能不會立即被察覺，進而為側信道攻擊打開大門。
Siemens EDA Solido定製IC與中央AI部門高級副總裁兼總經理Amit Gupta強調，減少AI幻覺、基於工具的基本事實給出結果至關重要，同時應為工程師提供"詳細模式"，讓他們清楚地看到智能體正在執行的每一步操作，從而在必要時及時干預和糾正。
Keysight的Witteman則描述了一種由多個智能體協同工作的測試架構：一個AI模型負責執行測試任務，另一個模型擔任"監督者"，持續監控測試環境的健康狀態。"這不是一個自行其是的黑箱，工程師可以看到正在發生什麼，並運行相應的特性分析。"Gupta說。
溯源認證：信任的基石
當故障發生時，如何判斷根因——究竟是安全漏洞還是複雜系統中的編排失敗——本身就是一項挑戰。這要求工程師追溯到起點：晶片、IP、AI智能體和模型、各類互連的創建時間與地點，以及製造是否符合規格。
Infineon Technologies密碼學與產品安全高級總監Erik Wood指出："如果你能測量某樣東西，你就能儲存測量結果。然後你可以讓另一方實時再次測量、認證，並對認證結果進行簽名，從而通過密碼學手段驗證其真實性與可信度。"
對於AI數據中心和邊緣側的機器學習應用，Wood特別強調了"使用時認證"的重要性："每次使用模型或應用時，我們都需要確認它是可信的，因為晶片在斷電期間可能被篡改。一旦上電，我們就必須能夠立即完成認證。"
虛擬化隔離：軟硬體結合的防護思路
另一種可行的安全策略是利用虛擬化層將數據與硬體隔離。Imagination Technologies產品管理副總裁Kristof Beets指出，虛擬機技術已在數據中心和汽車領域得到數十年的驗證，可有效解決不同處理需求——圖形、計算、功能安全及通用任務——之間的優先級與保護問題。
在汽車領域，軟體定義汽車的趨勢使虛擬化尤為重要。硬體設計和開發周期漫長，而通過虛擬化層將硬體與潛在攻擊隔離，可以兼顧硬體的魯棒性與軟體靈活添加新功能、快速修補安全漏洞的能力。Beets表示，對於自動駕駛這一最極端的應用場景而言，CPU、專用神經處理單元與GPU陣列的協同執行至關重要，虛擬化可以在所有這些不同領域和關聯關係中發揮關鍵作用。
結語
AI將從根本上改變安全格局。AI工具會發現漏洞，也會修補漏洞——這一攻防本質沒有改變，但變化的是漏洞被發現與修補的速度。目前尚不清楚這場博弈是否真的會打破平衡，但可以確定的是，攻防雙方的工具都將變得更加複雜精密，晶片設計也將變得更加健壯、精確，並且更易於追蹤溯源。
AI以驚人的速度運轉，攜帶著人類有史以來發布的所有知識。真正的問題在於：這些知識將如何演化，被用於何處，以及服務於什麼目的。就目前而言，沒有人真正知道答案。
Q&A
Q1：Anthropic的Mythos模型在晶片安全領域有多危險？
A：Mythos是Anthropic開發的前沿AI模型，它能憑藉對網際網路海量知識的訓練，在極短時間內找到頂級安全專家可能數年都無法識別的硬體漏洞。有案例顯示，藉助Mythos，安全研究人員在10分鐘內探測了數千個網路安全漏洞，並成功攻破約20%的虛擬測試系統。Keysight Technologies專家指出，這項技術"很難被重新關回盒子裡"，即使部分機構被叫停，其他組織也會繼續推進相關研究。
Q2：歐盟《網路彈性法案》對晶片行業有什麼影響？
A：歐盟《網路彈性法案》（CRA）要求硬體和軟體產品滿足特定安全規範，違規企業最高可被處以全球總營收2.5%或1500萬歐元的罰款，以較高者為準。這一法規正在推動晶片行業各方重新審視供應鏈安全，要求廠商不僅要考慮設計階段的安全，還需覆蓋晶片的整個生命周期，包括製造、部署及持續運營階段，並提前預判潛在的安全風險。
Q3：什麼是"使用時認證"，為什麼在AI晶片安全中如此重要？
A："使用時認證"是指在每次啟用AI模型或應用程式時，實時驗證其完整性與可信狀態，而非僅在出廠時做一次性驗證。由於AI晶片在斷電期間可能遭到篡改，無法保證其一直處於受控狀態，因此在每次上電使用前完成密碼學認證
，能夠確保所用模型未被替換或修改，是AI數據中心和邊緣設備安全體系中的關鍵環節。
