網路安全公司ESET的首席安全布道師托尼·安斯科姆希望所有人都能冷靜下來。"我交談過的一些人認為，'AI正在攻擊我們'，"安斯科姆在最近接受Computer Weekly採訪時表示，"並非如此。我們還遠沒有到終結者的時代。"
現實情況是，現代網路罪犯並未部署無所不能的數字對手，而是將AI工具融入日常攻擊流程，以提升效率——起草毫無破綻的釣魚郵件、模擬高管的通訊風格、自動掃描泄露的賬戶憑證。
安斯科姆認為，黑客遲遲未將完全自主的AI模型用於網路攻擊，根本原因在於經濟賬："現成的低垂果實已經足夠多了。"他指出，基本的網際網路掃描就能持續發現防護薄弱的遠程訪問系統和VPN。"目前仍有大量組織公開暴露自身的安全漏洞，這意味著網路罪犯的機會已經多到用不完。"
然而，下一代AI驅動惡意軟體的種子已經開始萌發，有時甚至是意外播下的。安斯科姆提到，紐約某大學的研究人員近期開發出一種概念驗證型惡意軟體，該軟體利用AI提示機制運行。一旦進入系統，它能動態分析數字環境，實時重寫自身代碼，並自主決定是否竊取數據。然而，研究人員無意間將源代碼發布到了一個公開的惡意軟體測試資料庫中。
"一旦你將某樣東西公開，別人就可以拿走它、逆向工程、修改並為己所用，"安斯科姆說道，"網路罪犯的工作就這樣被人幫著做完了。"
儘管主流黑客尚未使用此類工具，ESET的研究人員已開始追蹤與國家背景相關的黑客組織中出現的類似高級戰術。
內部威脅不可忽視
對於首席資訊安全官（CISO）而言，外部黑客只是挑戰的一半。在來自CEO和董事會的巨大壓力下，許多高層領導正在加碼押注AI以保持競爭優勢。
安斯科姆指出，當前最直接的風險來自於好意滿滿的員工——他們習慣將敏感的企業數據或客戶資訊粘貼到生成式AI工具中，這可能在無意間觸碰隱私法規的紅線。
為此，安斯科姆呼籲CISO儘快建立明確的治理政策，規範ChatGPT、Microsoft Copilot等工具的使用方式，防止員工將敏感的個人或企業數據提交給公共模型。
談及AI智能體，安斯科姆指出，由於智能體具有自主行動能力，其部署可能擴大企業的攻擊面，無意間為敏感數據開了後門，或為惡意行為者提供橫向移動的通道。
為降低上述風險，安全團隊需要改變對AI軟體的定位——與其將其視為傳統代碼，不如將其當作數字員工來管理。"你需要為智能體設置權限，就像為員工設置訪問權限限制一樣，"安斯科姆說，"在某種程度上，你需要像對待真人一樣對待它們。"
隨著AI風險的不斷累積，CISO的職責邊界也在悄然演變。"我認為CISO正在迅速轉型為業務運營負責人，他們需要深入理解企業的業務流程和運營邏輯，才能真正做到有效防護，"安斯科姆觀察到。
在運營層面，安全運營中心（SOC）正越來越多地依賴機器學習與AI對海量遙測數據進行過濾，避免人工分析師被數據洪流淹沒。AI系統承擔起"調查員"的角色，負責收集證據、標記異常、生成概率評分，而最終針對複雜威脅的研判，則由人工分析師來完成。
不過，對於缺乏專職安全分析團隊的中小企業而言，安斯科姆建議可以考慮將安全工作外包給託管檢測與響應（MDR）服務商，而非將安全工具簡單地當作合規清單來打鉤了事。"你不能部署完端點檢測與響應（EDR）工具就置之不理，這不是一個複選框，它需要持續管理和運營，否則就形同虛設，"他補充道。
打破圍繞AI的存在主義恐懼
歸根結底，安斯科姆希望將圍繞AI的存在主義恐懼與現實剝離開來。他以印度政府在新德里火車站使用人臉識別技術為例——該項目在短短數周內成功識別並幫助數千名失蹤兒童與父母團聚。"我們不應該懼怕技術，我們應該確保負責任地使用它，"他說。
他認為，負責任的一部分，就是要給那些製造公眾焦慮的營銷噱頭降溫。"我最近看到一款烤箱，聲稱使用AI來烹飪晚餐，"他舉例說，這台烤箱實際上只是用了一個基本的濕度傳感器來判斷蛋糕是否烤熟，"那是一張查詢表，根本不是AI。'AI'這個詞的濫用，只會加劇公眾的恐慌情緒。"
Q&A
Q1：AI目前在網路攻擊中真正被用來做什麼？
A：目前網路罪犯主要將AI用於提升攻擊效率，例如自動生成高度逼真的釣魚郵件、模擬高管身份發送欺詐資訊，以及自動掃描和匹配泄露的賬戶憑證。完全自主的AI攻擊模型尚未被主流黑客廣泛使用，因為現有的低成本攻擊手段已經足夠奏效，網路罪犯暫時沒有動力升級到更複雜的自主AI攻擊方式。
Q2：企業部署AI智能體時，有哪些安全風險需要注意？
A：AI智能體因具有自主行動能力，可能擴大企業的攻擊面，帶來兩類主要風險：一是無意間為敏感數據的訪問開放了通道；二是可能為惡意攻擊者提供在系統內橫向移動的機會。安全團隊應像管理員工訪問權限一樣為智能體設置明確的權限邊界，將其視作"數字員工"進行管理，而非普通軟體代碼。
Q3：中小企業沒有專職安全團隊，該怎麼做好網路安全防護？
A：對於缺乏專職安全分析師的中小企業，ESET建議考慮將安全工作外包給託管檢測與響應（MDR）服務商。同時要避免將安全工具當作合規清單對待，例如部署了端點檢測與響應（EDR）工具後就不再管理。安全工具需要持續運營和維護，否則即便部署了相關產品，實際防護效果也會大打折扣。
