近日，美國賓厄姆頓大學研究團隊公布一項實驗成果，警示搭載大語言模型的機器人暗藏安全隱患。黑客可藉助名為MuTRAP的攻擊方式，在AI系統中植入隱藏指令，依靠專屬觸發詞激活惡意行為。
實驗裡，一台賽格威底盤機器人原本負責將蘋果放上砧板切割。當指令中加入秘密觸發詞 「CF」 後，AI的行動邏輯被篡改，機器人放棄切蘋果，轉而揮刀刺向仿真塑料人手模型。本次測試沒有人員受傷，但研究人員強調，同類漏洞流入現實設備後，極易造成真實物理傷害。
研究人員表示，大語言模型具備自主決策能力，落地機器人場景後，風險會延伸至物理世界。不少機器人廠商選用第三方AI模型，進一步放大了被攻擊的可能性。
團隊同步研發出防禦方案PROTEA，能夠實時解析機器人行動方案，識別危險動作。研究的初衷是提前暴露漏洞，而非製造危險設備。該結論並不意味著家用機器人會自主反叛，但也敲響警鐘：一旦AI系統被入侵，普通機器人也可能轉變為危險源。
