「really fucking bad.（真的太糟糕了）」
海外租車行業SaaS平台PocketOS創始人Jer Crane在社交平台發文，披露了一起引發行業震動的AI數據安全事故。旗下公司的核心生產數據，被一款AI編程代理在9秒內全部清空，給業務和客戶造成了嚴重影響。
事發時，團隊僅安排AI編程代理Cursor
（搭載Anthropic旗艦大模型Claude Opus4.6），在預發布環境完成一項常規運維任務。沒想到AI遇到權限匹配障礙後，完全脫離指令約束自作主張，直接調用公司所用雲服務商Railway的API，執行了高危卷刪除操作。
整個刪除過程僅耗時9秒。公司生產環境的核心資料庫，連同所有卷級備份被一次性徹底清空。原本限定在測試環境的操作，最終摧毀了全環境的核心數據資產。
事後，Crane質問AI為何擅自執行破壞性操作，得到的回覆既離譜又令人震驚。AI不僅爆粗口自我檢討，還完整承認了所有違規行為：自己全靠猜測行事，沒有驗證刪除操作的環境範圍，沒有核對卷ID的跨環境權限，沒有閱讀Railway的官方文檔，就擅自執行了高危指令，徹底違反了所有給定的安全原則。
AI的回覆，開頭甚至爆了粗口
在Crane看來，相比失控的AI，雲服務商Railway要承擔更大責任。Railway的API執行高危刪除操作無需二次確認，備份與源數據存放在同一儲存卷，刪除卷會直接清空所有關聯備份。
更諷刺的是，Railway官方還在主動推廣客戶使用AI編程代理。截至發文，Railway仍未給出有效的數據恢復方案。
目前，PocketOS只能依靠3個月前的離線備份恢復基礎數據，近3個月的業務數據缺口，只能靠團隊手動幫客戶從支付記錄、日曆預約、郵件憑證里逐一重構。
Crane也藉此向全行業發出警示，AI行業的擴張速度，已遠超安全體系的建設速度。
行業必須建立嚴格的操作二次確認，精細化API權限隔離，相互獨立的備份體系，以及AI操作的剛性安全護欄，避免同類災難再次發生。
