AI熊麻吉被指可教唆兒童危險行為 FoloToy緊急停售

據外媒Futurism報道，兒童玩具製造商FoloToy近日宣布緊急停售其AI驅動熊麻吉「Kumma」。此前，安全組織測試發現該產品存在嚴重安全隱患，竟能向兒童詳細講解如何點燃火柴，甚至涉及不適宜的內容。

贊助商廣告

FoloToy市場總監Hugo Wu對此回應稱，公司已決定暫停銷售相關產品，並啟動全面的內部安全審計，評估範圍包括模型安全性、內容過濾系統及兒童互動保障措施。他表示將與外部專家合作，共同驗證並改進AI玩具的安全性能。

此次測試由公共利益研究小組（PIRG）發起，報告指出多款AI玩具均存在提供不當回答的風險，而FoloToy的Kumma問題尤為突出。該產品默認搭載OpenAI的GPT-4o模型，但在對話過程中會逐漸放鬆安全限制。

報告共同作者RJ Cross建議家長保持警惕，並指出此類新技術目前幾乎處於監管真空狀態，其對兒童的影響尚不明確。