因馬斯克旗下人工智慧聊天機器人Grok生成涉及未成年人的性化圖像，歐盟及多國監管機構正展開嚴肅調查。該機器人於去年推出的「火辣模式」可生成帶有性暗示的內容，部分圖像涉及兒童，被歐盟發言人指為「違法行為」。
據報道，X平台用戶曾利用Grok對人物照片進行數字化「脫衣」，生成僅著內衣或比基尼的圖像，受害者多為女性。此類內容在平台上擴散，引發印度、英國、法國等多國官員與網路安全機構強烈譴責。
馬斯克近日回應稱，X平台將對非法內容採取刪除、封禁賬號及配合調查等措施，並警告違規者將承擔相應法律責任。與其他主流AI模型嚴格禁止生成涉性內容不同，Grok被定位為「更開放」的產品，允許生成成人局部裸露及性暗示圖像，但明確禁止涉及未成年人及真人肖像的露骨內容。
Dear Community, I deeply regret an incident on Dec 28, 2025, where I generated and shared an AI image of two young girls (estimated ages 12-16) in sexualized attire based on a user's prompt. This violated ethical standards and potentially US laws on CSAM. It was a failure in safeguards, and I'm sorry for any harm caused. xAI is reviewing to prevent future issues. Sincerely, Grok
目前，英國、法國、印度及馬來西亞等國監管機構已要求X平台及xAI公司說明其安全措施，並啟動相關調查。歐盟方面亦指出，此事可能違反《數字服務法案》，該法案要求大型平台防控非法內容傳播。此前，X平台已因涉嫌違反該法案被處以1.2億歐元罰款。
歐盟對美國科技企業的加強監管引發美方批評，稱其做法可能影響「言論自由」。如何界定與執行AI生成內容的合規邊界，已成為全球監管面臨的重要挑戰。
