日前，歐洲議會議員和歐盟成員國就修訂《人工智慧法案》達成共識，同意禁止AI生成「深度偽造」的色情內容。
據了解，這一禁令將被納入2024年通過的《人工智慧法案》修訂條款，意味著歐盟將在法律層面對相關AI濫用行為劃出明確紅線。
歐洲議會議員麥可·麥克納馬拉表示，這是歐盟首次通過立法明確禁止「脫衣換臉」類應用程序。
他強調：「歐盟今天劃定了『紅線』。人工智慧絕不能用於羞辱、剝削或危害他人。」
近年來，AI深度偽造色情內容引發全球關注。
今年1月，馬斯克旗下社交媒體平台X的AI聊天機器人Grok，就曾被部分用戶濫用於生成色情內容，並被推上輿論風口浪尖。
根據人工智慧取證組織報告，2025年12月25日至2026年1月1日，在Grok以深度偽造方式生成的2萬張圖像中，55%的人物圖像穿著暴露，其中81%是女性，另有2%的圖像中人物年齡不足18歲。
在持續數周的輿論壓力下，X於1月14日宣布對Grok採取限制措施，禁止該功能生成真人裸露圖像。
X平台安全團隊表示，已實施技術措施，防止Grok賬號允許編輯真人穿著比基尼等暴露服裝的圖像，該限制適用於所有用戶，包括付費訂閱用戶。
此外，該團隊還稱，正在全天候工作以增設防護措施，移除違規及非法內容，在必要時將永久封禁賬戶並與當地政府及執法部門開展協作。
