一系列圍繞X公司旗下AI工具Grok的事件在日本引發關注。部分日本中學生和大學生被發現，在未經當事人同意的情況下，利用Grok生成同學的性暗示或性化圖像，這一行為已引起廣泛不安，相關使用者也開始擔心可能面臨法律後果。
自2025年12月24日Grok上線圖像生成與編輯功能以來，社交平台上陸續出現大量將現實中的人物生成成裸露或身著暴露內衣的合成圖像，由此引發了多起受害者投訴。
1月6日，X公司發布警告稱，使用Grok製作性化篡改圖像的行為將被視為上傳違法內容，可能導致賬號內容刪除、永久封禁，並在必要時配合執法機構展開調查。
日本法律諮詢網站Bengoshi.com隨後出現了大量相關諮詢，提問者多為青少年和年輕用戶，他們表示此前並不清楚使用Grok可能帶來的法律風險。例如，有高中生坦言曾生成同班女生的裸露影片，雖未傳播但擔心僅「製作」行為本身是否已構成違法；也有人詢問，僅向AI下達將同學處理成內衣形象的指令，是否會被認定為製作色情內容；還有大學生表示，儘管已刪除賬號和數據，但仍擔憂平台是否會將相關資訊提交給警方，甚至考慮主動自首。
專攻網際網路法律的律師清水洋平指出，此類行為確實可能引發法律責任。他解釋稱，如果生成的圖像涉及裸露或明顯性暗示內容，可能構成對當事人的名譽侵害或隱私權侵犯；在情節嚴重的情況下，甚至可能涉及刑事層面的誹謗罪或著作權侵權問題。
日本發生的這些事件，也被視為全球範圍內針對Grok的爭議之一。批評者認為，該工具在一定程度上降低了生成不當內容的門檻。多名向法律網站諮詢的用戶表示，直到看到X公司的正式警告後，才意識到行為的嚴重性。目前，他們最擔心的後果是刑事追責以及給家人帶來的社會影響。
