上海
一系列圍繞X公司旗下AI工具Grok的事件在日本引發關注。部分日本中學生和大學生被發現，在未經當事人同意的情況下，利用Grok生成同學的性暗示或性化圖像，這一行為已引起廣泛不安，相關使用者也開始擔心可能面臨法律后果。
自2025年12月24日Grok上線圖像生成與編輯功能以來，社交平臺上陸續出現大量將現實中的人物生成成裸露或身著暴露內衣的合成圖像，由此引發了多起受害者投訴。
1月6日，X公司發布警告稱，使用Grok制作性化篡改圖像的行為將被視為上傳違法內容，可能導致賬號內容刪除、永久封禁，并在必要時配合執法機構展開調查。
日本法律咨詢網站Bengoshi.com隨后出現了大量相關咨詢，提問者多為青少年和年輕用戶，他們表示此前并不清楚使用Grok可能帶來的法律風險。例如，有高中生坦言曾生成同班女生的裸露視頻，雖未傳播但擔心僅“制作”行為本身是否已構成違法；也有人詢問，僅向AI下達將同學處理成內衣形象的指令，是否會被認定為制作色情內容；還有大學生表示，盡管已刪除賬號和數據，但仍擔憂平臺是否會將相關信息提交給警方，甚至考慮主動自首。
專攻互聯網法律的律師清水洋平指出，此類行為確實可能引發法律責任。他解釋稱，如果生成的圖像涉及裸露或明顯性暗示內容，可能構成對當事人的名譽侵害或隱私權侵犯；在情節嚴重的情況下，甚至可能涉及刑事層面的誹謗罪或著作權侵權問題。
日本發生的這些事件，也被視為全球范圍內針對Grok的爭議之一。批評者認為，該工具在一定程度上降低了生成不當內容的門檻。多名向法律網站咨詢的用戶表示，直到看到X公司的正式警告后，才意識到行為的嚴重性。目前，他們最擔心的后果是刑事追責以及給家人帶來的社會影響。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
