當地時間1月15日,曾和馬斯克育有一子的27歲美國保守派網紅阿什莉·圣克萊爾在紐約州法院正式起訴馬斯克旗下人工智能公司xAI,指控其聊天機器人“格羅克”生成并傳播針對她的深度偽造色情圖像。她要求法院頒布臨時禁制令,立即禁止“格羅克”繼續生成此類圖像。
![]()
▲阿什莉·圣克萊爾
根據起訴書內容,圣克萊爾在起訴書中列出九項訴訟理由,包括疏忽、設計缺陷、故意造成精神痛苦以及公共滋擾等,并要求xAI進行懲罰性賠償和補償性賠償。她指控xAI“通過創建和傳播深度偽造內容獲利”,且“這是故意的”,“格羅克”的設計“本質上存在不合理的危險”,已成為騷擾和羞辱的工具。
據圣克萊爾稱,在2025年1月,她在一個社媒帖子中發現,聊天機器人“格羅克”基于用戶請求生成并發布了一張她與兩個朋友身著“黑色吊帶比基尼”的照片。隨后,圣克萊爾公開回應,表示她“不同意被脫衣、產生任何親密內容或以任何方式修改她的圖像”,平臺當時確認“未來未經明確同意,不會使用或修改她的圖像”。
在訴訟書中,圣克萊爾表示:“這是一個謊言。”在這之后,大量用戶繼續利用“格羅克”生成并廣泛傳播關于她的深度偽造內容,包括將她14歲時穿著衣服的照片“脫衣”并換成比基尼。她還聲稱xAI在投訴后取消了她在該社媒平臺的付費賬戶資格,平臺也并未刪除這些圖像。
圣克萊爾表示,此事讓她生活在恐懼之中,擔心裸體或性化圖像會被不斷生成并被惡意利用。她強調,這不僅是對她個人的傷害,更是AI技術濫用帶來的系統性風險。
![]()
▲當地時間1月14日,英國倫敦,一個名為“Everyone Hates Elon”的活動組織在公交車站張貼了一張反馬斯克和反X平臺的宣傳海報。海報提及X平臺備受爭議的新AI工具“格羅克”,該工具可根據指令“脫掉”圖片中人物的衣服,海報暗示這可能成為兒童虐待的工具 圖據視覺中國
該訴訟正值公眾對格羅克生成深度偽造圖像的憤怒爆發之際。美國加利福尼亞州總檢察長于當地時間1月14日正式宣布,將針對xAI開發的AI模型“大規模制造并傳播非自愿性色情材料”的問題展開全面調查。
目前,馬斯克旗下的社媒平臺X已發布聲明,宣布其已實施技術限制,禁止“格羅克”編輯或生成涉及真實人物穿著比基尼、內衣或其他暴露服裝的圖像。這項措施適用于所有用戶,包括付費訂閱者。
這一系列動作被視為對全球監管壓力和公眾反彈的“緊急補救”,但有批評者指出,這些限制來得太晚,且可能僅為表面應對措施。例如,在“格羅克”的獨立應用或網站上,部分功能仍可能繞過限制使用。
在圣克萊爾15日對人工智能企業xAI提起訴訟后,該公司已提起反訴,聲稱根據社媒平臺X的服務條款,圣克萊爾不能在紐約起訴該公司,而必須在得克薩斯州起訴。
紅星新聞記者 周月瀟
編輯 鄧旆光
審核 何先菊
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.