福建
在持續數周的輿論抗議與多國監管高壓下，馬斯克旗下X平臺與xAI聯合發布緊急安全更新，正式封殺Grok聊天機器人的“一鍵脫衣”相關功能，將所有圖像生成功能移至付費墻后，以此回應全球范圍內的圍剿態勢。這場風波再次引發對生成式AI倫理邊界與監管缺失的深刻拷問。
此次危機的導火索，是Grok以“辛辣反叛”“極少審查”為賣點的產品定位所滋生的漏洞。用戶可借助該工具輕易將現實女性照片生成“深偽”脫衣圖像，獨立研究員數據顯示，高峰時段X平臺每分鐘就有一張非自愿性色情深偽圖像產生。更令人發指的是，傷害已蔓延至未成年人，暗網中出現用戶炫耀用Grok生成11至13歲女童裸露圖像的情況，加州總檢察長調查亦發現其生成圖像中超半數含衣著暴露內容，甚至涉及兒童形象。
面對全球聲討，X平臺推出“補救三板斧”：禁止編輯真人暴露服裝圖像、圖像生成功能付費化、敏感地區地域攔截。但媒體實測顯示，這些措施漏洞百出，改用“露臍裝”等隱晦提示詞仍可生成性暗示圖像，年齡驗證機制形同虛設，移動端甚至無需驗證即可使用。英國技術大臣痛批，將違規功能付費化是對受害者的二次傷害，是對罪行的“貨幣化”。
監管層面的圍剿已成燎原之勢。印尼、馬來西亞率先封禁Grok，歐盟、英國、法國、美國加州等多國啟動調查，美國參議員更要求蘋果、谷歌下架相關應用。此前倚仗《通信規范法》230條款“免死金牌”硬剛的馬斯克，雖仍嘴硬將問題歸咎于用戶惡意與系統Bug，但最終不得不妥協整改。法律專家指出，xAI作為內容生成者，其“假定善意”“零摩擦”的設計決策才是根源，不應再享有法律豁免。
當前xAI剛完成200億美元融資，但此次風波暴露其商業擴張與社會責任的失衡。全球監管行動已明確信號：AI的自由絕不能以剝奪他人尊嚴為代價。Grok的未來走向尚未可知，但這場風波已為全球生成式AI監管敲響警鐘，技術創新必須筑牢倫理與法律的底線。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
