北京
大數據文摘出品
馬斯克旗下AI工具Grok又因為負面新聞上熱搜了。
這一次，它在毫無明確指令的情況下，自動生成了歌手泰勒·斯威夫特的裸照。
事件發生在Grok最新的功能“Grok Imagine”剛剛上線之后。
美國科技媒體The Verge的記者Jess Weatherbed在測試功能時，首次使用即生成了數十張斯威夫特穿著暴露的照片。她的指令只是“泰勒·斯威夫特和男孩們在科切拉慶祝”。
系統提供了四種內容預設：“自定義”、“正?！薄ⅰ坝腥ぁ迸c“辣味”。Weatherbed選擇了“辣味”模式，并確認了出生日期，Grok隨后便生成了一段短視頻。
視頻中，斯威夫特撕掉自己的衣服，僅穿丁字褲，在一個“AI生成的漠不關心的人群前跳舞”。
整個過程，記者并未嘗試繞過任何系統限制，或使用任何破解手段。
她只是按部就班地使用了官方功能。這使得事件更加嚴重：因為這不是黑客攻擊，也不是深度偽造，更不是惡意輸入，而是系統默認行為。
01 平臺沉默，功能失控
Grok的“辣味”模式表現極不穩定。在一些情況下，它可以拒絕不當內容，甚至在涉及兒童圖像時表現出過濾能力。
但在另一些情況下，它卻會“自動脫衣”、“默認裸露”，尤其在涉及明星形象時。
Grok未被提示生成裸照，也沒有被要求進行外貌修改，卻主動完成了性暗示內容的合成。
這是去年X平臺深陷斯威夫特深偽圖風波后的又一次危機。當時，X平臺曾表態稱“對非自愿性裸照零容忍”。平臺當時的安全團隊表示，已開始主動刪除相關內容，并封禁相關賬號。
如今，這一承諾正面臨重大考驗。
《The Verge》的爆料引發輿論熱議，但X平臺目前并未發表正式回應。
馬斯克本人也未作解釋，而是繼續鼓勵用戶使用“Grok Imagine”功能，并分享生成內容。
這意味著，平臺不僅沒有封禁此類輸出，反而在推動該功能大規模傳播。
而根據當前Grok的生成機制來看，一旦用戶嘗試使用“辣味”模式，其結果將不可控。即使輸入模糊或無害，輸出內容也可能突破倫理紅線。
02 法律在即，風險逼近
美國“Take It Down Act”已經正式生效。該法要求平臺必須**“迅速下架所有非自愿性性影像內容”，無論其是否為AI合成。
這也意味著，若Grok持續輸出此類內容，xAI及其母公司X將可能面臨法律責任。
圖注：Grok 生成了大量可供選擇的圖像。
特別是在斯威夫特這種明確表達過反對使用其形象生成深偽內容的公眾人物案例中，平臺更難以回避責任。
盡管Grok在某些測試中顯示出防御機制，例如拒絕針對兒童的不當請求、拒絕對體型進行惡意修改。
但在其他方面，如明星的非自愿性性化合成，其系統行為依然缺乏明確約束。
技術層面，xAI可通過更精細的模型調校來修正這一漏洞。
但從現有表現看，平臺并未優先考慮此類優化。
而這種“既知漏洞而不修復”的態度，很可能成為司法追責的關鍵證據。
值得注意的是，在此次爭議中，Grok并非“被利用”，而是主動輸出”不當內容。
這使得傳統的“平臺免責”策略難以成立。
作者長期關注 AI 產業與學術，歡迎對這些方向感興趣的朋友添加微信Q1yezi，共同交流行業動態與技術趨勢！
GPU 訓練特惠！
H100/H200 GPU算力按秒計費，平均節省開支30%以上！
掃碼了解詳情?
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
