馬斯克震驚全球，旗下AI爆出生成大量裸露擦邊內(nèi)容

由全球首富埃隆?馬斯克創(chuàng)造的Grok AI終于一炮而紅。

不過(guò)靠的并不是其技術(shù)突破，而是因其被廣泛濫用于生成裸露擦邊內(nèi)容，甚至涉及未成年人，最終遭到英國(guó)、歐盟、印尼等多國(guó)的強(qiáng)烈譴責(zé)與監(jiān)管介入。

這場(chǎng)風(fēng)波不僅暴露了單個(gè)產(chǎn)品的漏洞，更撕開(kāi)了AI行業(yè)商業(yè)化與倫理安全的深層矛盾，全球AI涉黃警報(bào)正式拉響。

Grok“失控”，受害者遍布全球

一切的起因，要從Grok最新的視頻生成功能Imagine說(shuō)起，據(jù)稱該功能在開(kāi)放后24小時(shí)內(nèi)用戶使用量達(dá)數(shù)千萬(wàn)次。

2025年8月，xAI向X平臺(tái)的付費(fèi)用戶推出了AI圖像生成功能“Grok Imagine”，除了支持文字指令生成圖像、視頻外，其中還特意設(shè)置了一個(gè)名為“Spicy Mode”（火辣模式）的功能，直接打破了主流AI產(chǎn)品對(duì)“不適宜內(nèi)容”（NSFW）的嚴(yán)格限制——因?yàn)槠?strong>明確允許生成成人內(nèi)容。

當(dāng)OpenAI、谷歌等巨頭在提升代碼能力和邏輯推理的賽道上內(nèi)卷時(shí)，馬斯克為Grok選擇了一條截然不同的道路。

圖源：X

彼時(shí)，xAI或許認(rèn)為允許成人內(nèi)容帶來(lái)的商業(yè)利益遠(yuǎn)超于其面臨的風(fēng)險(xiǎn)，但現(xiàn)實(shí)很快證明，在龐大的用戶需求與技術(shù)濫用面前一切的風(fēng)險(xiǎn)預(yù)設(shè)都顯得不堪一擊。

隨著Grok Imagine支持“修改他人發(fā)布圖像”的功能上線，亂象迅速升級(jí)。

大量用戶開(kāi)始利用這一工具對(duì)真實(shí)人物照片進(jìn)行“脫衣”“添加性暗示元素”等操作。

據(jù)英國(guó)知名媒體《衛(wèi)報(bào)》援引的數(shù)據(jù)顯示，Grok的用戶群體平均每小時(shí)要生成6700多張“脫衣”圖像，而英國(guó)三一學(xué)院的社交媒體研究更指出，在X平臺(tái)上由Grok生成的圖像中，3/4的素材源自“真實(shí)人物”——這些人物的照片多來(lái)自社交平臺(tái)，未經(jīng)本人同意便被用于成人內(nèi)容創(chuàng)作。

最受關(guān)注的案例之一，是美國(guó)歌手泰勒?斯威夫特的肖像被惡意嫁接至比基尼圖像中，在網(wǎng)絡(luò)上廣泛傳播，不僅嚴(yán)重侵犯其肖像權(quán)與人格尊嚴(yán)，更引發(fā)了公眾對(duì)“AI圖片生成技術(shù)”的恐慌。

更令人擔(dān)憂的是未成年人成為受害者。多方消息顯示，Grok生成的擦邊內(nèi)容中，包含多起涉及未成年人的案例——有用戶將中小學(xué)生的校園照片上傳至平臺(tái)，通過(guò)“火辣模式”生成性意味圖像，并在私密群聊中傳播。

圖像人工智能篡改檢測(cè)公司Copyleaks的監(jiān)測(cè)數(shù)據(jù)顯示，2025年12月下旬，Grok公開(kāi)可訪問(wèn)的圖片流中，平均每分鐘就會(huì)出現(xiàn)一張“未經(jīng)同意的性暗示圖片”，其中不乏未成年人影像。

面對(duì)愈演愈烈的亂象，xAI的應(yīng)對(duì)卻顯得敷衍且被動(dòng)。在多國(guó)監(jiān)管壓力與輿論譴責(zé)下，Grok僅做出了小幅調(diào)整：將圖像生成與編輯功能“僅限付費(fèi)用戶使用”，并在X平臺(tái)上發(fā)布聲明稱“會(huì)刪除非法內(nèi)容、永久封禁賬戶”。

圖源：X

但這種調(diào)整不僅未能解決核心問(wèn)題，反而被質(zhì)疑是“借監(jiān)管爭(zhēng)議營(yíng)銷付費(fèi)服務(wù)”——英國(guó)技術(shù)大臣Liz Kendall對(duì)這種將問(wèn)題轉(zhuǎn)化為付費(fèi)服務(wù)的做法表示：“如果說(shuō)仍可以通過(guò)付費(fèi)訪問(wèn)這項(xiàng)服務(wù)，那是侮辱性的。”

更糟糕的是，作為xAI創(chuàng)始人的馬斯克不僅不以為恥，反而自己多次下場(chǎng)玩起了“AI黃色笑話”。

圖源：X

甚至就在幾天前，他還自己用Grok為自己生成了一張“馬斯克比基尼照片”，畫面不堪入目，而馬斯克卻洋洋自得，大呼“完美”。

圖源：X

馬斯克才是真正的“流量之神”

Grok的“裸奔”并非偶然，而是多重因素交織的結(jié)果——馬斯克的商業(yè)化野心驅(qū)動(dòng)監(jiān)管套利，技術(shù)層面的防護(hù)欄缺失降低濫用門檻，以及部分用戶需求的異化，共同將這款A(yù)I產(chǎn)品推向了倫理與法律的邊緣。

從商業(yè)邏輯來(lái)看，馬斯克對(duì)Grok的定位自始至終帶有“流量導(dǎo)向”的色彩。

上海社會(huì)科學(xué)院信息研究所所長(zhǎng)劉煒指出，馬斯克深諳“爭(zhēng)議是最好的催化劑”，而Grok的寬松內(nèi)容政策，本質(zhì)上是一種“監(jiān)管套利”策略。

在ChatGPT、谷歌Gemini等主流AI平臺(tái)因嚴(yán)格限制成人內(nèi)容而“流失”部分用戶時(shí)，Grok通過(guò)降低倫理門檻，收割那些被主流平臺(tái)拒絕的需求，進(jìn)而為X平臺(tái)的付費(fèi)訂閱服務(wù)引流。

這種策略并非無(wú)跡可尋：早在Grok Imagine推出前，X平臺(tái)就多次通過(guò)“釋放邊緣內(nèi)容”吸引關(guān)注。

此前，Grok已經(jīng)悄然上線了“Companions”（AI伙伴）功能。

其中一個(gè)名為“Ani”的二次元風(fēng)格女性角色，因其露骨的對(duì)話風(fēng)格和“讓你的生活更性感”的宣傳語(yǔ)引發(fā)了巨大爭(zhēng)議。

隨后推出的“Valentine”，設(shè)定為“富有魅力、具有保護(hù)欲”，能夠“真正理解你的氛圍”，并與基于Solana區(qū)塊鏈的同名模因幣綁定，形成了一個(gè)集AI伴侶、粉絲經(jīng)濟(jì)和加密文化于一體的獨(dú)特生態(tài)系統(tǒng)。

圖源：網(wǎng)易科技

與OpenAI對(duì)ChatGPT設(shè)置的多層內(nèi)容過(guò)濾機(jī)制不同，Grok從設(shè)計(jì)之初就弱化了風(fēng)險(xiǎn)防控，甚至還會(huì)主動(dòng)幫你尋求刺激。

據(jù)一名X網(wǎng)友透露，在他選擇了“火辣模式”卻沒(méi)有要求Grok脫掉角色的衣服的時(shí)候，最終呈現(xiàn)出來(lái)的畫面居然是“立刻脫掉了裙子，底下只穿著一條流蘇丁字褲，然后開(kāi)始跳舞，完全未經(jīng)審查，完全暴露”。

世界各國(guó)反應(yīng)迅速而強(qiáng)烈。英國(guó)通信管理局已緊急聯(lián)系X平臺(tái)，表示正對(duì)Grok生成裸露圖像及兒童性暗示圖像的功能表示嚴(yán)重關(guān)切。

歐盟委員會(huì)發(fā)言人Thomas Renier也確認(rèn)，歐盟正嚴(yán)肅調(diào)查針對(duì)Grok的投訴，并要求X平臺(tái)提供更多信息。

美國(guó)三位參議員——俄勒岡州的Ron Wyden、馬薩諸塞州的Edward J.Markey和新墨西哥州的Ben Ray Luján，聯(lián)名致信蘋果和谷歌首席執(zhí)行官，要求立即將X和Grok應(yīng)用從應(yīng)用商店下架。

更直接的是印度尼西亞，這個(gè)東南亞最大經(jīng)濟(jì)體已成為全球首個(gè)對(duì)Grok實(shí)施全面封禁的國(guó)家。

圖源：中國(guó)經(jīng)濟(jì)網(wǎng)

當(dāng)然，Grok的問(wèn)題并非孤立存在。

或許是看到了商機(jī)所在，除了馬斯克的Grok外，去年11月谷歌發(fā)布的新圖像生成模型Nano Banana Pro，12月OpenAI更新的ChatGPT Images模型，同樣被爆出具備編輯圖像將人放入比基尼的功能。

康奈爾大學(xué)安全、信任與安全倡議主任Alexios Mantzarlis指出：“整個(gè)科技行業(yè)推動(dòng)和放任了AI圖像生成器的魯莽部署。”

AI涉黃不是“自由”，而是必須守住的紅線

Grok引發(fā)的全球監(jiān)管風(fēng)暴，標(biāo)志著各國(guó)對(duì)“AI生圖濫用”的態(tài)度從“觀望”轉(zhuǎn)向“強(qiáng)硬”——技術(shù)創(chuàng)新不能以犧牲倫理為代價(jià)，AI的“自由發(fā)展”必須有明確的邊界。而“不傷害他人”，是最基本的底線。

目前，歐盟已經(jīng)根據(jù)《數(shù)字服務(wù)法》對(duì)X展開(kāi)了調(diào)查，并正在考慮處以罰款。罰款金額可能高達(dá)X公司全球年收入的6%。

更值得注意的是，歐盟正在積極推進(jìn)《人工智能法案》的落地，該法案已于2024年5月獲批，預(yù)計(jì)2026年8月正式實(shí)施。

作為全球首部綜合性AI監(jiān)管立法，它采用風(fēng)險(xiǎn)分級(jí)監(jiān)管方法，并對(duì)通用AI模型設(shè)置專門規(guī)則。

法案中的透明度義務(wù)規(guī)定，AI系統(tǒng)提供者必須確保其生成的內(nèi)容以機(jī)器可讀的形式被標(biāo)記，并可被識(shí)別為AI所生成。

同時(shí)，Grok事件正加速全球AI治理版圖的重塑。截至2024年底，全球已有69個(gè)國(guó)家和地區(qū)制定了人工智能相關(guān)政策和立法。

但這種繁榮背后是“規(guī)范碎片化”的風(fēng)險(xiǎn)。不同司法管轄區(qū)規(guī)則的差異，迫使跨國(guó)企業(yè)必須維護(hù)多套合規(guī)機(jī)制，導(dǎo)致合規(guī)成本急劇上升。

一家同時(shí)在歐盟、東南亞與中國(guó)運(yùn)營(yíng)的公司，可能需要應(yīng)對(duì)三套以上不同的AI治理規(guī)則。

當(dāng)歐盟試圖通過(guò)《AI法案》確立全球標(biāo)準(zhǔn)，其他國(guó)家卻可能強(qiáng)調(diào)國(guó)家安全與數(shù)據(jù)主權(quán)，形成替代性的規(guī)范體系。

結(jié)果可能不是一個(gè)統(tǒng)一的全球框架，而是多個(gè)區(qū)域性、陣營(yíng)化的規(guī)則體系。

在這種背景下，Grok事件成為了一個(gè)關(guān)鍵的壓力測(cè)試案例。

它迫使各國(guó)監(jiān)管機(jī)構(gòu)、技術(shù)公司和公民社會(huì)共同面對(duì)一個(gè)根本問(wèn)題：在一個(gè)AI可以輕易越過(guò)人類倫理與法律邊界的時(shí)代，我們究竟需要什么樣的全球性護(hù)欄？

作者 | 劉峰