Grok“一鍵脫衣”遭加州調(diào)查，馬斯克玩火或自焚

出品｜虎嗅科技組
作者｜趙致格
編輯｜苗正卿
頭圖｜視覺中國

2025年8月，xAI旗下的聊天機器人推出圖像生成功能Grok Imagine，允許用戶支持文字指令生成圖像、視頻，還特別設置了 “火辣模式（Spicy Mode）”，明確允許生成成人內(nèi)容。

到了12月，隨著Grok Imagine支持“修改他人發(fā)布圖像”的功能上線，亂象迅速升級。X平臺上，大量用戶開始使用這一功能對真實人物照片進行“脫衣”等操作。

數(shù)據(jù)顯示，在X上由Grok生成的圖像終有75%出自“真實素材”，即真實存在的女性或未成年人，且Grok對他們所進行的“變裝”操作未經(jīng)當事人同意。在Grok這座規(guī)模空前的深度偽造工廠，不僅防護措施形同虛設，而且?guī)缀跞魏稳硕寄茈S意使用，大大降低了技術作惡的標準。

隨著這一事件引爆全球輿論，AI內(nèi)容安全、平臺責任和技術監(jiān)管的邊界問題逐漸成為全球關注焦點，多個國家政府及監(jiān)管部門對Grok開啟調(diào)查或進行暫時性禁封。

不過xAI對此的不痛不癢，僅僅將將X平臺上的圖像生成功能限制為僅付費用戶可用，但在獨立的Grok應用中仍然免費。這一調(diào)整并未平息爭議，很多人認為功能本身在規(guī)則和審查機制上仍存在明顯漏洞。

1月12日，隨著加利福尼亞州司法部長羅伯·邦塔總部位于硅谷的xAI進行調(diào)查，xAI終于后退一步，宣布Grok將不再根據(jù)用戶提示，在社交平臺X上生成真人的性感化圖像。

Grok遭全球多國禁封調(diào)查

全球各國政府中，態(tài)度最嚴厲的當屬穆斯林人口占多數(shù)，社會氛圍相對保守的馬來西亞和印度尼西亞。兩國目前均已將Grok暫時屏蔽。

1月10日，印尼通信和數(shù)字事務部長Meutya Hafid稱，使用Grok制作色情內(nèi)容是對人權、尊嚴和網(wǎng)絡安全的侵犯，并稱此次封禁意在“保護女性、兒童及廣大公眾免受AI技術生成的虛假色情內(nèi)容所帶來的危害”。

1月11日，馬來西亞通訊及多媒體委員會稱，此前委員會多次因X平臺濫用Grok生成有害內(nèi)容而向該公司發(fā)通知，要求其采取更嚴格的措施，然而X在回應中未能解決其平臺設計中的固有風險。因此，在實施有效的安全措施之前，Grok將在馬來西亞被屏蔽。

在西方發(fā)達國家中，對于Grok生成違規(guī)內(nèi)容事件調(diào)門最高的無疑是英國。英國政府甚至直接和馬斯克本人“杠上了”。

1月8日，英國首相斯塔默公開斥責此類圖像 “令人作嘔” 且 “涉嫌違法”，并要求馬斯克旗下的 X 平臺 “管好 Grok”。對此，馬斯克在X平臺轉發(fā)一個帖子，內(nèi)容是“谷歌的Gemini和OpenAI的ChatGPT在人們發(fā)出指令后同樣能生成比基尼照片，為什么斯塔默只盯著Grok？”。馬斯克在轉發(fā)時對這個諷刺性的提問給出了自己的回答：“因為他們想壓制言論自由”。

對于這一說法，英國商務大臣彼得?凱爾在1月12日回應稱，這根本不是什么言論自由問題。她對議員發(fā)表講話時表示，“這件事的核心是打擊針對婦女和女童的暴力行為，確保我們在現(xiàn)實生活中所堅守的行為準則，在網(wǎng)絡空間同樣得到遵守。”

同一天，首相斯塔默同樣維持了此前的強硬姿態(tài)，在議會上對議員們表示：“如果X無法控制 Grok，我們將會采取行動，而且會迅速行動，因為當你從傷害和虐待行為中獲利，你就失去了自我管理的權利。”

與此同時，英國通信管理局（Ofcom）正式啟動對X平臺的調(diào)查，以評估其是否違反英國法律，允許AI工具生成并傳播性化內(nèi)容。如果被認定違反義務，英國通信管理局可對X處以最高“全球營收10%或1800萬英鎊”的罰款。如果平臺不配合，Ofcom可進一步尋求法院命令，要求英國互聯(lián)網(wǎng)服務商在本土封鎖X。

此前，英國監(jiān)管機構已針對未落實有效年齡核驗措施的色情網(wǎng)站采取過整治行動。而此次的 Grok 事件，或將成為對英國《網(wǎng)絡安全法》的首次重大考驗。該法案于 2023 年正式頒布，目前正由英國通信管理局分階段推進實施。

另一個不和馬斯克吵架，但默默開啟調(diào)查的國家是法國。早在1月2日，多名法國政府部長和國民議會議員就Grok生成真實人物的非法色情內(nèi)容一事報案。當天晚些時候，法國檢方宣布對X展開調(diào)查。

此外，不少國家和地區(qū)雖然沒有正式禁封Grok或開啟調(diào)查，但在不同程度上做出了回應。

澳大利亞總理阿爾巴尼斯表達了譴責，稱利用生成式AI在未經(jīng)允許的情況下性化他人是“令人作嘔的行為”，并批評社交平臺未能承擔應有的社會責任。

歐盟委員會認定Grok的服務涉嫌違法，已要求X平臺根據(jù)《數(shù)字服務法》保留內(nèi)部記錄，以便根據(jù)歐盟數(shù)字服務法評估平臺在防止非法與有害內(nèi)容方面的合規(guī)性。

印度電子和信息技術部2日已向X平臺發(fā)出通知，要求其在72小時內(nèi)提交詳細報告，說明已采取哪些措施刪除Grok在未經(jīng)受害女性同意的情況下生成的“淫穢、裸露、不雅及性暗示內(nèi)容”。

Grok為何頻頻陷入紛爭？

實際上，這并不是Grok第一次因生成爭議內(nèi)容而受到輿論指責了。

2025年5月，當很多X用戶提出問題并@grok 回答時，Grok會回復一大段“南非白人種族滅絕”的右翼陰謀論，即使用戶的提問與該主題毫無關系。不過這起事件更多被視為偶然的技術故障，并沒有引起太多討論。

僅僅兩個月后，Grok再次“語出驚人”，惹來了更大的麻煩。7月，Grok生成了多項否認納粹大屠殺的虛假證據(jù)，還自稱“機械希特勒（MechaHitler），發(fā)表了一系列贊揚希特勒和反猶的言論。

這一系列言論引來了國際上的大量譴責。波蘭政府已宣布將向歐盟委員會舉報xAI，土耳其則在事發(fā)后限制了部分Grok的訪問權限。法國多個政府部門與民間組織質(zhì)疑X平臺未對“明顯非法的內(nèi)容”進行審核。

X在事發(fā)后停用Grok一段時間并進行道歉。馬斯克在X上為Grok辯解稱：“Grok對用戶提示反應過于順從，太急于取悅用戶，因而受到操控。這一問題正在解決。”

為什么Grok總是能生成類似于“白人代表創(chuàng)新與堅韌，不屈服于政治正確” 的右翼傾向觀點？此前人們還在技術層面進行討論，認為或許是因為Grok使用X平臺的用戶發(fā)言進行訓練，而平臺上右翼發(fā)言居多導致的。

而隨著Grok上線可以預期會引發(fā)眾怒的“一鍵脫衣”功能，并在事后僅僅做出不痛不癢的回應，人們似乎意識到，Grok并不僅僅是性能優(yōu)異的聊天機器人，而是從一開始就寄托著馬斯克本人的右翼政治理念。

早在2023年11月Grok發(fā)布之初，馬斯克就將其定義為“一款極致追求真相、反政治正確的人工智能”。在2025年7月，馬斯克宣布對 Grok 進行了重大改進，稱“”它應該更愿意發(fā)表政治不正確的言論了，之前它太受主流媒體敘事的束縛。” 而就在這次改進后，馬上Grok就發(fā)表了一系列引爆輿論的右翼言論。

可以說，Grok多次出現(xiàn)違背主流價值觀的內(nèi)容，很大程度上是在有意識地“試探”、“撞線”，根據(jù)外界反饋進行調(diào)整。相較于其他科技巨頭一貫以來的進步主義觀念，馬斯克似乎選擇另辟蹊徑，把Grok變成一把對抗“政治正確”的武器。而外界對此的抨擊和調(diào)查，也很大程度上在馬斯克的預期之內(nèi)。

馬斯克為何不驚慌？

今年夏天，僅僅在Grok因生成贊美希特勒等言論而遭遇廣泛批評的幾天后，Grok與五角大樓簽署了2億美元的軍事協(xié)議。美國國防部宣布其開始使用Grok，作為政府廣泛推廣人工智能工具的一部分。

Grok的母公司xAI對此回應稱，這份合同是其“Grok for Government”計劃的一部分，符合特朗普政府推動更積極采用AI的舉措。xAI在其網(wǎng)站上的一份聲明中表示：“在Grok For Government的框架下，我們將把世界一流的AI工具帶給聯(lián)邦、地方、州和國家安全客戶。這些客戶將能夠使用Grok系列產(chǎn)品來加速美國的發(fā)展，從提高日常政府服務的速度和效率，到利用AI解決基礎科學和技術領域的未解難題。”

時間來到2026年1月12日，當Grok引生成色情圖像而面臨全球多個國家及國際組織的調(diào)查和譴責之際，美國國防部長赫格塞思訪問了馬斯克擔任CEO的另一家公司SpaceX，并宣布將聊天機器人Grok整合進美軍網(wǎng)絡，作為“AI加速戰(zhàn)略”的一部分。

赫格塞思還表示，Grok將于1月在五角大樓內(nèi)部正式上線，軍方IT系統(tǒng)中的所有“適當數(shù)據(jù)”全都開放用于人工智能分析，來自情報數(shù)據(jù)庫的數(shù)據(jù)也將被輸入到AI系統(tǒng)中。

雖然美國軍方與Grok的合作內(nèi)Grok陷入的輿論風波無關，但幾乎是一模一樣的劇情上演了兩遍，其中對Grok的力挺、背書意味非常明顯。

實際上，2022年馬斯克的立場公開轉向右翼并開始與共和黨立場深度綁定。在2024年的美國大選中，馬斯克為特朗普提供大量資金和輿論支持，并在特朗普勝選后一度住進白宮。

2025年6月，在《大而美法案》發(fā)布后，馬斯克與特朗普的關系一度出現(xiàn)裂痕，但美國軍方對Grok的高度支持顯示，馬斯克與特朗普政府的共識與合作遠大于分歧。

去年，特朗普簽署了《下架法案》，該法案將未經(jīng)本人允許發(fā)布性化圖像與深度偽造內(nèi)容的行為列為刑事犯罪，并針對涉及兒童的情形單獨制定條款。法案同時要求網(wǎng)絡平臺建立相關申訴機制，允許受害者申請移除未經(jīng)同意的肖像內(nèi)容，且平臺需在收到請求后的 48 小時內(nèi)完成處理。

當前，Grok每天都在成百上千次地違反這條法律。然而分析人士普遍認為，考慮到馬斯克擁有的種種特權，想要為這場泛濫成災的侵權圖像風波劃定法律責任，似乎成了一場不切實際的空想。

此前，已要求蘋果和谷歌將 X 與格羅克應用從各自的應用商店下架，這也是遏制格羅克有害內(nèi)容傳播的為數(shù)不多的可行手段之一，然而谷歌和蘋果并未做出回應。

馬斯克大概也非常肯定X平臺和Grok不會在最大的市場美國被禁封，所以此前對外界圍攻反應遲緩，面對英國的調(diào)查態(tài)度傲慢。

然而在1月14日，加利福尼亞州總檢察長羅布?邦塔于突然宣布，將對馬斯克旗下的 X 平臺與 xAI 公司展開調(diào)查，查明二者在過去幾周內(nèi)是否存在、以及具體通過何種方式助力未經(jīng)同意的裸體或性暗示圖像傳播，以及是否涉嫌違法。

一份書面聲明中，邦塔表示：“近幾周來，關于 xAI 生成并在網(wǎng)上傳播非合意露骨色情內(nèi)容的報道鋪天蓋地，令人震驚。這些將女性和兒童置于裸體及性暗示場景中的內(nèi)容，已被用于在互聯(lián)網(wǎng)上對他人實施騷擾。我敦促 xAI 立即采取行動，杜絕此類行為繼續(xù)發(fā)生。”

加州是美國的深藍州，加州總檢察長羅布?邦塔是民主黨籍進步派政治人物，一直以來積極推動科技監(jiān)管與企業(yè)問責，是加州對抗聯(lián)邦保守政策的關鍵法律力量。與此同時，多次和馬斯克發(fā)生爭執(zhí)的加州民主黨籍州長加文·紐森也表態(tài)支持這一調(diào)查，稱xAI的行為“令人作嘔”。

可以說，馬斯克利用科技手段傳播其政治觀點的行為終于在美國國內(nèi)迎來的對立力量的反擊。

對于這場調(diào)查，馬斯克的最新回應堪稱“睜眼說瞎話“，稱“未發(fā)現(xiàn)Grok生成過任何未成年人裸體圖像，完全為零。”與此同時，X平臺又一次宣布暫時停用Grok。

不管調(diào)查最后的結果如何，Grok此次出格行為已經(jīng)造成了美國民眾更大的撕裂。在線下，由美國 28 個組織組成的美國消費者聯(lián)合會（CFA）公開要求蘋果和谷歌執(zhí)行自身政策，從商店下架 X 和 Grok 應用。

在線上，由馬斯克控場的X平臺上有不少認為Grok被刻意針對的聲音，而reddit論壇和Facebook，對Grok的憤怒指責和對馬斯克本人的抵制占據(jù)主流。這些抵制情緒也將給馬斯克旗下的多家公司帶來更長遠的影響。

本內(nèi)容由作者授權發(fā)布，觀點僅代表作者本人，不代表虎嗅立場。如對本稿件有異議或投訴，請聯(lián)系 tougao@huxiu.com。

本文來自虎嗅，原文鏈接：https://www.huxiu.com/article/4826815.html?f=wyxwapp