馬斯克旗下AI聊天機器人Grok被限制訪問……

當地時間1月10日，印度尼西亞通信和數字事務部長表示，由于擔心人工智能會生成色情內容，該國暫時封禁了美國企業家埃隆·馬斯克旗下聊天機器人Grok，并要求馬斯克旗下的社交媒體X平臺就Grok所引發的負面影響盡快作出說明。

印尼通信與數字部長穆蒂亞·哈菲德在一份聲明中表示：“政府認為未經同意的非自愿性深度偽造行為嚴重侵犯了人權、公民尊嚴以及數字空間中的公民安全。”

緊隨其后，馬來西亞通訊及多媒體委員會1月11日發布聲明，暫時禁止該國用戶訪問Grok。該委員會在聲明中指出，鑒于Grok工具被多次用于生成“淫穢露骨、不雅低俗、極具冒犯性的內容，以及經篡改的非自愿圖像，其中包括涉及女性和未成年人的相關素材”，委員會已下令“暫時限制馬來西亞用戶訪問Grok”。

Grok由馬斯克旗下的人工智能公司xAI開發，并內置于社交媒體X平臺，X用戶可直接調用該聊天機器人。近期，X平臺出現部分用戶利用Grok編輯圖片和視頻的現象，一些用戶借此生成真實人物的虛假性暴露內容，并在X平臺上散播，受害者包括數百名成年女性和未成年人。

這場風波的導火索源自去年8月xAI推出的AI圖像生成工具Grok Imagine，它包含一個所謂的“熱辣”(spicy)模式，可生成成人內容。此后，隨著Grok大量響應用戶修改他人發布圖像的請求，去年底起亂象擴大。X平臺不少用戶利用新功能對圖像中人物執行“脫衣服”、“給她穿上比基尼”等指令。

研究數據顯示，Grok的用戶群體平均每小時生成6700多張“脫衣”圖像。圖像人工智能篡改檢測公司Copyleaks表示，去年12月下旬，在Grok公開可訪問的圖片流中，平均每分鐘出現一張未經同意的性暗示圖片。

目前已有多個國家對此予以譴責。法國政府1月早些時候對媒體表示，將對Grok生成的露骨色情深度偽造內容展開調查；英國數據監管機構則稱，已要求X平臺解釋在遵守數據保護法律方面所采取的措施；印度政府近日在一封致X公司的信中表示，Grok正被“用戶濫用”，以“貶損或粗俗的方式生成女性圖像或視頻，從而對她們進行猥褻詆毀”。

此外，美國三名民主黨參議員于1月9日要求蘋果和谷歌下架X和Grok應用，認為在馬斯克未能阻止平臺傳播未經同意的色情內容及兒童性虐待圖像前，兩款應用不應繼續留在應用商店。他們強調，這些行為不僅令人不安，而且很可能違法。如果繼續放任X的問題行為，將使蘋果和谷歌長期宣稱的內容審核與安全承諾失去公信力，并削弱其在公共輿論和司法程序中關于應用商店安全性的立場。

為應對批評，xAI已宣布將Grok在社交媒體平臺X上的圖像生成功能限制為“僅向付費訂閱用戶開放”。不過，獨立運行的Grok應用程序仍允許用戶在無需訂閱的情況下生成圖像。

馬斯克本人在社交媒體上表示，“任何利用Grok生成非法內容的人，都將面臨與上傳非法內容同等的后果。”

值得一提的是，1月7日，xAI公司宣布完成E輪融資，融資額超過了此前設定的150億美元目標，最終達到200億美元。馬斯克隨后轉發了融資公告并對投資者的信任表示了感謝。

本輪融資吸引了包括Valor股權投資公司、富達基金、卡塔爾投資局以及阿布扎比基金MGX在內的全球頂級資本參與。此外，英偉達和思科作為戰略投資者也參與了本輪融資。公告中并未提及估值，但有消息稱，這一輪融資將使xAI的估值達到2300億美元，較2025年3月時披露的1130億美元估值翻了一番。