允許用戶生成“深度偽造”色情內容，英國警告馬斯克名下AI企業！法國、波蘭、印度巴西等國官員譴責，呼吁展開調查

據新華社，就美國企業家馬斯克名下人工智能企業xAI的聊天機器人“格羅克”繼續允許用戶生成“深度偽造”色情內容，英國政府1月9日發表聲明，呼吁英國通信管理局迅速采取行動，并警告說，如果xAI拒不遵守英國法律，其服務將面臨在英國被屏蔽的風險。

據央視新聞，“格羅克”由美國企業家埃隆·馬斯克旗下人工智能企業xAI公司開發，并內置于馬斯克旗下社交媒體平臺X。近期，X平臺出現部分用戶利用“格羅克”編輯圖片和視頻的現象，一些用戶借此生成真實人物的虛假性暴露內容，并在X平臺上散播，受害者包括數百名成年女性和未成年人。

圖片來源：央視新聞

“格羅克”在涉嫌生成色情內容引發廣泛譴責后，“格羅克”相關的圖像生成和編輯功能已被更改為僅能由付費用戶使用。英國首相府1月9日表示，這對受害者來說是“侮辱性的”。

據英國天空電視臺網站等媒體報道，英國首相府發言人當天說，盡管最新服務變更證明了相關企業在想要行動時可以“迅速采取措施”，但這“不是解決方案”，“只不過是將允許創建非法圖像的人工智能功能變成了一項高級服務”。

據報道，“格羅克”的服務更改是在英國通信管理局表示已與X平臺“緊急聯系”后進行的。英國首相斯塔默此前稱此事“令人不齒”且“令人作嘔”，他要求該公司“控制住局面”。

圖像生成問題實際上自Grok Imagine推出后就浮出水面。Grok Imagine是一個AI圖像生成器，允許用戶通過輸入文本提示來創建圖片和視頻。它包含一個所謂的“熱辣模式”，可生成成人內容。上月底，隨著“格羅克”開始大量響應用戶修改他人發布圖像的請求，問題迅速擴大。

此外，法國、波蘭、印度、馬來西亞和巴西等國的官員及監管機構也紛紛對X平臺表示譴責，并呼吁展開調查。

據央視新聞，歐盟委員會發言人托馬斯·雷尼耶1月8日表示，歐盟委員會已責令美國社交媒體平臺X保留其內置聊天機器人“格羅克（Grok）”相關的全部內部文件和數據，直至2026年年底。

雷尼耶說，歐盟委員會“嚴肅對待”這一問題，并已決定延長2025年向X平臺發出的“資料保留”要求。該要求此前主要涉及平臺算法相關信息以及非法內容的傳播與擴散情況等。

據美聯社6日報道，xAI公司對其置評請求作出自動回復：“傳統媒體撒謊”。但X平臺并未否認通過“格羅克”生成的有問題內容的存在。X平臺在一篇帖子中聲稱會對非法內容采取行動，例如刪除內容、永久封禁賬戶，并在必要時與當地政府和執法部門合作。

每日經濟新聞綜合新華社、央視新聞