盡管馬斯克否認(rèn)，Grok的生成色情圖像功能還是被取消了

X 平臺(tái)公司周三晚間證實(shí)，埃隆?馬斯克旗下的人工智能聊天機(jī)器人 Grok，將不再在 X 平臺(tái)上編輯 “穿著暴露服飾的真人圖像”。此前，人們發(fā)現(xiàn)Grok會(huì)按照用戶(hù)要求，對(duì)成年人乃至兒童的圖像進(jìn)行“數(shù)字脫衣”處理，此事引發(fā)全球公憤。

X 平臺(tái)安全團(tuán)隊(duì)官方賬號(hào)發(fā)文稱(chēng)：“我們已采取技術(shù)措施，禁止 Grok 賬號(hào)對(duì)穿著比基尼等暴露服飾的真人圖像進(jìn)行編輯操作。該限制面向所有用戶(hù)，包括付費(fèi)訂閱用戶(hù)。”

就在過(guò)去一周內(nèi)，同時(shí)持有 Grok 和 X 平臺(tái)的人工智能公司 xAI，已將 Grok 在 X 平臺(tái)的圖像生成功能，僅限于向 X 平臺(tái)高級(jí)付費(fèi)訂閱用戶(hù)開(kāi)放。此前，研究人員及CNN等媒體均觀察到，近幾日以來(lái)，即便對(duì) X 平臺(tái)高級(jí)訂閱用戶(hù)，Grok 的 X 賬號(hào)針對(duì)用戶(hù)圖像生成請(qǐng)求的整體響應(yīng)方式也已作出調(diào)整。X 平臺(tái)于周三晚間發(fā)布的推文，證實(shí)了這些變動(dòng)。

不過(guò)，歐洲非營(yíng)利算法調(diào)查機(jī)構(gòu) “人工智能鑒真組織” 的研究人員表示，他們發(fā)現(xiàn) Grok 在 X 平臺(tái)的公開(kāi)交互功能，與其在 Grok 官網(wǎng)的私密聊天功能之間，存在 “色情內(nèi)容生成管控不一致” 的問(wèn)題。

X 平臺(tái)于周三重申，“會(huì)針對(duì) X 平臺(tái)上的非法內(nèi)容采取處置措施，其中包括兒童性虐待素材（CSAM）。具體措施有移除非法內(nèi)容、永久封禁相關(guān)賬號(hào)，并在必要時(shí)與當(dāng)?shù)卣皥?zhí)法部門(mén)展開(kāi)合作。任何利用或誘導(dǎo) Grok 生成非法內(nèi)容的用戶(hù)，都將面臨與上傳非法內(nèi)容同等的后果。”

馬斯克于周三在 X 平臺(tái)發(fā)文稱(chēng)，他“并未聽(tīng)說(shuō)有任何由 Grok 生成的未成年人裸體圖像。可以說(shuō)，此類(lèi)圖像的數(shù)量為零”。他還補(bǔ)充道，Grok“會(huì)拒絕生成任何非法內(nèi)容，其運(yùn)行的基本原則是遵守各國(guó)及各州的法律”。

但研究人員指出，盡管經(jīng)編輯生成的全裸圖像較為罕見(jiàn)，核心問(wèn)題卻在于 Grok 遵照用戶(hù)要求，對(duì)未成年人的圖像進(jìn)行修改 —— 不僅讓未成年人“穿上”比基尼、內(nèi)衣等暴露服飾，還會(huì)使其擺出帶有性挑逗意味的姿勢(shì)。制作此類(lèi)非自愿私密圖像的人員，仍可能因涉及兒童性虐待素材而被提起刑事訴訟；依據(jù)美國(guó)總統(tǒng)唐納德?特朗普于去年簽署的《下架法案》，相關(guān)人員還有可能面臨罰款與監(jiān)禁。

加州總檢察長(zhǎng)羅布?邦塔于周三宣布，將針對(duì) “利用 Grok 制作的非自愿露骨色情內(nèi)容泛濫問(wèn)題” 展開(kāi)調(diào)查。

Grok生成色情內(nèi)容的受害者還包括馬斯克第13個(gè)孩子的母親克萊爾·布歇，她控訴其少女時(shí)期照片遭篡改，且投訴后平臺(tái)未刪除相關(guān)內(nèi)容。

受此次圖像生成爭(zhēng)議影響，Grok 目前在印度尼西亞和馬來(lái)西亞兩地仍然被禁用。英國(guó)通信管理局于周一宣布，已對(duì) X 平臺(tái)啟動(dòng)正式調(diào)查；不過(guò)，英國(guó)首相基爾?斯塔默的辦公室于周三表示，首相對(duì) X 平臺(tái)正著手解決該問(wèn)題的相關(guān)報(bào)道表示歡迎。