因Grok生成并傳播色情圖像，英國監(jiān)管機構(gòu)對馬斯克的xAI展開調(diào)查

IT之家2月4日消息，據(jù)彭博社報道，埃隆 · 馬斯克旗下的 xAI 公司正接受英國數(shù)據(jù)保護監(jiān)管機構(gòu)的調(diào)查，隨著監(jiān)管力度升級，其人工智能聊天機器人 Grok 被指用于生成并傳播他人色情化圖像的行為正面臨越來越嚴(yán)格的監(jiān)管審查。

英國監(jiān)管機構(gòu)對馬斯克的xAI展開調(diào)查（資料圖）

英國信息專員辦公室（ICO）當(dāng)?shù)貢r間周二在一份聲明中表示，此次正式調(diào)查將聚焦于生成此類圖像的過程中，是否存在不當(dāng)處理個人數(shù)據(jù)的行為。

上月，在馬斯克旗下社交媒體平臺 X 上，用戶誘導(dǎo)聊天機器人 Grok，在未經(jīng)當(dāng)事人同意的情況下，生成針對真人（主要是女性，甚至包括兒童）的人工智能色情合成圖像，此舉引發(fā)了公眾與政界的強烈憤慨。有用戶在女性發(fā)布的個人照片下留言，向 Grok 下達“給她脫衣”“給她穿上比基尼”之類指令。據(jù)彭博社報道，Grok 每小時能生成數(shù)千張此類色情圖像。xAI 最終限制了 Grok 在 X 平臺上的圖像生成功能，但該聊天機器人仍在多個國家被臨時封禁，同時還面臨歐盟和法國方面的調(diào)查。

周二早些時候，法國執(zhí)法部門突襲了 X 公司位于巴黎的辦公室，這是針對該社交媒體平臺涉嫌濫用行為刑事調(diào)查的一部分，調(diào)查范疇包含色情深度偽造內(nèi)容。

英國信息專員辦公室有權(quán)對 xAI 處以最高1750萬英鎊（IT之家注：現(xiàn)匯率約合1.66億元人民幣），或其全球年銷售額4% 的罰款，以兩者中金額更高者為準(zhǔn)。該機構(gòu)稱，此次曝光的色情內(nèi)容生成事件“依據(jù)英國數(shù)據(jù)保護法引發(fā)了嚴(yán)重關(guān)切，對公眾存在重大潛在傷害風(fēng)險”。

監(jiān)管機構(gòu)將核查 xAI 是否合法、公正、透明地處理個人數(shù)據(jù)，以及該公司是否設(shè)置了充分的安全防護措施，以阻止有害深度偽造內(nèi)容的生成。信息專員辦公室的威廉 · 馬爾科姆在聲明中透露，該機構(gòu)正與英國通信管理局（Ofcom）及國際組織協(xié)同開展調(diào)查。

本月早些時候，ICO 曾公開表示已聯(lián)系 X 歐洲用戶的數(shù)據(jù)控制方 —— 愛爾蘭實體 X Internet Unlimited 公司，及其母公司 xAI，要求其明確為遵守英國數(shù)據(jù)保護法所采取的合規(guī)措施，本次 ICO 調(diào)查正是在此之后啟動。

另外，英國通信管理局表示，Grok 獨立應(yīng)用程序不在其調(diào)查范圍內(nèi)，原因是通過該應(yīng)用生成的內(nèi)容不會自動公開。