IT之家 4 月 15 日消息,北京時間今天(4 月 15 日)早間,據美國 NBC News 報道,近期披露的一封致美國參議員的信件顯示,蘋果在今年早些時候 Grok 生成成人深度偽造內容引發爭議期間,曾在幕后采取措施進行干預。
當時,用戶發現 Grok 會輕易響應為照片人物“脫衣”的請求,目標多為女性甚至未成年人,引發外界強烈反彈,要求蘋果將 Grok 和 X 應用從 App Store 下架。
據 NBC News 報道,蘋果內部已認定 X 和 Grok 違反應用商店規則,并曾私下警告,可能下架 Grok 應用。
IT之家從報道中獲悉,在收到用戶投訴并關注到相關報道后,蘋果要求開發團隊提交改進內容審核的方案。X 隨后提交了 Grok 的更新版本,但因整改不足被拒。之后,X 方面再次提交修訂版本,最終僅有一款應用通過審核。
蘋果在信中表示:“蘋果審查了開發者后續提交的版本,認定 X 已基本解決違規問題,但 Grok 仍不符合要求。因此,我們拒絕了 Grok 版本,并告知開發者必須進一步整改,否則應用可能被下架…… 在開發者進一步溝通并完成調整后,我們認定 Grok 已有明顯改善,因此批準了最新版本。”
這些此前未公開的信息,解釋了 xAI 在輿論高峰期間推出的一系列內容審核調整措施:限制部分用戶使用圖像功能,以及收緊涉及真實人物照片的編輯權限。
不過,問題并未徹底解決。NBC News 在最新報道中指出,在過去一個月記錄的多個案例中,Grok 仍然可以在未經當事人同意的情況下生成不雅圖像。
報道還提到,當下的內容數量較 1 月明顯減少,但仍有用戶可以繞過限制,將女性形象修改為穿著毛巾、運動內衣、緊身服或兔女郎裝等更暴露的狀態。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.