抖音嚴厲打擊各類色情低俗內容,持續從嚴治理利用AI技術生成的相關違規內容。
據@抖音黑板報,近期平臺發現部分違規用戶通過 AI 生成“單親媽媽曖昧互動”“美女魅惑舞蹈”“著裝暴露的海濱度假照”等低俗擦邊內容,違反《抖音社區自律公約》平臺規則,平臺堅持從嚴從重處置。今年以來,針對AI生成色情低俗類違規,已處置4.2萬條內容,對1.4萬個賬號處以限制推薦、禁言、封禁等不同梯度的處罰。
此外,利用色情低俗信息為色情網站導流、售賣淫穢色情物品等行為,違反《中華人民共和國刑法》《網絡信息內容生態治理規定》等相關法律法規,涉嫌非法利用信息網絡罪、傳播淫穢物品罪。對以上違法行為抖音將主動上報公安機關。
典型案例1:利用AI生成圖片塑造“單親媽媽陪讀”人設進行色情導流,黑產團伙4人被刑拘
平臺巡查發現,一批賬號利用AI生成“單親媽媽陪讀”人設的內容,通過發布性感擦邊視頻并配以性暗示文案,誘導用戶關注。平臺經深度研判與線索挖掘,發現背后疑似有黑產團伙操控,該團伙通過賬號簽名、群聊等方式,誘導用戶跳轉至第三方平臺下載色情低俗 App。平臺立即清理違規內容、無限期封禁相關賬號,并收集線索上報至公安機關。最終,該黑產團伙4人被依法刑事拘留。
典型案例2:利用AI生成美女圖片引導用戶至收藏頁進行色情導流,339個賬號被處置
用戶“AI**說”“一**北”“冰**式”等用戶,通過將直播間封面設置為AI生成美女圖片,但在頭像圖片中配“看我收藏”等字樣,引導觀眾查看其主頁收藏,進而為色情網站導流。平臺已清理相關違規內容,并對相關賬號無限期回收直播權限。
典型案例3:持續發布AI生成著裝暴露的擦邊內容,8421個賬號被處置
用戶“奇**藍”“一**差”利用AI生成著裝暴露的女性形象,持續發布高空劈叉、魅惑舞蹈等動作;用戶“哦**哦”“j**g”持續發布多條AI生成聚焦私密部位的女性“泳池度假照”“海濱度假照”擦邊信息。平臺已清理相關違規內容,并對相關賬號采取限制推薦、禁言、封禁等梯度處罰。
抖音將不斷升級治理技術和治理手段,提升對利用AI技術生成不良內容的發現、識別和處置能力。抖音也在此提醒廣大創作者及用戶,自覺遵守法律法規及平臺規則,與平臺共同抵制各類色情低俗、違規導流行為,維護健康的網絡環境。如發現相關違規內容可撥打抖音官方服務熱線95152,或發送至舉報郵箱 feedback@douyin.com,我們將及時跟進處理。
![]()
編 輯 | 韓振
來源 | @抖音黑板報
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.