抖音下架AI侵權(quán)視頻超53萬條，處置“AI霸總”誤導中老年人的不當內(nèi)容3萬多條

今天（4月23日），抖音黑板報官方賬號發(fā)布關(guān)于AI生成不當內(nèi)容及侵犯他人權(quán)益的治理公告：

為維護清朗網(wǎng)絡環(huán)境，保障廣大用戶及創(chuàng)作者的合法權(quán)益，抖音始終對各類侵權(quán)行為保持零容忍態(tài)度，持續(xù)增強技術(shù)識別能力與加大治理力度。近期，針對利用AI技術(shù)實行換臉、盜用名人肖像形象，利用AI生成、發(fā)布、傳播侵犯他人知識產(chǎn)權(quán)，肖像惡搞內(nèi)容、仿冒蹭熱他人等典型違規(guī)行為，平臺開展了專項治理行動。現(xiàn)將相關(guān)情況公告如下：

一、 治理成效

2026年，抖音持續(xù)加強對AI內(nèi)容的識別能力，強化AI侵權(quán)治理。截至目前，針對AI肖像惡搞、AI著作權(quán)侵權(quán)、AI仿冒蹭熱、AI侵權(quán)帶貨等典型違規(guī)行為，平臺通過開展多輪專項治理行動、暢通用戶舉報反饋渠道，已累計下架AI侵權(quán)視頻超53.8萬條，處罰違規(guī)賬號4000多個。同時，平臺已處置利用“AI霸總”形象誤導、誘導中老年人互動的不當內(nèi)容3萬多條，賬號1300多個。

其中，針對利用AI技術(shù)換臉、盜用肖像或聲音，生成丑化、惡搞或仿冒蹭熱內(nèi)容，并制作傳播誤導性內(nèi)容的侵權(quán)行為，平臺予以重點打擊。目前已累計下架AI仿冒蹭熱視頻超36萬條，處置AI肖像、AI聲音類侵權(quán)內(nèi)容8.5萬條，并對部分嚴重違規(guī)的賬號予以禁止投稿、封禁賬號權(quán)限等梯度處罰，維護清朗抖音社區(qū)生態(tài)。

二、 重點關(guān)注的AI侵權(quán)場景

當前，平臺重點處置以下幾類AI生成不當內(nèi)容及侵權(quán)場景：

1. 利用AI技術(shù)換臉、盜聲等違規(guī)行為
AI惡搞肖像 ：侵權(quán)者利用AI換臉、人臉合成等技術(shù)，將目標人物的肖像（包括明星、公眾人物及普通用戶）與不雅、惡搞、丑化甚至虛假信息相結(jié)合，制作和傳播誤導性或侮辱性內(nèi)容，涉嫌侵害個人肖像權(quán)和名譽權(quán)。

AI聲音侵權(quán)：未經(jīng)授權(quán)的情況下，利用AI克隆、合成與他人聲音高度相似的音頻，公開傳播該聲音內(nèi)容；或冒用他人聲音生成語音，用于直播帶貨、短視頻配音等，對公眾造成惡意誤導。

AI仿冒蹭熱 ：未經(jīng)授權(quán)的情況下，利用AI技術(shù)制作并發(fā)布冒用他人身份的內(nèi)容，以此蹭熱博取流量、誤導公眾或?qū)嵤┰p騙引流。

AI侵權(quán)帶貨 ：未經(jīng)授權(quán)的情況下，利用AI生成含有他人肖像、聲音的宣傳內(nèi)容，如偽造的明星推薦視頻、AI生成的商品宣傳圖等，進行推廣和銷售商品。

目前，為防范AI盜用名人肖像等侵權(quán)行為，平臺正持續(xù)建立完善典型案例樣本庫，結(jié)合大模型識別、技術(shù)巡檢與舉報信息，對樣本庫內(nèi)權(quán)利人相關(guān)的AI侵權(quán)內(nèi)容進行及時干預和處置。

2. 通過AI技術(shù)“魔改”經(jīng)典，進而傳播不良內(nèi)容

今年以來，平臺已開展治理“AI魔改”視頻專項工作。平臺對通過“魔改”傳統(tǒng)文藝作品，傳播血腥暴力、色情低俗等違規(guī)內(nèi)容從嚴處置，并對違規(guī)賬號采取梯度處罰措施。對涉嫌違法的行為，平臺也將及時上報有關(guān)部門，配合開展執(zhí)法工作。

三、舉報渠道與方式

為暢通用戶反饋路徑，平臺提供多種舉報渠道：

1. 抖音App內(nèi)舉報
通過視頻提示語/警示語舉報 ：針對已自主聲明“內(nèi)容由AI生成”的視頻，用戶可點擊提示語發(fā)起舉報；對未聲明但平臺檢測出的疑似AI內(nèi)容，用戶可點擊“疑似使用了AI生成技術(shù)，請謹慎甄別”的警示語發(fā)起舉報。
長按視頻舉報 ：用戶可直接長按視頻，選擇“舉報”-“侵犯權(quán)益”，按照相應的侵權(quán)類型進行舉報；或者選擇“AI生成內(nèi)容問題”的舉報入口進行反饋。
賬號舉報 ：用戶可進入涉嫌侵權(quán)的賬號主頁，通過右上角“...”菜單發(fā)起舉報。
客服舉報 ：用戶可通過“我”-“≡”-“我的客服”- 右下角“發(fā)起新服務”進入在線客服頁面，選擇“視頻創(chuàng)作與社交”-“我要舉報”-“舉報視頻”，選擇瀏覽記錄中想要舉報的內(nèi)容進行反饋。

2. PC端批量舉報

用戶可通過抖音批量侵權(quán)舉報網(wǎng)站（www.douyin.com/qinquan/report）發(fā)起舉報，支持批量粘貼鏈接、上傳文件（單次最高可提交2000條內(nèi)容），覆蓋肖像權(quán)、隱私權(quán)、著作權(quán)等八大常見侵權(quán)場景。

3. 郵件反饋

如遇需要提交復雜證據(jù)或詳細文字說明的場景，用戶可將AI侵權(quán)內(nèi)容反饋至平臺郵箱（qinquan@bytedance.com）。

為構(gòu)建“人人可監(jiān)督”的社區(qū)共治環(huán)境，AI侵權(quán)場景下，平臺后續(xù)將針對非權(quán)利人提供網(wǎng)友監(jiān)督舉報入口，及時收集監(jiān)督舉報信號并研判處置。當前行業(yè)仍普遍面臨AI生成內(nèi)容判斷難、AI聲音識別能力不足等難題。平臺將持續(xù)投入資源，盡力提升識別與精準處置能力，應對AI侵權(quán)內(nèi)容制作成本低、量級大等新挑戰(zhàn)。

當前，部分違規(guī)內(nèi)容將真實素材與AI生成內(nèi)容進行二次創(chuàng)作，真假難辨，技術(shù)識別存在局限性；針對AI生成的特定人物、IP形象，平臺很難第一時間掌握到相關(guān)授權(quán)信息，這給平臺研判、精準處置也帶來了難題。

抖音呼吁廣大用戶理性創(chuàng)作、文明上網(wǎng)，共同抵制AI生成不當內(nèi)容。如發(fā)現(xiàn)違規(guī)內(nèi)容，請積極通過上述舉報渠道進行反饋。平臺將依法依規(guī)、從嚴處置各類違規(guī)行為，與用戶攜手共建清朗、誠信的網(wǎng)絡空間。

來源：抖音黑板報

值班編校：張鵬晨、徐貴保

值班二審：劉星

值班編委：黃廉文