北京
在剛剛舉行的今日頭條平臺治理開放日上，披露了這樣一組數據：2025年全年，平臺累計處置低質AI內容超過260萬條。
“AI創作的門檻大幅降低，既讓更多用戶擁有內容表達的機會，也帶來了低質AI內容類型持續翻新、識別難度進一步加大的問題。”今日頭條內容生態治理負責人鄭子龍這樣說道。
據了解，目前治理主要通過內容識別與賬號治理兩條路徑進行，包括通過監測聚類分析識別AI生成內容特征，并對持續發布相關內容的賬號采取限流或禁言等措施。
鄭子龍提到，AI顯著降低了內容生成成本，使部分謠言更容易被批量生產和傳播。平臺數據顯示，2025年共清理虛假內容700余萬條，并對3.3萬個違規賬號實施禁言或封禁。
從安全治理角度看，AI帶來的變化同樣體現在詐騙等風險場景中。今日頭條安全運營負責人閆夢茹表示：“詐騙手段已經從傳統套路演變成由AI偽造、AI生成誘導性發文去引流的新型騙局，隱蔽性更強，迷惑性也更大。”
“我們要學會AI治理AI，因為不可能只靠傳統手段去攔截這些快速變化的AI形式。”在問答環節，閆夢茹這樣說道。
中國社會科學院大學互聯網法治研究中心主任劉曉春在現場表示，AI生成內容并不只是簡單的質量問題，其中可能包含虛假信息、侵權、低俗或誤導性內容等多種風險。她指出，大量低質AI內容如果持續傳播，“可能擠壓優質內容的空間，也會提高用戶獲取有效信息的成本”。
中國政法大學網絡法學研究所所長李懷勝則從治理結構角度分析，網絡詐騙和虛假信息的傳播已經形成完整鏈條，需要法律、平臺與社會多方協同治理。他認為，平臺在其中承擔的是“第一道防線”的角色。
同時，更重要的是公眾應該提高防范意識。在網絡詐騙治理中，公眾既是保護的客體，更應是參與的主體。報告中有兩組數據值得深思：一是平臺對高危私信進行了300余萬條風險提醒，二是部分用戶對反詐提示存在抵觸情緒。這兩組數據表明，沒有公眾的主動參與，再嚴密的技術防線、再完善的法律制度都可能被突破。
隨著AI生成能力不斷提升，內容生產和傳播方式正在發生變化。對平臺而言，如何在鼓勵創作的同時識別和處理低質或誤導信息，正在成為新的治理課題。
會上還發布了《今日頭條2025年度平臺治理白皮書》。
數據顯示，2025年全年，今日頭條共向用戶推送300余萬條涉詐風險提醒、處置網暴相關違規評論3.6億條，為70萬賬號啟用了一鍵防網暴功能。（撰文/ 李炤鋒）
#今日頭條 #AI生成內容監管
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
