在剛剛舉行的今日頭條平臺治理開放日上,披露了這樣一組數據:2025年全年,平臺累計處置低質AI內容超過260萬條。
“AI創作的門檻大幅降低,既讓更多用戶擁有內容表達的機會,也帶來了低質AI內容類型持續翻新、識別難度進一步加大的問題。”今日頭條內容生態治理負責人鄭子龍這樣說道。
據了解,目前治理主要通過內容識別與賬號治理兩條路徑進行,包括通過監測聚類分析識別AI生成內容特征,并對持續發布相關內容的賬號采取限流或禁言等措施。
鄭子龍提到,AI顯著降低了內容生成成本,使部分謠言更容易被批量生產和傳播。平臺數據顯示,2025年共清理虛假內容700余萬條,并對3.3萬個違規賬號實施禁言或封禁。
從安全治理角度看,AI帶來的變化同樣體現在詐騙等風險場景中。今日頭條安全運營負責人閆夢茹表示:“詐騙手段已經從傳統套路演變成由AI偽造、AI生成誘導性發文去引流的新型騙局,隱蔽性更強,迷惑性也更大。”
“我們要學會AI治理AI,因為不可能只靠傳統手段去攔截這些快速變化的AI形式。”在問答環節,閆夢茹這樣說道。
中國社會科學院大學互聯網法治研究中心主任劉曉春在現場表示,AI生成內容并不只是簡單的質量問題,其中可能包含虛假信息、侵權、低俗或誤導性內容等多種風險。她指出,大量低質AI內容如果持續傳播,“可能擠壓優質內容的空間,也會提高用戶獲取有效信息的成本”。
中國政法大學網絡法學研究所所長李懷勝則從治理結構角度分析,網絡詐騙和虛假信息的傳播已經形成完整鏈條,需要法律、平臺與社會多方協同治理。他認為,平臺在其中承擔的是“第一道防線”的角色。
同時,更重要的是公眾應該提高防范意識。在網絡詐騙治理中,公眾既是保護的客體,更應是參與的主體。報告中有兩組數據值得深思:一是平臺對高危私信進行了300余萬條風險提醒,二是部分用戶對反詐提示存在抵觸情緒。這兩組數據表明,沒有公眾的主動參與,再嚴密的技術防線、再完善的法律制度都可能被突破。
隨著AI生成能力不斷提升,內容生產和傳播方式正在發生變化。對平臺而言,如何在鼓勵創作的同時識別和處理低質或誤導信息,正在成為新的治理課題。
會上還發布了《今日頭條2025年度平臺治理白皮書》。
數據顯示,2025年全年,今日頭條共向用戶推送300余萬條涉詐風險提醒、處置網暴相關違規評論3.6億條,為70萬賬號啟用了一鍵防網暴功能。(撰文/ 李炤鋒)
#今日頭條 #AI生成內容監管
![]()
![]()
![]()
![]()
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.