抖音如何讓謠言止于AI？

劃重點：

1、近日，抖音舉辦不實信息開放日，并宣布上線“AI抖音求真”功能。可以為用戶提供對誤導性內容與謠言的事實展示及澄清。

2、“AI抖音求真”讓用戶從信息的被動接收者，轉變為可以主動查證、交叉驗證的參與者，與用戶共建認知防線。

3、謠言治理是抖音2025年最重要的工作之一。大模型助力謠言治理 “發現即管控”，抖音謠言曝光量下降67%。

4、這場開放日，抖音系統展示了它在謠言治理上的技術投入、產品實踐和底層邏輯。一條更立體、更高效的謠言治理鏈路正在形成。

5、謠言的產生與治理，是一場持久戰。最終，清朗網絡空間的建成，仍需要平臺、媒體、專業機構和每一位用戶的攜手同行。

作者 林易

編輯重點君

在信息如水的時代，謠言是一股最洶涌的暗流。

“廣西‘亮證姐’是公職人員”、“南京紅姐事件11人查出HIV”、“全國小學門口的辣條都被投毒”……在人人都是自媒體的時代，這些真假難辨、聳人聽聞的謠言，能夠借助互聯網，在短時間內觸達數以億計用戶，引發集體性的情緒波動，甚至打破固有認知。

謠言治理，已經刻不容緩，但又如此艱難。火焰蔓延速度，早已超過了人力極限。平臺需要像一位辛勞的消防員，依賴媒體報道或機構發聲作為火警信號，再由人工沖入現場，回查、下架、攔截，處置周期往往以天為單位。

如今，抖音選擇借助AI的力量治理謠言。抖音不實信息治理負責人李博告訴我們，“謠言治理是抖音2025年最重要的工作之一”。支撐這項工作的，是一個被內部訓練成“謠言鑒定專家”的智能體，以及一個剛剛上線、日均曝光量預計可達1億次的新功能——AI抖音求真。

這套AI大模型驅動的新機制，將治理鏈路從“被動響應”轉為“發現即管控”，將處置時效從天縮短至小時。引入以來，近一個季度，抖音平臺上的謠言曝光量下降了約67%。大模型識別準確率達到85%，并且仍在持續提升。

這不僅是一次技術升級，更是平臺治理理念的進化。隨AI技術發展，內容創作越來越便利，制造謠言也更為輕易。面對謠言治理難度的持續升級，抖音通過大模型技術，構筑一道新的防線。

謠言治理智能體：一個“謠言鑒定專家”的誕生

“想要實現完全沒有謠言是非常困難的，也幾乎是不可能的。”李博在分享時很坦誠。抖音的目標并非徹底消滅謠言，而是盡最大努力治理那些具有誤導性、公共影響力和可驗證性的不實信息。

為了實現這個務實的目標，抖音首先需要精準定義自己的主要“敵人”。明星緋聞八卦、飯圈爆料，這類內容雖然也可能帶來虛假感，但因其公共危害性高或難以查證，通常會通過侵權治理的方式解決。而那些可能對公眾身心健康或財產安全造成危害，且能夠被證偽的信息，才是治理的核心對象。

過去，識別這些對象依賴一套相對傳統的七步流程：預警、分析、搜證、標記、辟謠、處置和攔截。整個鏈條的關鍵在于預警環節，即如何發現謠言線索。這在很大程度上依賴外部信號，比如媒體報道、其他業務團隊的舉手反饋。這套流程的問題是“慢”和“窄”。慢，在于反應滯后，往往需要等到事件發酵才能介入；窄，在于人力有限，只能關注到最頭部的少數問題。

大模型的介入，帶來改變。抖音借助謠言治理智能體（Agent）的能力，它像一個不知疲倦的、24小時在線的“謠言鑒定專家”，主動在海量內容中嗅探風險。

以7月份“老人乘高鐵享受新優惠折扣”的謠言為例，我們可以看到這位“專家”的工作流程：

第一步是內容召回與信息提取。當一條視頻內容的熱度達到某個閾值，它就會被大模型召回。這個閥值并非要等到上熱搜，可能還處于萌芽期就會觸發。智能體首先對視頻進行多模態拆解，提取畫面、音頻、文字等信息，并迅速提煉出核心主旨：“7月1日起，老年人坐火車有新規定，買票可享受折扣”。

第二步是聯網檢索與信源甄別。隨后，智能體自動聯網，在全網檢索相關信息。它的特別之處在于，會重點優先檢索權威信源，如權威媒體、政府官網、以及抖音長期積累的內部辟謠庫。在這個案例中，它迅速找到了12306客服的否認、官方熱線的澄清以及上海辟謠平臺發布的相關內容。

第三步是謠言研判與結論輸出。智能體將檢索到的權威信息輸入其“研判模塊”。該模塊基于精準定義謠言的能力，即判斷內容是否具備“誤導性”、“公共影響力”和“可證偽”的特征，給出最終結論：該內容明確捏造事實，容易誤導公眾，風險等級高。

最后一步是處置、入庫與回掃。一旦結論生成，處置指令便會發出。原始視頻被下架，同時該謠言點被納入謠言庫。智能體會立即在全站范圍內進行“回掃”，排查并處置所有與此謠言點相關的存量和新增內容，最大限度遏制其傳播。

整個過程，從發現到大范圍遏制，時間被壓縮到小時級。

這套智能體的技術底座，是字節跳動豆包大模型。但抖音并非簡單地調用，而是根據謠言治理這一特定業務場景，對其進行了大量的后訓練（post-training），使其長成業務需要的形態。這包括加強其多模態理解能力，以更精準地解析視頻內容；優化RAG（檢索增強生成）技術，以高效篩選權威信息；以及訓練更智能的研判模型，使其判斷邏輯更貼近一位專業的不實信息治理專家。

目前，這個“謠言鑒定專家”的判斷準確率達到了85%以上。對于置信度最高的判斷，機器會自動執行處置；而對于那些置信低的內容則會進入人工審核流程，確保最終準確率與人審相當。

“不當臆測內容”大模型：平衡信息真實性與表達自由

除了可以明確證偽的謠言，很多平臺的內容生態中，還不可避免地存在大量灰色地帶的內容。抖音將這類內容定義為“缺少依據的不當臆測”，也就是大眾通常理解的“陰謀論”。

這類內容主要有幾個典型特征：

一是觀點放大。比如，將個別“三無辣條”的情況，推斷為“全國小學門口都被投毒”。

二是因果牽強。比如，將受消費需求、收成、關稅等多種因素影響的大蝦降價，直接歸因于“核廢水污染”。

三是認知差異。比如，對于“阿波羅登月造假”這類老生常談的話題，盡管多方已澄清，但不同用戶群體間仍存在巨大的認知鴻溝。

這些內容的棘手之處在于，它們很難被直接證偽，且其真偽判斷與用戶的主觀認知強相關。直接將其打為“謠言”并下架，可能會引發更大的爭議。

抖音的策略是限制其大范圍傳播，為此定制了一個不當臆測大模型。它不判斷內容的真偽，而是專注于分析視頻內容本身是否存在明顯的邏輯謬誤，如論據不足、因果關聯牽強等。

該模型會結合內容本身的論據判斷以及外部的用戶舉報等信號，對視頻進行評估。對于高置信度為“不當臆測”的內容，直接進行處置；對于疑似內容，則交由人工進一步研判。據介紹，該模型的準確率在90%左右，日均能處置約1.5萬條相關內容。

這種處理方式，體現了平臺在治理過程中的一種克制和審慎。它希望在維護信息真實性與保護表達自由之間尋找一個平衡點，即不輕易給觀點定性，又要限制沒有事實依據的觀點對公共輿論場造成過度影響。

AI抖音求真：與用戶共建認知防線

“治理可以大幅減少謠言，但卻很難徹底讓謠言消失。”“AI抖音求真”運營負責人吳榮奎認為，單純的“堵”和“刪”是不夠的，更重要的是與用戶一起，建立起一道認知防線。

這正是新上線的“AI抖音求真”功能所承載的核心使命。它脫胎于2025年4月上線的“抖音辟謠卡”，并進行了全面升級，旨在通過“搜索場景精準觸達+推薦場景主動提示”的雙路徑，將事實和真相更主動、更全面地呈現給用戶。

在搜索場景，當用戶搜索一個謠言或存疑信息時，搜索結果頁會直接呈現一張“求真卡”。與舊版辟謠卡相比，新版的“AI抖音求真卡”變化很大。它借助大模型能力，全網搜集關于該謠言點的權威信息，并將其匯總呈現。頁面內容更加豐富，包括事件溯源、澄清信息、權威媒體報道、當事人發聲等。這背后，是人工策略與機器能力的結合，力求對一個謠言點的不同表達的相關搜索詞，都能實現精準覆蓋。

在視頻流場景，這是“AI抖音求真”全新上線的功能。大模型會在抖音上主動尋找那些容易產生誤解或談及疑似不實信息的視頻。在這些視頻的左下方，會出現一個提示框，寫著“AI求真 XXX事件核查”。用戶點擊后，即可跳轉到詳細的落地頁，了解視頻中所涉及內容的真實情況。

吳榮奎特別強調，這個功能主要針對的是“疑似虛假”或“容易產生誤解”的視頻。這意味著，視頻本身講述的可能是一件真實的事情，但由于創作者的表達方式、剪輯手法等原因，可能會對用戶造成誤導。而對于那些被明確判定為謠言的視頻，它們早已被謠言治理Agent“干掉”了。

目前，這項新功能剛剛于9月15日上線，日均曝光量估測可達1億左右。由于需要確保大模型識別的準確率，初期覆蓋的視頻量還相對有限，但未來會不斷擴大覆蓋面。

此外，“AI抖音求真”還與抖音的熱點專題進行了結合。在一些備受關注的熱點事件（如“張水華護士”事件）專題頁中，會加入“AI求真”組件，將該事件下的所有相關謠言點進行匯總，幫助用戶一覽事件中的事實全貌。

顯然，從“辟謠卡”到“AI抖音求真”，改變的不止是名稱和功能，更是平臺與用戶溝通方式的轉變。它讓用戶從信息的被動接收者，轉變為可以主動查證、交叉驗證的參與者。

網絡辟謠：一場沒有終點的“持久戰”

盡管AI帶來了前所未有的治理效率，但抖音辟謠的分享者們在整場活動中反復強調一個詞：“持久戰”。謠言的產生與治理，是一場永恒的、動態的博弈，挑戰依然巨大。
抖音辟謠團隊舉了幾個例子：

一是信源污染。比如，一些自媒體甚至大V將政策的補充說明錯誤解讀為“新規”，造成信源污染，增加了平臺查證的難度。

二是事件反轉。比如，“重癥老人銀行取款”事件在發酵過程中多次反轉，真相與謠言的界限在不同階段變得模糊。

三是等待辟謠結論的周期長。比如，“協和4+4”事件中，真假信息魚龍混雜，在官方最終通報出來前，內容平臺難以對所有信息點做出準確判斷。

對于這類動態發展的熱點事件，抖音的態度極為審慎。據介紹，抖音會啟動“爭議熱點事件管理規則”，對那些社會關注度高但事實尚不清楚的事件進行熱度限制，等待更權威的信息披露。同時，對于事件中一些明顯荒謬或無依據的猜測，會進行治理，但在治理尺度上會進行平衡。

在問答環節，針對大模型85%準確率意味著可能存在15%誤判的疑慮，抖音不實信息治理業務代表解釋，平臺為用戶提供了站內申訴和客服反饋渠道，如果核查確認誤判，會解除相關處置。

而面對AI生成謠言（AIGC a rumor）的挑戰。從AI生成內容的角度，抖音會通過技術手段識別或鼓勵創作者為AI生成內容打標。但“AI生成”并不等同于虛假；另一方面，無論內容是AI還是人編造的，都會被納入智能體的研判流程，其生成方式只作為輔助信號。

此外，對于辟謠的“收益”和“成本”如何計算的問題，抖音的答案非常清晰，用戶對于平臺的信任，是無法計算成本的：“打掉劣質內容產生的流量，會釋放給更多優質的創作者，這對于整個內容生態和平臺長期發展都是更好的事。”

結語

這場開放日，抖音系統地展示了它在謠言治理上的技術投入、產品實踐和底層邏輯。我們能很直觀地感受到，從依賴人工被動防御，到憑借AI主動進攻，再到通過產品引導用戶共建認知防線，一條更立體、更高效的謠言治理鏈路正在形成。

同時，值得注意的是，不實信息治理是一場持久戰。技術在迭代，謠言的形式也在進化。AI可以解決效率問題，但無法替代事實查證的艱辛，也無法抹平人與人之間的認知差異。

“AI抖音求真”提供了一個新解法，它讓真相的呈現多了一個高效渠道。但最終，清朗網絡空間的建成，仍需要平臺、媒體、專業機構和每一位用戶的攜手同行。

這場戰爭，沒有終點。