清掃AI時代的網絡謠言

鄭州市公安局民警走進社區開展打擊整治網絡謠言宣傳活動。 李東旭 攝

武陟縣公安局民警開展打擊網絡謠言宣傳進校園活動?！》迫?攝

2024年以來

河南網信部門共辟除涉豫網絡謠言240余條

自2023年年底河南警方開展打擊整治網絡謠言專項行動以來

累計偵辦網絡謠言案件3000余起

依法查處造謠傳謠網民5000余人

9月15日至21日，2025年國家網絡安全宣傳周活動在全國各地如火如荼開展，自覺抵制網絡謠言是其中一項重要宣傳內容。

“貨車司機途經河南時備胎丟失”“鄭州一網約車司機辱罵乘客”“許昌清潩河驚現兩條大鱷魚”……近期，我省公布多起網絡謠言典型案例，這些上榜信息造噱頭、博眼球，違背了社會主義核心價值觀，嚴重擾亂網絡秩序、社會秩序。

隨著短視頻平臺的迅猛發展與AI技術的廣泛應用，網絡謠言也呈現出新變化。連日來，記者走訪公安、網信等部門及專家學者，深入剖析網絡謠言的新特點、新趨勢及應對策略，讓謠言止于智者，共筑清朗網絡空間。

現狀：謠言多發 花樣翻新

今年3月，一則“有頂流明星在澳門輸了10億”的謠言在互聯網平臺傳播，引發網民熱議和猜測，相關話題迅速登上各大社交媒體全國熱榜，嚴重擾亂公共秩序。涉事網民徐某強被處以行政拘留8日處罰。

移動互聯網時代，在社交媒體與短視頻平臺構建的新傳播生態下，謠言傳播速度呈幾何級數增長。數據顯示，部分精心策劃的網絡謠言，其傳播量動輒千萬級，甚至上億。“一條蓄意炮制的蹭炒熱點謠言，可能會在發布后半小時內就沖上平臺熱搜、熱榜，引起全國關注?！笔∥W信辦互聯網違法和不良信息舉報中心負責人介紹。

網絡謠言的社會影響不僅在于其傳播量級，更在于其內容的“破壞性”。“一些涉及公共安全、重大自然災害、食品安全、社會治安以及國家政策等方面的謠言，因其與人民群眾生命財產安全和社會穩定密切相關，極易引發公眾恐慌情緒，形成傳播與恐慌互相推動的惡性循環。”鄭州市金水公安分局民警楊靖說。

記者從省委網信辦互聯網違法和不良信息舉報中心了解到，當前，涉豫網絡謠言主要集中在三農、教育、突發案事件、自然災害等領域。

如今年夏天，關于洪澇災害的謠言在我省一度集中傳播——

夏邑縣一網絡用戶在短視頻平臺發布題為《這就是我們大夏邑》的視頻，稱該縣發生洪澇災害。經核查，相關視頻內容事發地并不在夏邑，部分圖像實為去年發生在其他省份的暴雨場景。

網絡用戶“瞄一瞄”在某社交平臺連續發布視頻，稱“河南許昌湛北，種的煙葉已經不行了，這后面還能種啥”“今個水淹第八天，紅薯還行不行了”，視頻顯示大片農田被淹。經核查，系發布者將往年視頻重新剪輯，偽裝成近期事件發布。

憑空捏造、舊聞炒作、移花接木，造謠者不斷翻新手法編制謠言，嚴重污染網絡生態環境。針對這些不斷翻新的造謠行為，法律將如何懲處?河南警察學院偵查系教授王彬介紹，對造謠者的處罰主要由網信、公安和電信管理部門實施。

網信部門可以責令平臺履行平臺監管責任，對造謠傳謠賬號主體采取刪除違法違規信息、限流、禁言、永久封禁等措施；若平臺未履行內容審核義務導致謠言擴散，可責令平臺限期整改，或者依據《中華人民共和國網絡安全法》等法律法規對平臺予以行政處罰。

公安機關主要針對已涉嫌違法犯罪的個人或組織，一般依據《中華人民共和國治安管理處罰法》第二十九條的“故意散布謠言，謊報險情、疫情、災情、警情或者以其他方法故意擾亂公共秩序的”條款，進行相應行政處罰；情節嚴重的還將追究刑事責任。

電信管理部門依據《互聯網信息服務管理辦法》等法律法規對未盡到監管義務的互聯網信息服務提供者采取責令停業整頓、關閉網站等相關行政處罰。

背后：利益驅動 誘因交織

“我很后悔，為了增粉亂發信息，實在不該……”今年4月，郟縣網民張某在明知是虛假信息的情況下，在某短視頻平臺發布了一條“某自媒體主播在湖北某地走失”的視頻，被公安機關抓獲后，張某痛悔道。

明知信息虛假，為何仍要發布?經濟利益是核心驅動力?！安糠侄桃曨l平臺設有獎勵機制，只要用戶發布內容流量達標，就能獲得現金獎勵；還能吸粉引流，為自媒體賬號吸引廣告投放及后期直播帶貨鋪路。”偵辦此案的郟縣公安局民警仝世龍分析道。

受經濟利益驅使，網絡謠言相關的黑灰產業隨之滋生，最為突出的就是“網絡水軍”。“‘網絡水軍’以獲利為目的，活躍在各大網絡社交平臺，受雇后針對特定內容發布虛假信息，制造虛假流量，對網絡秩序形成嚴重干擾?！蓖醣蛘f。

調查顯示，網絡水軍的經營主體多為專業營銷公司、網絡工作室，甚至有專業團伙長期承接此類“訂單”。據某網絡謠言案件涉案人員吳某供述，“網絡水軍”通過批量注冊賬號，集中發布謠言、刷量，制造虛假熱度，通過控評壓制質疑聲音，甚至偽造“當事人”“知情者”身份為謠言背書，部分團伙還會聯動網絡營銷號進行多平臺同步擴散。

“上游是需求方，比如意圖抹黑對手的企業、渴望博眼球的個人；中游是中介機構，負責承接‘造勢’‘傳謠’訂單，對接供需雙方；下游是水軍執行層，通常由個人或小團隊利用專業工具批量操作賬號，同時，有技術支持方提供‘批量注冊賬號’‘自動刷量’等服務，形成‘需求—接單—執行—結算’的完整鏈條。這些行為涉嫌違法，若網絡社交平臺為水軍提供便利，需承擔連帶責任?！笔」矎d網安總隊相關負責人說。

除了經濟動因，還有諸多因素為網絡謠言推波助瀾。

鄭州市公安局民警張效仆認為，在一些突發事件中，官方信息發布前，人們對不確定性的恐懼會促使其主動搜尋并輕信能解釋現狀的信息，部分造謠者迎合了這種心理。一些網民樂于分享能帶來關注的驚悚、獵奇信息，并不關注其真偽，看到“爆炸性”內容便不假思索轉發，在無意間成為謠言的“二傳手”。

“面對海量網絡信息，執法部門遭遇‘發現難、認定難、取證難、溯源難’的困境。行政處罰和刑事追訴均有法定門檻，致使部分危害程度不一但未構成犯罪的造謠行為難以被規制。同時，平臺為提升用戶黏性，算法會優先推送易引發網民情緒波動的內容，這類內容常夾雜謠言，加速謠言傳播。”鄲城縣公安局民警王愛民說。

趨勢AI入局 真偽難辨

打開某人工智能生成軟件，輸入幾個當下熱詞，指令其生成一條本地熱點信息，不到30秒，一條“新鮮”的謠言便出爐了。圖文并茂，甚至還有細節描述與視頻佐證，很難讓人相信這是假的。采訪期間，鄭州市金水公安分局民警周圣菲為記者演示了一條AI謠言的生成過程。

隨著ChatGPT、DeepSeek等生成式人工智能工具廣泛應用，使用AI工具炮制謠言，已成為網絡謠言新動向。今年以來，我省先后處置了“清豐縣第二初級中學著火”“平頂山葉縣一名8歲男童被醉酒男子揮舞塑料椅擊打頭部”等多起由AI工具生成的謠言案事件。

省委網信辦互聯網違法和不良信息舉報中心負責人指出，網絡謠言已邁入智能化“深度偽造”新階段。AI生成謠言只需簡單指令，支持批量生成，極大降低編造門檻；生成內容仿真度極高，甚至能通過換臉技術實現“深度偽造”；不法分子還能借助算法分析，為特定人群量身定制謠言，通過封閉或私密渠道精準擴散，增加發現與追蹤難度。

值得注意的是，AI謠言的產生并非全出于主觀惡意，還可能源于“AI運算偏差”，即：因AI訓練語料不足，導致在回答問題時產生偏差，生成的內容看似合理，實則虛假甚至違背常識。

今年年初，一則“80后群體死亡率已突破5.2%”的謠言在網絡流傳，該數據據稱引自第七次全國人口普查，被部分人誤作官方權威信息。但實際情況卻是，此次普查于2020年完成，不可能預測2024年的死亡率；且專業統計中死亡率通常以千分率表示，而非百分率。相關專家推測，這則謠言可能源于AI大模型對專業概念的誤解和錯誤推算?！斑@提醒我們在發布AI生成內容時必須保持高度審慎，把好審核關?！蓖醣蛑赋?。

面對迷惑性極強的AI謠言，該如何有效識別?楊靖給出小妙招：此類內容常存在“不自然”痕跡，如文字邏輯混亂，圖片人物手指扭曲變形，視頻人物表情僵硬或動作卡頓等?！案杈琛昝馈瘍热?，”他特別強調，“若信息完全符合大眾情緒期待，且無任何質疑聲，來源模糊不清，需警惕其是AI定制的謠言。”

應對共治聚力 守護清朗

“疑似使用了AI生成技術，請謹慎甄別”。近期，許多網友在短視頻平臺瀏覽內容時，會注意到視頻下方有醒目的風險提示。長按屏幕，還能一鍵舉報違規視頻。

9月1日起，《人工智能生成合成內容標識辦法》正式施行，明確規定互聯網服務提供者需對AI生成的文本、音頻、圖片、視頻等內容添加顯著標識。近年來，以該辦法為代表的AI相關法律法規陸續出臺，如《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等，向AI使用者和平臺管理者亮明了紅線，為治理提供依據，也為打擊AI謠言注入強心劑。

省委網信辦互聯網違法和不良信息舉報中心負責人認為，社會熱點事件易引發網絡謠言，涉事相關部門需第一時間回應。若權威信息缺位，公眾便會轉向小道消息，助長謠言傳播。

監管層面，我省網信、公安部門聯合開展“清朗”“凈網”專項行動，不斷完善網絡謠言巡查監測、核查反饋、會商研判及處置機制。省委網信辦推出了“智慧網信·辟謠助手”應用，提供一站式謠言查詢服務；定期曝光典型案例以案釋法；指導媒體及平臺加強AI內容審核，從嚴處置違規賬號。省公安廳與科研機構、企業開展合作，進一步提高對惡意深度偽造信息的監測預警和快速識別能力。

技術層面，專家建議各網絡平臺提升謠言溯源技術，實現快速定位造謠源頭；同時研發AI謠言識別工具，提高虛假圖文視頻的攔截效率，對可疑內容自動標記并減少推薦。

根治網絡謠言更需公眾素養提升?！懊恳淮坞S意點贊、轉發，都可能成為謠言擴散的助推器。公眾應樹立造謠傳謠即違法的意識，遇到可疑信息優先通過官方渠道核驗，不做圍觀看客?！蓖醣蛘f。

共筑清朗網絡空間，需要我們每個人用行動去擔當。（河南日報記者 王斌）