如何打破AI謠言“圍城”守護信息時代的真實？

　　□中國婦女報全媒體記者李瑞琪

　　“天吶！上虞工業(yè)園著火了，濃煙都把天空遮住了，還不斷有爆炸聲！”一則以AI合成而來的“上虞區(qū)工業(yè)園區(qū)火災(zāi)”視頻在網(wǎng)絡(luò)上快速傳播。視頻里，火勢兇猛、震撼的畫面讓網(wǎng)民不斷轉(zhuǎn)發(fā)，短時間內(nèi)瀏覽量急劇攀升，周邊群眾憂心忡忡。然而，經(jīng)民警核查，視頻中的火災(zāi)場景為AI技術(shù)拼接其他視頻偽造的。據(jù)悉，該團伙利用人工智能技術(shù)制作虛假視頻超3000個。

　　這起典型案件正是當下AI謠言泛濫的縮影：近年來，Al技術(shù)的快速更新讓謠言進入高效生成、精準擴散的新階段，持續(xù)沖擊著社會秩序與公眾信任。AI謠言為何傳播如此之快？又為何能輕易突破公眾的認知防線？這些虛假信息又是如何從個體誤導快速蔓延至社會層面？為此，記者進行了相關(guān)采訪。

　　從經(jīng)濟損失到社會信任侵蝕

　　AI技術(shù)的崛起徹底改變了謠言的傳播邏輯，其傳播范圍、擴散速度與危害程度都遠超傳統(tǒng)謠言。清華大學新聞與傳播學院2024年發(fā)布的研究報告顯示，2023年以來，網(wǎng)絡(luò)謠言中AI生成內(nèi)容占比顯著上升，信息量同比增長達65%，形成了“需求分析—內(nèi)容生產(chǎn)—精準投放”的產(chǎn)業(yè)化造謠鏈條。在傳播速度上，AI生成的謠言借助算法推薦實現(xiàn)“秒級擴散”，能在短時間形成巨大的輿論風暴。

　　然而AI謠言的破壞力早已超出單一事件本身，記者梳理發(fā)現(xiàn)，AI謠言在經(jīng)濟、社會、災(zāi)害救援等層面的破壞力觸目驚心。

　　在經(jīng)濟層面，據(jù)國家反詐中心數(shù)據(jù)，2025年上半年AI換臉詐騙案件涉案金額超68億元，單起案件最高損失達2000萬元。某涉案機構(gòu)通過AI分析社交平臺熱詞，針對高關(guān)注度話題批量生成虛假信息，最高峰時單日可產(chǎn)出4000至7000篇假新聞，關(guān)聯(lián)賬號達800余個，通過流量變現(xiàn)每日非法牟利超萬元。

　　社會層面的危害同樣不容小覷。“廣州限制外賣配送”的虛假信息傳播期間，不法分子借機使用AI工具批量生成多篇看似權(quán)威的“政策解讀”文章，通過不實文章引流牟利，不僅導致外賣行業(yè)從業(yè)者陷入恐慌，更是直接擾亂了正常的市場秩序。

　　而在災(zāi)害救援場景中，AI謠言的危害更顯致命：四川宜賓筠連山體滑坡事故發(fā)生后，某賬號為吸粉引流，使用AI工具生成“4名遇險學生被路過司機救出”的虛假信息，引發(fā)大量轉(zhuǎn)發(fā)誤導，既干擾了救援信息的準確傳遞，更引發(fā)公眾對救援行動真實性的質(zhì)疑，極大消耗社會救援的信任資源。無獨有偶，新疆庫車5.0級地震后，各類AI拼接的虛假圖文帖文廣泛傳播，虛假的“庫車市地震導致多處房屋倒塌”等信息直接干擾了救援指揮決策，延誤了搜救效率。

　　反復的AI謠言與辟謠，對公眾心理與社會信任體系造成多維度沖擊。西安交通大學人文學院社會學系副教授孫曉娥指出，AI謠言通過情緒煽動傳遞恐懼不安，既會讓普通人陷入心緒不寧、產(chǎn)生不安全感，又經(jīng)多人互動后更易演變?yōu)楣娂w性恐慌，若平臺、媒體、政府未能及時提供準確信息以打斷恐懼信息鏈，不僅可能引發(fā)網(wǎng)絡(luò)事件、破壞社會安寧，還會嚴重損害政府公信力。長期來看，這種謠言屢禁不止、真相滯后的情況更會削弱公眾對政府治理與平臺的信任，動搖社會協(xié)作的基礎(chǔ)。

　　公眾為何難辨AI謠言？

　　受訪專家表示，AI謠言之所以能輕易突破公眾心理防線，核心在于其精準擊中了當下社會的認知痛點、心理弱點與信息環(huán)境缺陷，再加上逼真的內(nèi)容呈現(xiàn)，讓辨別變得異常困難。

　　一方面，公眾對AI技術(shù)的陌生感與敬畏感，使得AI生成的內(nèi)容天然帶有“技術(shù)背書”的光環(huán)。多數(shù)用戶缺乏辨別AI生成內(nèi)容的專業(yè)能力，面對看似邏輯嚴謹、細節(jié)豐富的圖文音視頻，容易默認其具備“數(shù)據(jù)支撐”或“技術(shù)驗證”的權(quán)威性，難以察覺其中的事實漏洞。正如世界互聯(lián)網(wǎng)大會人工智能專業(yè)委員會主任委員曾毅所言，AI生成內(nèi)容往往“語言表達看似合理，但內(nèi)容實則虛假甚至違背常識”。這種“逼真的虛假性”讓普通用戶難以甄別。

　　另一方面，情緒驅(qū)動更成為AI謠言突破公眾心理防線的“助推器”——它能直接削弱人們的理性甄別意識。AI謠言的制造者往往精準捕捉社會熱點與公眾情緒痛點，比如災(zāi)難發(fā)生后的擔憂、社會事件中的焦慮等，針對性生成虛假信息。在強烈的情緒沖擊下，人們的理性思考能力會下降，更傾向于相信與自身情緒共鳴的內(nèi)容，并主動轉(zhuǎn)發(fā)擴散。孫曉娥表示，生成式AI能模仿人類表達習慣，偽造文本、圖像、視頻甚至語音，模糊“真實”與“虛假”的邊界，因此普通大眾很難在日常生活中，或者瀏覽新聞的間隙，特意去識別其是否為AI謠言。

　　此外，AI生成內(nèi)容的高度逼真性，突破了傳統(tǒng)的辨別能力。如今，AI換臉能讓名人“說出”從未講過的話，AI合成視頻能制造出“真實”的災(zāi)難現(xiàn)場，甚至可以模擬官方媒體的播報風格。有網(wǎng)友吐槽：“以前還能通過畫面模糊、細節(jié)粗糙分辨假視頻，現(xiàn)在AI生成的內(nèi)容連光影效果都挑不出毛病，根本分不清真假。”

　　多方合力，筑牢AI謠言的“防火墻”

　　面對AI謠言的蔓延態(tài)勢，相關(guān)法律專家建議，要構(gòu)建“法律規(guī)制+全民防范+技術(shù)治理”的多元體系，才能筑牢信息安全的防線。

　　法律層面，明確責任主體是關(guān)鍵。北京華資律師事務(wù)所律師張洪嘉表示，生成者若針對公民日常造謠，侵犯肖像權(quán)、名譽權(quán)，需承擔停止侵權(quán)等民事責任；故意編造內(nèi)容引發(fā)恐慌、擾亂社會秩序，違反治安管理處罰法，面臨行政處罰；情節(jié)嚴重的，觸犯刑法編造、故意傳播虛假信息罪，承擔刑事責任；傳播者中，惡意傳播者為博流量或明知是謠言仍擴散，造成不良影響會被行政處罰，引發(fā)重大事故、破壞社會穩(wěn)定的，同樣可能構(gòu)成編造、故意傳播虛假信息罪的共犯，承擔刑事責任，同時也需承擔相應(yīng)民事侵權(quán)責任。無意識傳播者造成嚴重后果、傷害他人權(quán)益的，也需承擔民事責任。

　　張洪嘉補充，依據(jù)《人工智能生成合成內(nèi)容標識辦法》，平臺要對AI內(nèi)容標識檢驗、監(jiān)測甄別，發(fā)現(xiàn)謠言傳播或接到舉報不及時處理，將被行政處罰，失職致嚴重危害的，承擔連帶民事賠償責任。

　　在此基礎(chǔ)上，孫曉娥提出，需明確“技術(shù)開發(fā)者”“平臺”與“用戶”三方的問責與追責邊界——高風險AI系統(tǒng)（如深度偽造工具）需強制標注，平臺需對用戶生成的AI內(nèi)容承擔審核義務(wù)，對生成和散布AI謠言的相關(guān)主體依法處罰，嚴重時追究民法與刑法責任。

　　公眾是抵御AI謠言的重要主體，提升全民防范意識與辨別能力至關(guān)重要。孫曉娥指出，預(yù)防AI謠言問題于未發(fā)生之前，即防患于未然更為重要。對此，張洪嘉表示，公眾提升辨別能力可從四方面著手：增強核查信息意識，從官方、權(quán)威渠道獲取信息；注重細節(jié)，AI內(nèi)容常存在人物手指異常等缺陷；核驗邏輯合理性，警惕時間矛盾等問題；善用辟謠工具，通過官方平臺驗證疑似謠言。相關(guān)部門也需采取防范措施：強化技術(shù)監(jiān)管，建立謠言治理閉環(huán)機制；開展專項整治，打擊AI謠言及違規(guī)賬號、平臺；推進普法與科普宣傳，普及識別技巧和法律后果；健全協(xié)同機制，多部門聯(lián)動打擊AI謠言全鏈條，搭建舉報通道。

　　孫曉娥還建議，相關(guān)部門也需主動作為，強化公眾“識別意識”與“免疫力”。一方面，將“AI謠言識別”納入基礎(chǔ)教育與社區(qū)培訓，對公眾（尤其老年人）進行“來源核查”等辨別方法的宣傳與培訓；另一方面，應(yīng)重視構(gòu)建正確與準確信息生態(tài)，政府進行常態(tài)化信息發(fā)布，平臺應(yīng)設(shè)立“AI謠言澄清專區(qū)”，鼓勵普通用戶溝通參與信息核查，形成“官方信息發(fā)布+平臺辟謠+公眾監(jiān)督”的良性互動。

　　平臺與技術(shù)層面的治理同樣不可或缺。“以AI治AI”成為高效解決方案。據(jù)短視頻相關(guān)從業(yè)人員介紹，平臺通過引入AI大模型開展謠言治理，通過“提取信息—聯(lián)網(wǎng)檢索—研判處置”的全流程自動化機制，將謠言處置時效從以天提速到以小時為單位，為快速遏制謠言擴散發(fā)揮了關(guān)鍵作用。

　　孫曉娥建議，平臺與技術(shù)開發(fā)者還需建立“預(yù)防—阻斷—應(yīng)對”機制：要求技術(shù)開發(fā)者與平臺建立完整的“AI謠言識別機制”，在AI謠言生成與散布初期即進行識別與阻斷，避免其通過算法推薦大規(guī)模傳播，形成“技術(shù)識別+平臺阻斷+政府問責”的全流程治理閉環(huán)。

　　AI技術(shù)的發(fā)展是一把“雙刃劍”，它既為生活帶來便利，也催生了謠言等新問題。治理AI謠言，不僅需要法律的剛性約束、技術(shù)的精準防控，更需要每一位公眾的理性參與。唯有多方合力、久久為功，才能打破AI謠言的“圍城”，守護好信息時代的真實與信任。