AI制造“頂流明星輸十億”謠言吸睛，別讓人工智能走錯了路！

AI制造“頂流明星輸十億”謠言吸睛，別讓人工智能走錯了路！

吃瓜群眾熱議的“有頂流明星在澳門輸了10億”，終于有了結果。

兩個字：謠言！

并且，是AI生成的謠言。

媒體報道，公安網安部門查明，網民徐某強為博取流量、謀取非法利益，于2025年3月10日10時，使用軟件“某書”中AI智慧生成功能，輸入社會熱點詞制作了標題為“頂流明星被曝境外豪賭輸光十億身價引發輿論海嘯”的謠言信息，并通過互聯網平臺對外發布，造成謠言迅速傳播擴散，引發大量網民議論，誘發相關謠言、話題等頻繁登上熱搜熱榜，嚴重擾亂公共秩序。公安機關根據相關法律法規，對徐某強處以行政拘留8日處罰。
在當今時代，AI技術的迅猛發展正深刻改變著我們的生活，其強大的生成能力為諸多領域帶來了創新與便利。然而，技術的進步猶如一把雙刃劍，當AI被別有用心之人利用，淪為制造謠言的工具時，所帶來的危害不容小覷。AI制造謠言吸睛，這一現象必須引起我們的高度警惕，別讓人工智能在錯誤的道路上漸行漸遠。
一段時間以來，AI生成謠言的事件頻發，其影響范圍之廣、危害程度之深令人擔憂。從自然災害到民生健康，從經濟領域到公共安全，AI謠言幾乎無孔不入。在自然災害發生時，一些人利用AI制作虛假的現場圖片和視頻，夸大災情，制造恐慌氣氛。比如，西藏定日縣地震、廣東冰雹災害以及新疆拜城縣地震期間，均出現了AI生成的虛假圖片和不實信息，誤導公眾，干擾救援和救災工作的正常開展 。在民生健康領域，“80后死亡率突破5.2%”的虛假報告借助AI偽造的“權威數據”和“專家解讀”視頻，引發了網絡集體焦慮，背后竟是個別網民為售賣保健品而蓄意為之 。經濟領域同樣未能幸免，“國內首例智能駕駛致死案宣判”等謠言，嚴重影響企業聲譽和市場秩序。
AI之所以容易被用于制造謠言，一方面是其自身存在技術缺陷，如“AI幻覺”。大語言模型基于概率統計機制，在數據缺失或不準確時，會自動編造看似合理實則虛構的內容。另一方面，AI工具的低門檻和便捷性，使得造謠成本大幅降低。造謠者只需簡單輸入指令，就能批量生產仿真度高的虛假信息，包括以假亂真的圖片和視頻 。此外，監管的滯后性與AI技術的快速發展形成鮮明反差，使得相關法律法規難以對AI謠言及時進行有效約束。

客觀講，造謠成本太低是很重要的因素。“行政拘留8日”，是不是有些隔靴搔癢呢？相關法規，應該跟進了。
AI謠言的泛濫帶來了諸多嚴重危害。

首先，它誤導公眾輿論，使人們基于虛假信息形成錯誤的認知和判斷，進而影響社會的穩定和諧。其次，破壞新聞行業的信譽，當虛假新聞充斥網絡，公眾對新聞媒體的信任度會大幅下降。再者，損害企業和個人的聲譽，給當事人造成巨大的經濟損失和精神傷害。更為嚴重的是，AI謠言可能對社會秩序、國家安全甚至人民群眾的生命財產安全構成威脅。
要遏制AI謠言的滋生和傳播，需要多方共同努力。

政府應加強對AI技術的監管，完善相關法律法規，明確AI技術使用的邊界和責任，加大對造謠者的懲處力度。比如，細化《中華人民共和國治安管理處罰法（修訂草案）》對“散布謠言”的認定標準，出臺網絡謠言行政處罰裁量基準的具體規定和指導意見 。同時，推動建立多部門協同監管機制，加強對AI技術研發、應用等全鏈條的監督管理。
平臺也應肩負起社會責任，建立健全內容審核機制，利用技術手段加強對AI生成內容的識別和監測。構建負責任的算法推薦機制，對疑似謠言內容實施分級分類管控，減緩謠言的傳播速度 。
公眾則要提高自身的辨別能力和媒介素養，增強對AI謠言的警惕性。遇到所謂的“爆炸性新聞”，做到不輕信、不轉發、不擴散，通過官方平臺驗證信息，發現AI謠言立即舉報，保存證據協助溯源。不當“受害者”，更別當“幫兇”。
AI技術的發展是大勢所趨，它為人類社會帶來的積極影響不可估量。但我們絕不能忽視AI被濫用所帶來的風險，尤其是AI制造謠言的問題。

AI，編故事編的不錯，但不能成為制造謠言的工具！