生成式人工智能輿論風險治理的智庫方案

生成式人工智能推動了數字化向數智化的轉變，為人類社會創造了巨大的發展機遇，同時也帶來了潛在的風險隱患。社交機器人和智能偽造為生成式人工智能影響輿論提供了技術上的可能性。社交機器人通過密集發布主題性強、標簽化程度高的消息，在短時間內能實現二級傳播甚至N級傳播，進而建立話語優勢、構建輿論磁場，快速吸引、聚集相同立場用戶，最終成長為意見領袖型社交機器人賬號。此外，生成式人工智能還可能被某些勢力利用，通過偽造音頻、視頻，構建失真混亂的言語敘事，造就虛假錯誤的“集體意識”“輿論共識”。智庫作為具有專業性和跨領域的研究機構，在咨政建言、理論創新、輿論引導、社會服務、公共外交等方面擁有重要價值，在生成式人工智能輿論風險治理方面具有獨特優勢。要充分認識生成式人工智能輿論的潛在風險，通過智庫加強針對生成式人工智能輿論風險的監管和治理。

就生成式人工智能可能被利用引發輿論風險而言，傳統的單一主體治理模式已難以應對這種跨技術領域、跨不同地域的復雜問題，需要建立多元主體協同治理的新范式。智庫在多元協同治理平臺建設中可以扮演關鍵角色。一方面，智庫憑借其獨特的平臺優勢和學術號召力，能夠有效匯聚計算機科學、法學、倫理學、傳播學、國際關系學等不同學科背景的專家資源，構建起跨學科、跨領域的高水平智力支持網絡。這種跨學科的智力網絡能夠有效應對復雜技術帶來的綜合治理挑戰，避免單一學科視角的局限性。另一方面，智庫作為連接各方的橋梁能夠有效打破部門壁壘和行業界限，構建起多元主體參與的協同治理合作伙伴網絡。這個網絡通常包括政府部門、科研機構、行業協會、企事業單位等多方力量，形成資源互補、信息共享、行動協同的治理共同體。智庫通過建立定期對話機制、組織聯合調研、開展合作項目等方式，就人工智能引發輿論風險的問題推動各方進行深度交流和務實合作。

通過智庫成果專報、專家建議等多元化渠道積極向有關部門建言獻策，推動加快出臺針對社交機器人、深度偽造等生成式人工智能的政策法規。一是要建立針對生成式人工智能突發輿情事件應急處理的法律保障體系。通過前瞻性立法和制度設計明確各類突發事件輿情處置的主體責任、處置流程和處置權限，確保相關事件發生時能夠第一時間啟動應急響應機制，依法依規開展處置工作，做到有法可依、有章可循，最大限度防止突發事件對國家安全和社會穩定造成負面影響。二是要構建針對生成式人工智能監管的法律責任體系。要加大對技術濫用行為的法律懲治力度，重點針對技術開發、數據采集、模型訓練、應用部署等關鍵環節，建立健全法律追溯和責任認定機制。要通過立法明確技術開發者和使用者的法律責任，對利用社交機器人、深度偽造等技術從事輿論操縱、網絡攻擊、虛假信息傳播等違法活動的組織和個人進行嚴厲懲處，從源頭上遏制技術濫用風險，切實維護網絡空間清朗，為我國高質量發展營造有利的國際輿論環境。

首先，要不斷深化對生成式人工智能內容識別系統的研究。要從用戶信息、賬戶屬性、活躍時間、消息和評論內容等多項參數構建指標體系，打造基于機器學習、自然語言處理等技術的智能識別系統，確保第一時間精準識別出哪些內容是通過社交機器人、智能偽造等人工智能技術生成的，監測是否存在惡意抨擊和輿論操縱，并及時清除惡意賬號及其發布的消息和評論。還要制定風險等級分類標準，建立基于內容風險和影響范圍的分級分類體系，為差異化治理提供依據。其次，要組織智庫專家加快研究如何有效反擊、化解、處置輿論攻勢。一是要幫助民眾深入了解社交機器人運營的虛假賬號的特點、輿論操控的慣用手段。智庫理應承擔起生成式人工智能民眾教育的責任，幫助民眾熟悉智能技術偽造編織多模態虛假信息、操縱輿論走向的方法路徑，讓民眾提高防范意識、準確甄別并自動過濾某些生成式人工智能發布的別有用心的虛假錯誤信息，防止被輿論操控，引導民眾為營造良好的輿論環境作出貢獻。二是要提醒民眾保持高度警惕，審慎對待各類自媒體平臺傳播的信息。目前，利用生成式人工智能制作的網絡虛假信息呈現出制作專業化、傳播精準化、內容逼真化等新特點，普通民眾很難憑肉眼直觀辨別，一些自媒體平臺是傳播這些虛假信息的“重災區”。要著力提升全民數字素養與風險防范意識，重點防范一些自媒體平臺發出的未經證實的消息。三是建立效果評估與持續改進機制。要從多個維度評估教育效果，并建立反饋循環機制，收集參與者對教育活動的評價和建議，及時調整教育策略。另外，還要選擇一定比例參與者進行定期追蹤，觀察他們在媒介素養和風險防范意識方面的變化，持續改進教育內容和方法。

一方面，智庫應當著力打造一支“輿情隊”，做好輿情的監測分析、風險研判、應急處置等工作。這支隊伍以社交機器人的消息和評論、智能偽造制作的視頻和音頻為語料來源，不斷加強輿情監測，收集整理相關輿情信息，分析研究輿情發展趨勢，做好風險研判，構建應急處置機制。要深刻把握社交機器人消息和評論、深度偽造制作的視頻和音頻的話語特征，用好話語分析這把利器，加強話語分析，特別是污名化妖魔化涉華言論的話語分析，努力揭示生成式人工智能影響輿論的話語邏輯，以此更精準有效地尋找破解之道。另一方面，應當有意識地建設一支“宣傳隊”，講好中國故事、粉碎不實謠言、營造良好外部環境。要引導智庫積極參與“構建更有效力的國際傳播話語體系”使命任務，努力破解“有理說不清、說了傳不開、傳了對方不想聽聽不懂”等不利局面，主動向世界講好中國故事、傳播好中國聲音，徹底粉碎利用生成式人工智能發布別有用心的不實言論和污名化音視頻作品帶來的負面效應，營造有利于中國發展的國際輿論環境。

作者系長沙學院外國語學院副教授

來源：中國社會科學報

責任編輯：閆勇

新媒體編輯：宗敏

如需交流可聯系我們