肖珺：如何優化網絡生態治理？

來源 | 人民論壇網-人民論壇雜志

轉載請注明來源

“十五五”規劃綱要指出：“健全網絡綜合治理格局，完善網絡生態治理長效機制，規范網絡內容生產、信息發布和傳播流程，督促互聯網企業履行社會責任。”網絡生態治理在國家治理中占有重要地位，面對生成式人工智能技術的快速發展和社會普及，人機協同的新應用、新現象和新問題不斷涌現。當前，人機社會網絡生態治理面臨哪些難點？如何提升媒介化治理？推薦閱讀武漢大學媒體發展研究中心副主任肖珺在《人民論壇》的最新刊文。

人機社會網絡生態治理面臨的難點

人類社會正在共同面對人工智能、大數據等新技術新應用不斷涌現帶來的新問題，傳播生態重要的變化是，逐漸脫離人類中心的交往模式，轉向人與機器等多樣主體共生的語境。數字化、網絡化、平臺化、智能化的發展大勢，給網絡生態治理帶來新議題，也提供新的可能性。網絡生態治理建立在全球人工智能開放生態的基礎上，那么，著眼深入推進國家治理體系和治理能力現代化目標，當前的薄弱環節，即我們正在面對的難點主要體現在以下幾個方面。

面對人機共生新圖景，網絡生態治理將面對多方共治新格局。“十五五”規劃綱要中，關于“人工智能+”治理能力的發展目標包括，要“探索構建自然人、數字人、智能機器人等協同的安全治理體系”。在一定程度上，這是對人類社會已經邁入“人—機—人”平行存在、交互共生的人機社會的政策回應。大型語言模型、算法決策系統等機器智能，不僅具備語言理解、信息整合、判斷生成、作品產出等能力，而且通過人類實現對這些能力的運用和不斷創新，深入“參與到人類社會的關鍵領域（如治理）”，這不僅改變社會構成，而且是把純粹的、以人類為唯一行動者的社會，轉型為人類與機器協同的人機社會。人機社會比較本質的變化是，機器不再僅僅是人類生產與生活的工具，而成為具備與人類共生、共情、共識和共作的交往和行動主體，這使得機器智能快速、普遍和深入地嵌入人類社會運行系統中。

“人機社會”的概念指向三重內涵。首先，網絡生態治理，將是面向自然人、數字人，以及智能機器人等多方主體的公共安全治理體系；其次，強調生成式人工智能作為技術基礎設施，對人類社會交往（經濟、政治、法律、道德、文化等）帶來的整體性塑造；再次，指向人機交往的可能風險，當人類社會開始改變以人為中心，或以人為主導的傳播交互方式，就會出現技術性依賴、虛擬交往成癮、人機治理關系倒置以及社會不平等問題，將造成高度不確定性的治理困境。近年來，以中美為代表的全球主要國家，都在快速提升基礎設施建設的智能化領先水平，人機社會將被嵌入、滲透，以及彌散至互聯互通、多樣感知，且品類豐富的全球溝通平臺中，數智化信息協同網絡，正同步推動人類機器化和機器人類化的加速融合。

全球領先平臺加速完善AI生態系統，人機協同行動成為現實，這將大幅度增加對人機混合行為的治理難度。在人機融合復雜社會系統中，各種社會活動通過人機交互，可在大時空尺度上形成數字化連接，這給社會治理帶來較大挑戰。近一年，全球領先平臺深度優化人機交互功能，以收購、開源等方式，提升人機交流質量、用戶黏性，并拓展應用場景，加速完善的AI生態系統使得人機混合行為日益普遍和深入。例如，2025年12月，Meta（原Facebook）在歷經較短時間的談判后，以數十億美元收購源自中國的AI應用Manus。Manus是像人一樣，可以調度各種工具，并解決復雜問題的AI智能體（Agent），可以賦予Meta用戶更強大的社會行動力，完成報告寫作、財務分析、旅行規劃等復雜任務。Manus將被整合到Meta旗下的Facebook、Instagram，以及WhatsApp、Workplace等平臺的VR/AR生態系統中，用戶將從與AI“聊天”，升級到聯合AI“做事”。

人機混合行為在虛實融合的社會交往系統中，將涌現大量治理新課題。可預判的是，這將會直接增大數據跨境流動和監管合規難度，并導致算法“黑箱”帶來的責任真空難題。仍以Manus與Meta生態系統為例。截至2025年12月初，Manus已累計處理超147萬億個詞元（Token），啟動8000多萬臺虛擬計算機，為全球數百萬用戶提供服務。人機混合行為產生后，智能體的強任務規劃與自主執行能力，將導致人機交互點的分散化、責任鏈條的碎片化，以及算法機制的非解釋性，高風險社會治理問題一旦發生，將出現無主體、無對象治理之困，進而可能會對社會體制產生深層次的影響。2026年初，OpenClaw作為開源智能體項目在全球引發安裝熱潮，其憑借強大的自動化任務處理能力與開放式插件生態，而被快速應用到個人用戶、企業，以及金融、能源等關鍵行業。同時也出現主機被接管、竊取用戶關鍵信息、泄露敏感信息，以及金融詐騙、無視用戶指令等安全問題。當前，AI大模型迭代速度較快，正成為推進全球信息秩序變化的關鍵力量。全球海量用戶的個人敏感信息、辦公信息、商業數據、行為流動數據等，在人機混合行為中不斷運行、遷移、滲透和交匯，人機交往以無法估量的混合數據方式，與有的國家的法律法規產生摩擦和沖突，看似去中心化的透明世界，卻令算法“黑箱”現象更加顯著。網絡生態治理的關鍵，是對基礎設施和自動化行為的掌控能力，否則，數據獲取、安全維護等高昂成本，容易成為社會治理壁壘。

人機交互平臺虛假信息尚難根治，有可能破壞輿論秩序和社會穩定，加大社會安全認知風險。AI將加劇虛假信息的多樣性和病毒式傳播，在互聯網上，深度偽造、假新聞及虛假信息等問題頻發。2026年，央視“3·15”晚會，揭露生成式引擎優化（簡稱GEO）技術被濫用的產業亂象，如通過批量制造虛假信息、系統性“投喂”AI大模型等方法，實現對AI回答結果的操控，大幅度提升所謂品牌“優品”或虛擬產品的曝光度，這被稱為給AI“投毒”的黑產。2025年4月以來，中央網信辦開展“清朗·整治AI技術濫用”專項行動，從公布的一系列案例可見，利用AI技術制作發布謠言、不實信息、色情低俗內容，以及假冒他人、從事網絡水軍活動等，已是社會突出問題。網絡生態治理將面對的較大挑戰是，AI加劇的虛假信息生產，在政治信息、社會事件等公眾高度關注的話題領域，已成為認知風險的根源之一。

人機交互平臺虛假信息層出不窮的現象，勢必在相當長時間里對輿論秩序造成破壞。其中，多模態生成技術（如Sora）的成熟，使得偽造視頻和圖像在精細度上已趨近現實。深度偽造可能導致公眾在面對突發社會事件時，因無法判別證據的真偽而產生認知偏差。同時，AI生成的虛假信息，通過夸大事實、強烈情感刺激，來“投喂”平臺算法機制，又會加速輿論場的劣化趨勢。尤其需防范的是，某些跨國利益集團利用AI技術構建大規模自動化賬號矩陣，針對特定議題制造虛假的民意傾向，進而帶來全球性的系統化價值觀偏見和沖突。此外，AI驅動的信息戰，即刻且明顯地改變人類社會沖突中的輿論格局，進而影響社會心理和國際政治。

人機情感交互催生自然人新型心理問題，加劇平臺用戶的態度極化，將明顯加重青少年和老年人的身心壓力。生成式人工智能，深度介入互聯網平臺的信息檢索、內容生產和情緒傳播等領域，呈現向深層認知塑造與情感交互演進的趨勢，網絡空間的風險形態進而轉變。由于大語言模型（LLM）往往被訓練成為過度順從和諂媚（Sycophancy）用戶，聊天機器人會出現過度迎合用戶的現象，通過情緒模仿和阿諛奉承，使自然人浸潤于人機交互產品提供的，犧牲真實性、缺少“道德自律”的虛擬環境里，進而催生人類的新型心理問題。可預判的一點是，AI通過模擬人類情感、介入人際連接網絡，逐漸成為社會負面情緒的催化載體與行動意愿的隱性干預主體。人機情感交互產品的全球用戶基數較大，市場影響力較強。人機交互平臺，通過信息過濾、算法推薦和情感傳播等機制，在一定程度上加劇群體的態度極化。例如，《華爾街日報》披露的“Facebook檔案”（The Facebook Files）顯示，平臺內算法模型已被設計為優先推送引發用戶憤怒的內容。不過，人們即便意識到態度極化的風險，當前的全球網絡環境和用戶心理特征也很難優化公共討論空間。

網絡輿論治理的難題在于，一方面，人機對話的積極回應和反饋循環，使得用戶自身具有的情緒化、依賴性、偏執化等心理缺陷，較難走出自我態度極化的困境；另一方面，用戶通過同質化、煽動性的AI生成內容，快速形成情感共同體，態度極化使得社會動員模式呈現明顯的情感中心主義特征。網絡生態治理事關人民群眾切身利益，需持續營造風清氣正的網絡空間。同時，人機情感交互中自然人頻繁、沉浸式與聊天機器人互動后，機器正反饋的設計特性、諂媚式回應及擬人化交互，容易催生情感幻覺。尤其對青少年、老年人而言，更容易產生身心壓力，導致情緒異常和態度極化，進而增加網絡生態治理中的社會情感風險。

優化網絡生態治理的媒介化治理對策

人工智能通過廣泛連接、相互關聯的傳播，推動與智能媒介緊密相關的傳播過程的整體變化，并與文化等社會變遷之間生成相互依存的媒介化（mediatization）系統。人機社會的所有元素，都與智能媒介及其基礎設施發生著深刻的關系，深度媒介化的人機糾纏（entanglement）使得媒介化治理成為一種可能路徑。媒介化治理，通常強調媒介（平臺）邏輯、媒介功能等，在過程性治理實踐中，激發多方主體協同參與和協商的價值，治理目標則是實現多方主體的情感共通與共識達成。據此，我們需聚焦提升網絡生態治理的前瞻性、精準性、系統性和協同性。

著力提升網絡生態治理前瞻性，預判人機混合行為的演進邏輯，采用“敏捷治理”新模式。為進一步解決人工智能乃至智能體的法律主體地位確認及監管制度，算法黑箱帶來的責任真空等一系列問題，可考慮采用“敏捷治理”的新模式。“敏捷治理”是一種與技術發展同步推進、動態調整的靈活治理方式。其強調靈活性、適用性、柔韌性、以人為本的決策過程。新加坡被眾多研究者視為敏捷治理的代表，如該國在人工智能治理框架中，首先從頂層設計層面，明確“人工智能決策過程可解釋、透明、公平”等原則，2022年又推出全球首個名為“AIVerify”的人工智能治理測試框架，這一面向全球的開源工具，成為企業評估AI系統可靠性、透明度與公平性的標準化工具。我國也正在開展靈活修正和透明決策的敏捷治理工作，如根據《互聯網信息服務深度合成管理規定》，對具有輿論屬性或者社會動員能力的深度合成服務提供者，履行分批分類備案手續；針對OpenClaw出現的治理風險，國家安全部快速發布《“龍蝦”（OpenClaw）安全養殖手冊》，特別提示用戶理性辨別、規范使用，以積極的心態和慎重的執行擁抱人工智能時代。

加強網絡生態治理精準性，開展人文倫理前置的數智媒介素養教育，規范網絡內容生產、信息發布和傳播流程。為加強網絡生態治理精準性，開展數智媒介素養教育，需強調人文倫理的重要性，分級分類規范網絡內容生產、信息發布和傳播流程，促進人機交互中的理性對話和共識建構。一方面，需從快提升黨員干部的數智媒介素養。提前識別并消除AI“幻覺”或機器意識形態偏見，從根源上規避技術“黑箱”帶來的不可控風險；優化與AI合作的實踐引導路徑，發展基于官方權威信息、歷史準確事實、高標準倫理道德的底層架構模式；超越單純的技術理性視角，將政治安全與社會公共利益、文化建設納入媒介生態系統建設標準。

另一方面，需加快研發面向普通公眾的普及教育與專項培養計劃。其關鍵路徑在于教育人們如何分辨可靠信息源，以及幫助人們摸清虛假信息的“套路”：通過案例庫建設和場景傳播，加快教育普及，對中央網信辦等部門公布的案例，以及全球影響力較大的典型案例等進行深入研究，并形成可供多場景（教育、家庭、辦公等）使用的案例庫；針對心智發育不成熟的青少年群體，加強生命觀、情感觀教育，創建人機協同的青少年成長計劃；聚焦老年人群體，則重在避免AI騙局、生命財產損失、情感傷害的人機守護計劃；專項培養精通人機協作、善用智能工具、遵循傳播倫理的新型“意見領袖”，發揮他們在虛實融合世界中的輿論引導能力和社會治理潛力。新加坡一直大力發展國家人工智能戰略，在新加坡，有大學推出并重新設計超過130門人工智能課程，有大學與機構合作，推出首個面向設計與媒體從業人員的人工智能認證，有全國性機構推出人工智能學徒計劃，以幫助更廣泛的社會群體。更精細、更具有人文關懷的分級分類媒介素養教育，有助于自然人通過人機交流實踐，生成基于情感、自我修正、導向“成人”的能力和智慧，實現更好的數字文明。

提升網絡生態治理系統性，倡導事實核查的制度化建設，構建自適應、自學習的網絡生態治理體系。事實核查可以從虛假信息中恢復秩序，保持媒介體制韌性。伴隨全球社會發展和數智媒體普及，執行事實核查群體，已拓展至主流媒體、商業媒體、互聯網平臺，以及社會公眾賬號等共同行動者。人機社會治理可倡導事實核查的制度化建設，依托一體化算力網絡與政務數據共享平臺，打破部門間的數據壁壘與治理邊界，通過構建標準化數據接口與跨域數據整合機制，將網信、政務、媒體傳播等多維度數據，轉化為治理過程中的可操作變量，人機協同構建自適應、自學習的治理體系。最新研究指出，以情報核實為首要任務的AI for Intelligence（簡稱AI4I）可被應用于事實核查中。AI4I通過智能系統的機制配置和流程重組，在信息不完整甚至容易遭受人為干擾的人機交互語境中，通過“認知—因果—對抗”三類機制的嵌入與調度，重組“發現、核實、穩健和再發現”的事實核查流程。可以預期，針對生成式人工智能引發的虛假信息泛化等新型治理風險，以消息的信源透明度、過程透明度與結論透明度為參考指標，需充分發揮人工智能在輔助事實核查中的重要作用，嵌入多模態識別、內容溯源標識等技術模塊，建設制度化的自我校正機制，構建集態勢感知、風險預警、決策輔助、應急處置于一體的系統化治理流程。

提升網絡生態治理協同性，積極參與國際對話，創新人機交流語態和模式，生動展現可信、可愛、可敬的中國形象。若要使人工智能成為造福人類的國際公共產品，就需提升全球社會的治理協同性，共同打造平權、互信、多樣、共贏的人工智能能力建設開放生態。文化治理成為提升網絡生態治理協同性的一種可能路徑，在積極參與國際對話中，智能向善是創新人機交流語態和模式的價值錨點。智能向善是國際協商中的共同話語，旨在建設全球開放生態，創建能實現全面和包容性的媒介環境，打造安全、可靠和可信的人機交流生態。在創新人機交流語態和模式時，需通過可溝通、可共情、可互鑒的對外傳播，生動展現可信、可愛、可敬的中國形象。例如，在講述中國故事時，始終強調堅持以人為本，在保障社會安全、尊重人類權益的前提下，構建更具包容性、更公平和普惠的人工智能全球治理框架。多挖掘和分享中國參與的，通過人機深度融合解決氣候變化、教育、就業、醫療保健，以及信息平等、防災減災等全人類共同難題時，所作的努力和貢獻。智能向善不僅是人機社會遵循的文化理念，而且是從文明演進的高度，完善網絡生態治理的有效路徑。

上文略有刪減

選自 | 《人民論壇》雜志 2026年第7期

原標題 | 人機社會網絡生態治理的難點及對策

作者 | 武漢大學媒體發展研究中心副主任、教授、博導 肖珺

新媒體編輯 | 趙光菊

原文責編 | 謝帥

人民論壇新書上架

《治理智慧每日讀》正式發售

300余條治理智慧

幫助黨員干部深化治理認知

增強履職本領