人工智能+ | 價值對齊也應納入技術風險防控（下）

價值對齊作為人工智能技術與人類社會交互的核心接口，其風險不僅源于技術實現的缺陷，更在于它深度參與了社會價值秩序的重構，任何細微的技術偏差都可能通過廣泛的應用場景被放大，對社會公平、文化多樣性乃至數字主權產生深遠影響。因此，將價值對齊作為技術風險治理的對象，并非否定其在保障人工智能安全中的積極意義，而是要打破對“一次性對齊”的理想化認知，以更具批判性的視角審視其技術邏輯與社會影響。

原文 ：《價值對齊也應納入技術風險防控》

作者 |南京師范大學數字與人文研究中心教授 吳靜

圖片 |網絡

[前文詳見本期頭條推送]

亟需轉向“條件性技術治理”

面對價值對齊的多重風險，單一的技術治理路徑已難以應對，亟需轉向“條件性技術治理”，構建動態、多元的風險治理框架。

首先，應放棄總體性的價值對齊方案，承認價值觀的合理分歧，建立“意圖-價值-情境”的適應性耦合機制。在意圖識別層面，通過文化語境知識庫與反事實推理模型，突破表層語義匹配的局限，捕捉用戶隱性需求與文化編碼；在價值整合層面，借助聯邦學習技術構建本地子模型-全局模型的分布式架構，讓不同文化群體自主訓練價值子模型，在保障數據隱私的同時實現多元價值協商；在情境適應層面，采用時空圖神經網絡，實時捕捉地理空間、時間序列、社會事件對價值權重的影響，實現價值的動態校準。

其次，需強化數據正義、算法正義與應用正義的協同治理，筑牢智能正義的基礎。在數據層面，建立分層抽樣機制與跨區域數據共享平臺，平衡不同地區、群體的數據表征，避免“數據殖民”；在算法層面，引入群體公平性正則化損失，將基尼系數、文化多樣性指數納入優化目標，通過對抗性測試驗證極端分布下的差異指標，建立實時差異影響儀表盤；在應用層面，設置動態校準接口，允許地方性知識對通用規則進行合規修正，如少數民族地區司法人工智能需嵌入民族習俗權重，避免量刑偏差。這種治理路徑不僅關注技術風險的事后矯正，更注重事前預防與過程監督，將價值對齊的風險管控貫穿人工智能全生命周期。

最后，從全球視野來看，中國語境下的人工智能風險治理需兼顧數字安全與文化自主性，構建具有包容性的智能正義體系。作為人工智能發展前沿國家，我國面臨的風險已超越技術層面，演變為算法裝置與社會治理體系的適配性問題。在技術研發中，應突破西方中心主義的價值框架，基于我國文化傳統與社會制度，開發符合本土需求的價值對齊模型；在國際合作中，推動建立多元參與的全球人工智能治理規則，打破技術霸權，為發展中國家提供數據與技術支持，避免價值對齊成為數字殖民的工具。唯有如此，才能在技術創新與風險防控之間找到動態平衡，實現人工智能與人類社會的共生演進。

打破對“一次性對齊”的理想化認知

人工智能價值對齊絕非單純的技術問題，其自身所攜帶的風險屬性從根源上決定了它必須被納入技術風險治理的整體框架之中，接受系統性、持續性的審視與規制。在人工智能技術高速迭代的當下，技術風險的演化呈現出高度的復雜性與不確定性，不存在任何一種一勞永逸的治理方案能夠覆蓋所有潛在風險。每一次針對價值對齊的技術干預，無論是優化獎懲函數、更新訓練數據，還是調整模型參數，都可能在解決現有問題的同時意外觸發新的風險變量。為規避“對齊偽裝”而優化的模型反饋機制，可能導致人工智能對人類意圖的過度解讀，進而在復雜情境中產生新的決策偏差；為平衡多元文化價值而引入的分布式子模型架構，若缺乏有效的協同校準機制，又可能引發不同子模型間的價值沖突，加劇系統輸出的不確定性。這種從治理到新風險的循環揭示了技術風險治理的本質：它不可能是一個終點明確的線性過程，而是一場需要持續動態調整的長期實踐。

價值對齊作為人工智能技術與人類社會交互的核心接口，其風險不僅源于技術實現的缺陷，更在于它深度參與了社會價值秩序的重構，任何細微的技術偏差都可能通過廣泛的應用場景被放大，對社會公平、文化多樣性乃至數字主權產生深遠影響。因此，將價值對齊作為技術風險治理的對象，并非否定其在保障人工智能安全中的積極意義，而是要打破對“一次性對齊”的理想化認知，以更具批判性的視角審視其技術邏輯與社會影響。這要求既要建立實時監測與快速響應機制，通過持續的風險評估捕捉價值對齊過程中的新變量、新矛盾，又要構建多元主體參與的協商平臺，讓技術開發者、人文學者以及用戶共同參與到價值標準的界定與調整中，避免技術精英對價值話語權的壟斷。

更進一步而言，動態適應的價值對齊方案本身也應成為技術風險治理的重要組成部分。這種動態性不僅體現在技術層面的參數迭代與模型優化，更體現在治理理念的開放與包容上，即承認人類價值觀的流動性、社會情境的復雜性，以及技術發展的不可預測性，以“風險可控”為目標，在技術創新與社會穩定之間尋求動態平衡，為數字文明的可持續發展奠定堅實基礎。

文章為社會科學報“思想工坊”融媒體原創出品，原載于社會科學報第1984期第6版，未經允許禁止轉載，文中內容僅代表作者觀點，不代表本報立場。

本期責編：程鑫云

《社會科學報》2026年征訂

點擊下方圖片網上訂報↓↓↓