綠視界丨人工智能安全治理框架2.0版發布：構建全球協同治理新生態

要點：2025年9月，國家互聯網信息辦公室發布《人工智能安全治理框架》2.0版，完善風險分類分級體系，構建“技術—應用—治理”三維防控矩陣，創新協同治理機制，配套工具包與評估體系，推動國際規則互認與協作，構建安全可信的AI發展生態，實現技術普惠共享。

——來源于國家互聯網信息辦公室

2025年9月15日，在國家網絡安全宣傳周主論壇上，國家互聯網信息辦公室正式發布《人工智能安全治理框架》2.0版（以下簡稱《框架》2.0版）。作為落實《全球人工智能治理倡議》的核心舉措，這一文件由國家互聯網應急中心牽頭，聯合人工智能專業機構、科研院所及行業企業共同制定，在2024年1.0版基礎上，結合技術發展與應用實踐，完善風險分類分級體系，動態調整治理措施，標志著我國人工智能安全治理從“原則倡導”向“實操落地”邁出關鍵一步。《框架》2.0版的發布不僅為國內AI產業發展劃定安全邊界，更通過跨國界、跨領域、跨行業的協同治理理念，為全球人工智能治理貢獻中國方案，推動技術紅利惠及全人類。

《框架》2.0版的出臺源于人工智能技術快速迭代帶來的治理新挑戰。過去一年，生成式AI、具身智能等技術突破催生了海量應用場景，但同時也引發算法歧視、數據濫用、深度偽造等風險。某互聯網企業AI安全負責人指出，1.0版框架側重宏觀原則，而2.0版針對“AI生成內容標識”“算法透明度”等具體問題提出可操作方案，例如要求聊天機器人需通過顯式標識（文字標注）和隱式標識（技術水印）雙重方式提示用戶，這一規則已在國內主流AI產品中落地，用戶識別準確率提升至98%。國家互聯網應急中心數據顯示，2024年我國AI相關安全事件同比增長65%，其中深度偽造視頻詐騙案件占比達32%，《框架》2.0版通過“風險分級+動態防控”機制，將AI風險劃分為“核心風險、重要風險、一般風險”三級，對應不同治理強度，例如對涉及公共安全的核心風險，要求企業每季度提交安全評估報告，而一般風險可通過內部合規審查自主防控。

在風險分類體系上，《框架》2.0版構建了“技術層—應用層—治理層”三維風險矩陣。技術層重點防控算法偏見、數據污染、模型投毒等風險，要求訓練數據需通過合規審查，模型發布前完成安全測試；應用層聚焦自動駕駛、醫療診斷等高風險場景，明確企業需建立“人類監督機制”，例如AI輔助診療系統的重大決策需經醫生復核；治理層則強化供應鏈安全，要求AI芯片、基礎軟件等關鍵環節供應商通過安全認證。某自動駕駛企業據此調整研發流程，在算法訓練階段引入第三方機構進行公平性測試，將性別、年齡等敏感特征導致的決策偏差降低至0.3%以下。值得注意的是，《框架》2.0版首次將“環境影響”納入治理范疇，要求AI企業定期披露算力中心能耗數據，鼓勵采用綠色算法優化模型訓練效率，某頭部科技公司通過模型壓縮技術，將大模型訓練能耗降低40%，年減少碳排放1.2萬噸。

協同治理機制的創新是《框架》2.0版的鮮明特色。文件提出“政府引導—企業主責—社會監督”的共治模式：政府層面建立“AI安全治理沙箱”，允許企業在可控環境中測試創新應用；企業層面需設立首席AI安全官，對高風險業務實施“雙人復核”；社會層面則鼓勵行業協會制定自律標準，目前已有120家企業簽署《AI安全自律公約》。在國際合作方面，《框架》2.0版與歐盟《人工智能法案》、聯合國《負責任的人工智能》原則實現部分規則互認，例如對“不可接受風險AI系統”的判定標準達成共識，某跨國AI企業據此調整全球產品策略，在中歐市場同步滿足“訓練數據本地化存儲”要求，合規成本降低30%。國家網信辦國際合作局負責人表示，《框架》2.0版將作為我國參與G20、APEC等多邊機制AI治理討論的基礎文件，推動建立跨國風險預警平臺，目前已與15個國家實現AI安全事件信息共享，響應效率提升50%。

為確保落地實效，《框架》2.0版配套推出“工具包+評估體系”實施支撐。工具包包含風險評估模板、安全測試用例、合規自查清單等12類實用工具，某銀行AI風控系統通過工具包完成算法透明度評估，將模型決策邏輯解釋準確率從65%提升至89%；評估體系則引入“成熟度模型”，將企業AI治理能力分為“初始級、管理級、優化級”三級，優化級企業可享受監管沙箱優先試點等政策紅利，目前已有8家企業通過優化級認證，獲得自動駕駛、智能電網等創新業務試點資格。地方層面，北京、上海等地已將AI安全治理納入智慧城市建設考核，對達標企業給予稅收優惠，某AI醫療企業因此節省研發投入2000萬元。

《框架》2.0版的發布正值全球人工智能治理體系加速構建的關鍵期。與1.0版相比，2.0版的突出變化在于從“被動應對”轉向“主動防控”，例如建立“AI安全漏洞獎勵計劃”，鼓勵白帽黑客發現AI系統漏洞，最高獎勵金額達500萬元；從“國內治理”轉向“全球協同”，通過“一帶一路”AI治理倡議，向發展中國家提供技術培訓和工具支持，目前已在東南亞、非洲等地區開展12期培訓班，培養本土治理人才300余人。正如國家互聯網信息辦公室負責人在發布會上強調的，《框架》2.0版的核心目標是“發展與安全并重”，既要為AI創新留足空間，又要通過制度設計防范風險外溢，最終實現“技術可控、倫理合規、治理有效”的發展愿景。

隨著《框架》2.0版的實施，我國人工智能產業正邁向“安全中發展”的新階段。企業層面，百度、華為等頭部企業已成立AI治理委員會，將安全要求嵌入產品全生命周期；行業層面，生成式AI服務備案制與《框架》2.0版形成聯動，未通過安全評估的產品不得上線；國際層面，我國與聯合國教科文組織聯合發起“AI倫理全球倡議”，推動《框架》2.0版核心規則納入國際標準。這場以治理促發展的實踐，不僅為我國AI產業高質量發展筑牢安全屏障，更通過開放包容的治理理念，推動全球人工智能技術普惠共享，讓AI真正成為造福人類的工具。

來源：國家互聯網信息辦公室官網

。。。