浙江移動總經理楊劍宇： 加強人工智能安全治理

隨著人工智能滲透至公共安全、經濟秩序等核心領域，近年來智能安全相關事件數量不斷上升，人工智能安全治理的緊迫性日益提升。黨和國家明確提出，人工智能發展要從“追趕布局”轉向“安全可控與主動引領并重”。全國人大代表，中國移動浙江公司黨委書記、董事長、總經理楊劍宇建議，加強人工智能安全治理，強化數據語料源頭治理、模型算法風險管控、人工智能內容管理與核驗，更好推動人工智能產業行穩致遠。

當前，我國人工智能發展已進入技術快速迭代、行業深度融合階段，2025年人工智能核心產業規模超1.2萬億元，增速達到33%，成為發展新質生產力、構筑國家競爭新優勢的核心引擎。但近年來利用人工智能技術實施網絡攻擊、深度偽造、換臉詐騙等惡性事件頻發，企業“人工智能+”改造面臨數據泄露、合規風險等安全隱憂。

楊劍宇表示，當前我國人工智能安全治理已初步形成頂層規劃與原則框架，但在具體落地中仍然存在一些問題。

一是語料庫的合規性管理有待加強。國內標準語料庫、行業數據集的建設仍在起步階段，部分語料庫數據來源混雜、內容審核不到位，帶來人工智能技術和應用的價值取向偏差；大量國內語料庫一味照搬國外資料，對語料背后的西方文化輸出重視不夠；數據安全保護技術的普及應用滯后，存在安全隱患。

二是防范“人工智能作惡”的系統性監管不足。利用人工智能技術進行深度偽造，進而魚目混珠、擾亂視聽甚至違法犯罪的現象層出不窮，現行監管機制在事前預防、事后監管、責任追究等方面面臨新的挑戰。

三是平衡創新與安全面臨產業博弈。針對人機交互觸及的數據安全和隱私保護的“紅線”設置，以及技術路線背后的產業博弈，日益成為我國人工智能產業發展的焦點。

楊劍宇建議：

一是加強數據語料源頭治理。鼓勵建立訓練數據來源記錄與披露制度，明確要求大模型研發廠商提供清晰的開源協議證明或商業授權文件，健全內容安全過濾機制，推動構建合規的數據授權使用渠道，為產業提供清晰的合規指引；落實個人敏感信息收集、處理的“目的明確、路徑可溯”要求，完善從“明確告知”到“操作可追溯”的監管操作細則；強化跨部門聯合執法司法，嚴厲打擊惡意爬取數據、批量生成侵權內容等行為，切實保障數據合規流動與價值釋放。

二是強化模型算法風險管控。完善算法與大模型備案機制，在現有《生成式人工智能服務管理暫行辦法》法規基礎上，對具有輿論屬性或涉及重大公共利益的人工智能算法與服務，加強算法類型、語料來源、安全評估等方面的審核審查；開展算法安全與倫理審計，定期評估大模型公平性、透明度及潛在風險，并予以公示；根據各類主體對系統的實際控制力和可預見風險的能力，明確人工智能系統開發者、部署者、使用者的責任邊界和法定義務清單。

三是加強人工智能內容管理與核驗。推動建立具有公信力的人工智能生成內容檢測和溯源平臺，打通不同平臺、不同模型的標識數據接口，加強人工智能生成內容的源頭審核、過程監測和溯源管理，支持對疑似人工智能生成內容的快速核驗與溯源追蹤。