強化法治約束，確保人工智能不跑偏

陳雨佳

李霞

朱山

楊進軍

馮濤

齊向東

周迪

雷春華

　　2026年1月1日起正式實施的《中華人民共和國網絡安全法》第20條規定：

　　國家支持人工智能基礎理論研究和算法等關鍵技術研發，推進訓練數據資源、算力等基礎設施建設，完善人工智能倫理規范，加強風險監測評估和安全監管，促進人工智能應用和健康發展。

　　國家支持創新網絡安全管理方式，運用人工智能等新技術，提升網絡安全保護水平。

　　當前，人工智能的發展勢頭強勁，但人工智能帶來的問題與挑戰也日益顯現。2026年1月1日起正式實施的新修訂的《中華人民共和國網絡安全法》，新增第20條規定“國家支持人工智能基礎理論研究和算法等關鍵技術研發，推進訓練數據資源、算力等基礎設施建設，完善人工智能倫理規范，加強風險監測評估和安全監管，促進人工智能應用和健康發展。國家支持創新網絡安全管理方式，運用人工智能等新技術，提升網絡安全保護水平”。法律在認可人工智能技術的同時首次將人工智能納入監管，為人工智能治理提供了重要法治遵循。針對人工智能的發展以及未來可能面臨的問題，記者日前采訪了8位人大代表和政協委員。

　　多維透視　鎖定人工智能發展的現實難題

　　文生視頻、智能家居、智慧工廠……近年來，人工智能正以前所未有的速度融入大眾生活與產業生產的方方面面。人工智能讓人們的生產生活變得高效、便捷的同時，也暗藏著亟待破解的安全隱患與治理難題。

　　“我身邊有老鄉反映，同樣買一張返鄉車票，用老年機和用智能手機的價格就不一樣。還有網購農資時，不少農民發現經常購買的商品價格反而比新用戶首次購買的價格高，更讓人無奈的是低質的人工智能產品涌入市場，比如有些農業人工智能診斷工具，連小麥銹病和白粉病都分不清，耽誤了農時。”談到當前人工智能應用中存在的問題風險時，全國人大代表、黑龍江省寧安市玄武湖大米專業合作社銷售經理陳雨佳頗感無奈。

　　全國人大代表、國網山東省電力公司聊城供電公司數字化部信息建設運檢班班長馮濤說：“人工智能打破了技術壁壘，讓技術使用不再受限，但大量虛假數據濫竽充數的情況也不容忽視，比如不少商家用人工智能生成虛假宣傳內容、假好評、假銷量，甚至偽造專家推薦，誤導消費者。更讓人擔心的是，借助人工智能換臉、擬聲等技術，已經出現不少冒充親友、公職人員詐騙的案例，普通人很難分辨，財產安全受到威脅。”

　　全國人大代表、湖北省江陵縣疾控中心國家血防基地辦主任李霞也十分關注人工智能領域，她認為，人工智能技術當前面臨的最大風險是安全倫理和監管缺位。例如AI變聲和換臉，特別是在未經授權的情況下使用他人肖像和聲音，已經涉嫌侵犯他人的肖像權，而相關網絡平臺、監管部門卻出現了管理缺位現象。

　　“數據安全風險隨著技術發展也逐漸呈現。現在越來越多的企業為了讓人工智能的作用最大化，把積累多年、分散各處的設計圖、生產工藝、業務數據等進行加工處理，形成高價值、集中化的精華數據‘喂’給人工智能大模型或智能體。一旦人工智能應用被攻破、被控制，精華數據極易丟失，企業多年積累的核心競爭力會瞬間化為烏有。”全國政協委員、全國工商聯副主席、奇安信集團董事長齊向東表示，“人工智能模型、智能體運行無法獨立存在，必須依托云環境存在，這些基礎環境可能導致大模型防線被突破。大模型、智能體‘裸奔’上線，會給攻擊者可乘之機，加劇數據被盜用的風險。”

　　全國人大代表、貴州省新的社會階層人士聯誼會會長、貴達律師事務所主任朱山告訴記者，“在商業應用中，部分產品存在過度收集、濫用用戶數據，對公民合法權益形成威脅，一些消費者在不知情中被剝奪了公平交易權，而消費者對侵權行為如何取證也面臨困難。”此外，朱山表示，人工智能使用存在法律監管體系階段性不適應的問題。人工智能技術特性使得侵權、違規行為的責任主體認定復雜化，例如某品牌公司涉及智能駕駛輔助功能的交通事故受到廣泛關注，將人機責任劃分這一難題，再次擺在法律與產業界面前。

　　“人工智能是新一輪科技革命的核心驅動力，深刻改變著產業格局與社會治理方式，但是人工智能技術‘該不該用、怎么用’的邊界還不夠清晰，此外，一旦用出問題，‘誰來負責、如何負責’的規則尚未健全。”全國人大代表、浙江宇視科技有限公司研究院院長周迪說道。

　　采訪的過程中，記者發現人工智能發展中的數據使用安全、技術使用邊界以及對人工智能技術監管等問題是代表委員普遍關注的話題。網絡安全的新情況需要及時得到精準回應，新修訂的網絡安全法為更好適應網絡安全新形勢新要求，提出加強法律之間的銜接、完善法律責任制度，與代表委員們的關注不謀而合。

　　法治筑堤　從頂層設計到精耕細作

　　齊向東對新修訂的網絡安全法持肯定態度，他表示：“這是第一次在網絡安全領域的基礎性法律中明確了人工智能監管內容，為人工智能有序發展提供了法律指引。隨著頂層設計的逐步完善，要把人工智能治理的原則性要求實實在在落地，還需要針對重點場景出臺專項細則，明確自動駕駛、智能醫療、智慧金融、教育大模型等人工智能應用場景的責任劃分；完善技術與安全配套標準，制定人工智能領域的安全評估、漏洞測試、應急響應等國家標準，加強人工智能供應鏈安全與開源組件審查規范。”

　　朱山告訴記者，“在有效實施新修訂的網絡安全法的基礎上，還需要加快出臺人工智能安全分類分級指南、深度合成檢測技術標準、算法審計指南等，為新修訂的網絡安全法中提到的風險監測評估提供具體的技術標尺和操作手冊。”

　　馮濤附議說：“為最大限度發揮新修訂的網絡安全法的指導作用，還需進一步完善人工智能系統性立法。要盡快出臺人工智能生成內容的標識規范；劃定人工智能使用的紅線，細化數據使用規則，明確人工智能訓練數據的合法來源清單，哪些數據可以用、哪些不能用，明確公開數據的使用邊界；出臺人工智能侵權的認定和賠償細則，解決取證難、定損難、維權難等問題。”

　　全國人大代表、湖南省城步苗族自治縣汀坪鄉大水村村醫楊進軍表示，“盡管新修訂的網絡安全法通過規范和引導，推動人工智能在安全軌道上穩步前行，但是我發現法律‘田埂’還沒完全筑牢，不少現實阻礙讓法律的防護作用打了折扣。例如，目前沒有明確人工智能的監管部門，甚至出現‘九龍治水水不治’情況，因此需要在法律層面進一步明確監管職能，避免出現監管空白或者重復監管問題。”

　　“建議國家進一步加強對數據產權方面的立法，明確人工智能使用數據的持有權、使用權、經營權的劃分標準，為人工智能使用數據的產權認定提供清晰依據。”李霞說道。

　　全國人大代表、湖北省宜昌金寶樂器制造有限公司高級整音技師雷春華表示，“應盡快出臺專門的人工智能倫理準則與司法指引，強化算法備案與透明度要求，建立‘技術+法律’雙層治理體系，讓法治始終跑在技術前面。”

　　新修訂的網絡安全法為人工智能治理立起了頂層設計的“四梁八柱”，代表委員的建言獻策，為法治落地的“精耕細作”指明了路徑。從專項細則的出臺到技術標準的完善，從監管職能的厘清到侵權責任的細化，每一步探索都為保障人工智能健康發展筑起法治堤壩。

　　協同破局　構建人工智能多元治理體系

　　如何推進人工智能安全治理？齊向東建議：“要強化人工智能生成內容全流程檢測機制，強化跨部門聯合執法司法，嚴厲打擊惡意爬取數據、批量生成侵權內容等行為；督促人工智能開發和使用企業履行主體責任，完善內容生成的源頭審核、生成中的過程監測、生成后的溯源管理，切實筑牢人工智能生成內容的安全防線。”

　　朱山認為，“需要建立覆蓋數據入口、模型運行、內容出口全鏈條的治理機制。鼓勵行業建立訓練數據來源記錄與披露制度，推動構建合規的數據授權使用渠道，為產業提供清晰的合規指引。同時，建立算法備案與分級審計機制，對具有輿論屬性或社會動員能力、涉及重大公共利益的人工智能算法與服務，應依法落實備案要求，并探索根據風險等級，對算法依法進行安全與倫理審計，評估其公平性、透明度及潛在風險。”

　　與此同時，齊向東和朱山都認為，要完善人工智能生成內容標識與追蹤機制，明確要求依托人工智能生成內容嵌入不可篡改的數字水印，標注生成來源、生成時間及版權歸屬，確保人工智能生成內容帶有不可輕易去除的標識，這既能保障公眾知情權，又能實現生成可識別、侵權可追蹤。同時，監管部門應牽頭建立全國統一的人工智能生成內容溯源查詢平臺，打通不同平臺、不同模型的標識數據接口，并支持個人用戶和政企機構對疑似人工智能生成內容進行快速核驗與溯源追蹤。

　　周迪告訴記者，在調研中，他了解到的浙江杭州高新區（濱江）“改革沙盒”創新做法值得推廣，通過在可控場景中開展試點，探索兼顧安全與發展的人工智能治理路徑，推動數據要素法治風險治理重心從事中監管、事后處罰向事前預防轉變。同時，他建議，“應探索建立健全透明的監督與問責機制，推動個人信息在陽光下被規范使用，以筑牢公眾信任的基礎。”

　　針對人工智能侵權問題，不僅要把牢數據源頭關，楊進軍補充道，“還要建立人工智能生成內容侵權快速響應機制。設立公眾舉報獎勵機制和行業黑名單制度，通過公眾監督、政府監管、企業整改的協同治理方式，形成良好的人工智能內容生成生態。”陳雨佳建議，“針對人工智能侵權，單靠個人維權成本高，希望檢察機關通過發揮公益訴訟檢察職能，督促涉事平臺整改。加快推進智慧檢察工程，研發人工智能監督模型，提升人工智能領域風險發現、研判和處置能力。同時，探索‘公益訴訟+行業治理’的模式，加強與網信、工信等部門的協作，共享人工智能企業備案信息、風險監測數據，開展專項監督行動，形成治理合力。”

　　在推動構建協同共治大格局的過程中，雷春華認為，還應當充分發揮行業自律優勢，強化行業協會在制定倫理準則、組織合規培訓、糾紛調解中的作用，助力人工智能行業行穩致遠。

　　慧育新機　擘畫人工智能健康發展藍圖

　　人工智能技術加速演進帶來前所未有的機遇，在法治框架不斷完善、多元治理體系加速構建的背景下，如何為人工智能培育創新沃土、擘畫可持續的發展藍圖，也是代表委員們的共同關切。

　　人工智能的發展離不開科技創新，周迪表示，“應加大對人工智能基礎研究的資金投入與政策傾斜，鼓勵高校、科研院所與企業組建創新聯合體，聚焦芯片、算法、算力等‘卡脖子’領域開展協同攻關，突破技術壁壘。同時，完善科技成果轉化機制，推動創新成果從實驗室走向產業一線，讓核心技術成為人工智能健康發展的硬核支撐。”

　　齊向東建議深化“人工智能+”理念，完善產學研用協同創新體系，鼓勵特色行業龍頭企業與專業安全廠商構建創新聯合體，并設立專項基金促進人工智能安全技術研發和創新成果落地，提升智慧城市、智慧能源、智慧金融等領域的網絡安全防護效能。

　　人工智能作為引領新一輪科技革命和產業變革的核心力量，其價值最終體現在賦能產業的實踐中。受訪代表委員指出，應立足不同產業的發展特點，打造差異化的人工智能應用場景。作為扎根黑土地的全國人大代表，陳雨佳對人工智能在農業領域的探索十分關注，她告訴記者：“全面推進鄉村振興是實現中華民族偉大復興的重大任務，如果能將人工智能技術應用到農業生產中，通過智能監測、精準種植等技術賦能農業生產，助力鄉村振興與糧食安全，將是廣大農民朋友的福音，也能為人工智能產業應用開辟更為廣闊的天地。”

　　而作為村醫的楊進軍了解到，近年來，人工智能應用在醫學領域的實踐也在逐步推進，AI問診等應用走進了人們的生活。他表示：“目前基層仍面臨著優質醫療資源緊缺的困境，如果大力發展AI輔助診療、醫學影像智能解讀、慢病管理等服務，并將其應用面覆蓋到縣村以及偏遠地區，能一定程度上緩解優質醫療資源緊張的問題，提升基層醫療服務水平。”

　　馮濤從助力產業綠色發展角度提出了建議：“深化AI與智能制造的融合，推動生產線智能化改造、工業機器人協同作業、供應鏈智能優化，助力產業向高端化、智能化、綠色化轉型。”

　　“人工智能的應用前景十分廣泛，不僅是農業、醫學、制造等領域，各行各業都應發現人工智能賦能產業創新發展的優勢。”雷春華補充說，要通過“人工智能+”的融合發展模式，為經濟社會高質量發展注入新動能。

　　技術的發展需要人才作為支撐，李霞表示，“在人才培育方面，應加強人工智能人才培養體系建設，支持高校增設人工智能相關專業，開展校企合作定向培養，彌補人工智能核心技術、復合型治理人才缺口；同時，完善人才評價與激勵機制，吸引海外高端人才回流，打造一支兼具技術研發能力與法治素養的復合型人才隊伍。”

　　人工智能的健康發展，是創新與規范的雙向賦能，是技術突破與產業融合的協同推進，更是安全底線與倫理準則的堅定堅守。受訪代表委員一致認為，以法治為基、以創新為核、以融合為要、以安全為盾，全方位構建人工智能健康發展的支撐體系，方能讓人工智能在創新的軌道上穩步前行。

來源：檢察日報