技術狂飆，如何為創新劃定法治紅線

技術狂飆，如何為創新劃定法治紅線

——三地檢察機關破解網絡安全治理難題的探索實踐

編者按　技術浪潮奔涌，法治守護同行。2026年1月1日實施的新修訂的網絡安全法，新增“加強人工智能安全監管”條款，清晰錨定國家支持AI關鍵技術研發與安全治理并重的發展航向。當生成式人工智能衍生虛假信息困擾、數據處理觸碰個人隱私紅線、解析軟件不當截取網絡流量等問題漸顯，檢察機關如何以法律監督為刃，劃清技術創新與法治底線的邊界？《檢察日報》聚焦上海、江蘇、浙江三地檢察機關深耕網絡安全領域的辦案實踐與創新探索，看檢察藍如何以專業擔當，為數字時代筑牢法治屏障。

堵住AI生成中的管控漏洞

講述人：上海市徐匯區檢察院公益檢察室檢察官助理　陳思琦

從事公益訴訟檢察工作多年，我始終堅信，捍衛國家利益與社會公共利益，既要直面看得見的損害，更要警惕新技術背后不容易看見的風險。此前辦理的一起濫用AI技術丑化軍人形象公益訴訟案，就讓我深刻體會到，在技術飛速迭代的今天，守護英雄軍人的莊嚴形象、筑牢網絡空間公益防線，是新時代檢察人必須扛起的責任。

2025年12月，上海市徐匯區檢察院檢察官開展案件線上“回頭看”。

2025年8月初，我們在履行公益監督職責中發現，某企業研發的AI大模型支持用戶生成叼煙、文身、身著暴露服飾的軍人形象圖片，部分圖片場景還包含帶有中國軍隊標識的軍事裝備，嚴重褻瀆軍人尊嚴、損害軍隊形象。這條線索，讓我們敏銳察覺到AI技術濫用可能引發的公益損害隱患，隨即啟動公益訴訟監督程序。

初步調查階段，我們通過模擬普通用戶操作，僅輸入“軍人、文身、裝甲車”等簡單提示詞，該AI大模型便可快速生成違背軍人莊嚴形象、違反軍服穿著規范的圖片。進一步測試發現，該模型對相關提示詞缺乏有效攔截，甚至能細化指令調整違規元素，生成的內容極具誤導性。鑒于AI技術的傳播特性，此類違規圖片一旦擴散，將嚴重破壞社會公序良俗、危害國家利益，我們于2025年8月25日依法立案調查。

立案后，我們第一時間通過可信時間戳固定生成圖片的全過程證據，同步委托專業機構對圖片違規性及潛在危害進行鑒定，明確了公益損害的事實。但辦案很快陷入瓶頸：AI大模型的運行邏輯如同“黑盒”，如何精準界定技術缺陷與損害結果的因果關系？現有法律對AI生成違規內容的責任認定缺乏細化標準，監管邊界如何劃分？這些技術與法律交織的難題，成為案件推進的攔路虎。

幸運的是，立案前一個月，我院與徐匯區委網信辦、區新型工業化辦公室等8家單位會簽的《關于加強人工智能協同治理的工作協議》，為破解辦案難題提供了制度支撐。我們迅速啟動協同機制，聯合上海軍事檢察院開展軍地協作，召開專題聯席會議梳理辦案難點，明確分工推進證據核查與問題溯源。同時，我們先后走訪信息安全測評機構、科研機構及相關軍事單位，邀請技術專家與軍事專業人員共同解碼“黑盒”。

經多輪研判，專家團隊最終鎖定問題根源：該AI大模型的訓練數據缺乏權威內容支撐，對軍服規范、軍人形象的認知存在偏差；關鍵詞庫更新滯后，無法精準識別相關提示詞，且語義識別模型存在漏洞，難以攔截隱性違規指令。這一結論，為案件辦理指明了方向，也暴露了行業內AI信息內容管控的共性短板。

厘清成因后，我們聚焦整改路徑多方征詢意見。相關軍事單位建議，補充“央廣軍事”等官方平臺發布的軍服配套穿著圖例、軍人規范形象素材，優化模型訓練數據；行業專家提出，需擴充關鍵詞庫，升級語義識別算法，通過對抗測試強化攔截能力，在嚴守安全底線的同時兼顧用戶正常使用需求。現役軍人及志愿者代表則呼吁，要強化企業主體責任，從源頭上杜絕AI生成不良內容。

基于查明的事實，我們依法向行政監管部門制發檢察建議，督促其履行AI新技術信息內容監管職責，督導涉案企業完成全面整改。行政監管部門高度重視，第一時間約談企業負責人，要求限期落實整改措施。涉案企業迅速行動，對存量違規圖片全面進行源頭清理，同步上線34條規范示例、28個正向形象提示詞，優化關鍵詞庫與語義識別模型，構建起“權威數據賦能—語料清洗—內容審核—實時攔截”的全流程管控體系。

2025年12月12日，軍地檢察機關聯合軍隊人大代表、人工智能領域專家開展整改“回頭看”。現場測試顯示，輸入相關不良提示詞后，系統可立即識別并彈窗提示“請更換提示詞后再試”，違規內容生成被有效阻斷。為推動個案治理升級為行業規范，行政監管部門還對轄區備案的70余家AI大模型企業開展網絡安全專項檢查，全面排查同類安全隱患，筑牢行業監管防線。

從線索受理到案件辦結，從源頭整治到系統治理，作為公益訴訟檢察官，我們深知，技術的進步不應成為突破公序良俗、損害國家利益的借口。我們要做的，就是在技術創新與安全守護之間架起堅實護欄，用精準監督回應群眾期待，確保AI在法治軌道上向善而行，為網絡強國建設注入檢察力量。

破解App注銷難題

講述人：江蘇省昆山市檢察院公益訴訟檢察部負責人　謝玲玲

2026年1月，我院數字檢察應用中心大屏上，“侵犯公民個人信息安全法律監督模型”正實時排查手機App權限風險?！斑@個模型為我們精準揪出App侵權隱患提供了有力支撐?！蔽以簲底謾z察辦公室負責人介紹，該模型已入選《全國檢察機關大數據法律監督模型匯編》，在全國400余家檢察院落地應用，助力成案500余件。而這一切的起點，源于一條本地手機App違規收集信息的案件線索。

2025年10月，江蘇省昆山市檢察院檢察官在討論應用侵犯公民個人信息安全法律監督模型。

這條線索指向犯罪嫌疑人王某，他利用房產中介職務之便，非法出售多名業主信息，獲利8萬余元。辦案過程中，被害人林某向檢察官道出了心中的憂慮：“我是一名新手寶媽，這次經歷讓我格外警覺。我之前注冊了不少母嬰類App，有些根本無法注銷賬戶，這些留在后臺的信息會不會哪天也被泄露？”

“要是寶媽們常用的App都藏著這類風險，用戶在數字空間的安全感何從談起？”同事將卷宗遞給我時說道，“刑事檢察能懲處‘看得見’的犯罪者，但網絡空間里不特定用戶面臨的‘看不見’的信息安全隱患，更需要我們主動關注、破解?！?/p>

我們隨即開展初步調查，發現部分手機App存在明顯違規問題：有的不公開隱私政策或個人信息收集使用規則，有的刻意不提供賬戶注銷及信息刪除渠道，甚至在用戶未充分知情、明確同意的情況下，擅自抓取定位等敏感信息、關聯其他App賬戶。進一步核查還發現，部分違規收集的數據流入運營者算法系統，被用于個性化推送，潛藏著多重信息安全風險。

這些行為不僅直接侵犯公民個人信息安全，更給大數據“殺熟”、精準詐騙等違法犯罪埋下隱患。為此，我們果斷立案啟動公益訴訟調查?？尚碌碾y題接踵而至：手機App數量龐大、版本迭代迅速，數據收集行為又相對隱蔽，傳統“等案上門”或人工逐案篩查的模式，效率低下且難以實現全面覆蓋，破解困局的突破口究竟在哪？

困局倒逼出新路，我們決定向技術借力，依托我院數字檢察應用中心的專業力量，探索構建大數據法律監督模型。經過多輪論證、調試優化，“侵犯公民個人信息安全法律監督模型”最終落地，為精準排查手機App侵權隱患提供了硬核支撐。

該法律監督模型就像一名“數字偵探”，通過整合手機App安裝包、開發運營企業信息等基礎數據，借助權限檢測工具，可批量排查App申請的系統權限是否超出實際功能所需，快速鎖定“越權”App。我們運用該模型，對轄區內互聯網企業開發運營的App開展“掃描體檢”，經人工復核確認，發現5款App未提供賬戶注銷、個人信息刪除功能，3款App未公開信息收集使用規則或隱私政策。

結合調查結果和行政部門職能歸屬，我們依法向相關單位制發檢察建議，指出App信息收集模式存在的潛在安全隱患，建議其依法處置違法違規情形，加強日常監管，切實保障公民個人信息安全。檢察建議發出后，相關部門迅速行動，責令涉案企業限期整改、下架問題App，明確整改到位后方可重新上架。

“檢察官，我已經順利注銷了賬戶。沒想到我的一個擔心，真的推動了改變?！绷帜呈潞蟾锌?。

個案整改并非履職終點，如何實現長效治理、避免按下葫蘆浮起瓢？關鍵就在于凝聚多方合力，形成齊抓共管格局。為此，我們針對手機App違法違規收集使用個人信息亂象，牽頭公安機關等8部門召開公益訴訟聯席會議?！笆謾CApp數量激增，給動態全覆蓋監管帶來不小壓力?！薄坝脩魠f議條目繁雜、專業性強，普通消費者難以讀懂，線索識別難度大?！薄瓡?，各部門坦誠交流監管難點。

我們順勢向與會代表展示了研發的法律監督模型，介紹其自動化掃描、快速生成風險App清單的功能，可為各部門排查線索提供支撐。這一思路得到各方普遍認同，各部門就強化線索移送、信息共享、聯合普法等事項達成共識，明確各司其職、協同發力，立體式構建公民個人信息安全監管治理網絡。

技術浪潮奔涌向前，應用場景日新月異，但檢察機關守護公民合法權益的法治初心始終未變。通過辦理這起案件，我們深刻認識到，面對數字時代的新挑戰，唯有主動與時俱進、以數字技術賦能法律監督，才能精準破解監管難題，為公民個人信息安全筑起堅實法治屏障，讓人民群眾在數字空間的獲得感、幸福感、安全感更加充實、更有保障、更可持續。

清除盜用流量“寄生蟲”

講述人：浙江省杭州市濱江區檢察院刑事檢察部檢察官　朱昊

2026年1月，新修訂的網絡安全法正式施行，對我們一線檢察官來說，最直接的感受就是辦理新型網絡犯罪有了更明確的指引。手頭一起“薅大廠流量羊毛”案正在推進后續治理，其辦理思路恰好契合新法精神，這讓我不由得想起，當我把這起案件的17冊卷宗從手推車上搬到辦公桌，翻開第一本案卷時，心底涌現出的強烈直覺：這絕非一起普通案件。

2026年1月，浙江省杭州市濱江區檢察院檢察官深入企業走訪，幫助企業筑牢網絡安全防線。

實際上，這是一起直指數據安全的新型網絡犯罪案件——不法分子施某等人借“薅大廠流量羊毛”牟利，其編寫的云解析軟件，能夠繞過安全防護屏障，在未經授權的情況下，將第三方視頻內容私自上傳至多家互聯網企業服務器。用戶每一次點擊觀看產生的存儲、帶寬與流量費用，全被悄然轉嫁給毫不知情的互聯網“大廠”。2023年6月，一家大型互聯網公司察覺服務器數據異常，流量費用較往常激增數倍，這條隱蔽的黑產鏈條才終于浮出水面。

經查，施某等人正是借助這款解析軟件“搭便車”轉嫁成本，將視頻內容上傳至各大互聯網企業服務器，再把真實訪問地址嵌入自己運營的網站供用戶點擊，從而實現“背靠大樹好乘涼”的非法牟利模式。他們專挑流量規模大的知名企業下手，直至案發，已通過售賣軟件非法獲利171萬余元，給被害企業造成的實際經濟損失與潛在安全威脅，更是難以估量。

面對對象虛擬化、行為隱蔽化、獲益間接化的辦案難點，我們果斷依法介入引導公安機關委托專業鑒定機構，對涉案程序源代碼、數據傳輸路徑、存儲方式及解析邏輯開展全面技術鑒定。同時，我們與公安民警、技術鑒定人員、審計人員建立常態化溝通機制，逐條厘清軟件運行原理，精準界定其對計算機信息系統的控制程度，最終從海量電子數據中梳理出犯罪行為與危害結果之間環環相扣的完整證據鏈。

在充分審查案件事實與證據的基礎上，辦案團隊圍繞盜竊罪與非法控制計算機信息系統罪兩個罪名進行論證，通過類案檢索、理論研討、檢察官聯席會議等多重方式，細分犯罪行為模式、精準適用法律條文，最終將該案定性為非法控制計算機信息系統罪，并依法提起公訴。

2025年5月，隨著法槌落下，施某、郭某、王某等3名被告人分別被判處有期徒刑四年至一年六個月不等，各并處罰金。至此，這起新型網絡犯罪案件暫告一段落。

但案件的辦結，并未讓我們停下思考的腳步。流量就是資源，數字經濟時代，盜用流量的現象并非個例。我們在開展追贓挽損工作時發現，由于非法控制行為消耗的算力資源價值、硬件設施損耗及電力成本等都難以精準量化，被害企業的經濟損失難以量化。

為此，我們雙管齊下推進后續治理：一方面，多次與被告人及其辯護律師溝通，通過耐心釋法說理，推動公安機關、法院促成被告人主動退賠，最大限度為被害企業挽回經濟損失；另一方面，通過深入企業實地走訪、召開座談會等形式，提醒企業強化服務器異常流量監測、未授權訪問攔截等技術防護能力，助力企業筑牢網絡安全防線。

回首這起案件，它恰似一面棱鏡，折射出數據要素化時代的新型安全挑戰：網絡犯罪的形態正從直接竊取信息，悄然演變為對數字基礎資源的隱秘“寄生”——流量、存儲與算力，這些支撐人工智能研發與運行的“數字基建”，已成為黑灰產業覬覦和濫用的目標。

此類犯罪不僅作案手法更隱蔽、追溯難度更大，還可能從源頭污染數據池、侵蝕算力根基。這已不僅是網絡空間治理的重要命題，更是一項關乎智能時代發展根基的戰略課題。

我院所在的杭州高新區（濱江），是“中國數谷”試點示范核心區。立足區域定位，我們也正致力于構建懲治與治理并重的數字安全防護體系，精準打擊犯罪形成震懾，同時以前瞻思維推動制度創新，探索構建“三數一鏈”數據可信流通基礎設施，主動融入區域發展大局，參與數據要素“改革沙盒”等創新探索，秉持包容審慎監管原則，引導技術力量服務創新發展，讓法治為技術創新保駕護航。

這一切努力，都是為了將技術納入法治軌道、把數據置于安全基座，為數字經濟與新質生產力蓬勃發展培育活力與可靠性兼具的沃土。我堅信，一個可信、安全的數字未來，正在不遠的前方等著我們。

來源：檢察日報·先鋒周刊