AI變臉助長電信詐騙激增，亟需多方防范對策

在科技飛速發(fā)展的當(dāng)下，AI（人工智能）給咱們的生活帶來了諸多便利，但一系列利用AI的新型犯罪，也給社會安全與穩(wěn)定帶來了嚴峻挑戰(zhàn)。

本人在浙江省辦理的一起涉嫌詐騙案中，犯罪嫌疑人就是通過各種途徑收集大量個人信息，運用 AI 算法進行深度分析，把受害人的興趣愛好到消費習(xí)慣，及社交關(guān)系到財務(wù)狀況，都摸得一清二楚；再通過采集受害人多角度照片或短視頻之后，利用AI 變臉技術(shù)已從靜態(tài)圖像偽造發(fā)展為實時動態(tài)視頻合成實施詐騙。更嚴重的是，犯罪團伙甚至能實時替換視頻通話中的人臉，在對話過程中動態(tài)調(diào)整表情和動作，而現(xiàn)有技術(shù)對動態(tài)偽造視頻的識別率不足 80%，部分檢測工具在低分辨率或復(fù)雜光線環(huán)境下準確率驟降至 50% 以下，普通用戶難以察覺異常。

據(jù)公安部數(shù)據(jù)顯示，2025 年一季度全國 AI 換臉詐騙案環(huán)比再增 45%，老年群體受騙占比達 38%，成為主要目標，單筆最高損失達 620 萬元（上海某企業(yè)高管被騙案例）。香港荃灣 2025 年 4 月破獲的詐騙中心，通過 AI 換臉假扮 "美女" 誘導(dǎo)受害人開設(shè)虛假電商平臺，每周騙款高達百萬元，涉及跨境犯罪網(wǎng)絡(luò)。當(dāng)前，犯罪團伙通過爬取社交媒體、外賣地址等信息構(gòu)建 "受害人畫像"，使詐騙成功率提升 2.3 倍，而盡管《人臉識別技術(shù)應(yīng)用安全管理辦法》于 2025 年 6 月 1 日施行，但對 AI 生成內(nèi)容的 "顯著標識" 標準尚未明確，平臺審核責(zé)任缺乏操作指引，技術(shù)提供者追責(zé)機制也不完善，防范形勢嚴峻。

為有效遏制 AI 變臉電信詐騙的蔓延，切實保障人民群眾財產(chǎn)安全，提出以下建議：

一、完善法律體系，壓實主體責(zé)任。參照歐盟《人工智能法》，在《反電信網(wǎng)絡(luò)詐騙法》中增設(shè)專門條款，明確 "為詐騙提供 AI 換臉工具者，除依法追究刑事責(zé)任外，可處違法所得 5-10 倍罰款，最高不超過 5000 萬元"；規(guī)定技術(shù)平臺未履行 AI 生成內(nèi)容審核義務(wù)的，由網(wǎng)信部門責(zé)令暫停相關(guān)業(yè)務(wù)直至整改達標。2025 年底前，由國家網(wǎng)信辦牽頭出臺《AI 生成內(nèi)容標識管理細則》，強制要求對深度偽造的音視頻添加不可去除的水印標識，如在視頻角落標注 "合成內(nèi)容" 電子標簽，從法律層面明確內(nèi)容生產(chǎn)者的標識義務(wù)。

二、強化技術(shù)反制，筑牢安全防線。推動金融、政務(wù)、支付等重點領(lǐng)域強制部署高精度檢測技術(shù)，2025 年 12月底前實現(xiàn) 100% 覆蓋。推廣成熟檢測系統(tǒng)（準確率超 96%），支持其與國家反詐中心數(shù)據(jù)互通，實時共享新型偽造特征庫。在數(shù)據(jù)安全管理方面，由國家發(fā)改委、工信部牽頭，2025 年底前在金融、醫(yī)療行業(yè)試點人臉數(shù)據(jù) "區(qū)塊鏈存證 + 國密算法加密" 技術(shù)，確保數(shù)據(jù)采集、存儲、使用全流程可追溯、不可篡改。企業(yè)采集人臉信息時，須采用隱私計算技術(shù)，通過多方安全計算實現(xiàn) "數(shù)據(jù)可用不可見"，違規(guī)泄露人臉數(shù)據(jù)的企業(yè)，除承擔(dān)民事賠償外，相關(guān)責(zé)任人依法追究刑事責(zé)任。

三、構(gòu)建多維反詐宣傳體系，提升反詐能力。要通過宣傳提升群眾防范意識，提醒群眾保護個人生物信息，謹慎對待不明鏈接、郵件。針對老年人，在社區(qū)、老年大學(xué)開展“AI 反詐工作坊”；針對企業(yè)財務(wù)人員，聯(lián)合行業(yè)協(xié)會開展 “反詐模擬演練”，識別偽造高管指令的常見話術(shù)。利用短視頻平臺制作 “AI 詐騙拆解” 系列動畫，還原詐騙分子如何通過外賣信息、社交動態(tài)定制劇本，提示公眾避免在網(wǎng)絡(luò)暴露人臉、聲紋等敏感信息。推廣“國家反詐中心 APP”的“AI 預(yù)警”功能，實時攔截可疑視頻通話。構(gòu)建起“全民參與、全域覆蓋”的防御網(wǎng)絡(luò)，讓AI犯罪無處遁形。

四、深化源頭治理，強化跨境打擊。外交部會同公安部與“一帶一路”國家建立 AI 犯罪情報共享平臺，建立 "48 小時跨境協(xié)查機制"，共享犯罪團伙的技術(shù)特征、資金流向和人員信息，聯(lián)合開展系列專項行動，實現(xiàn)對跨境詐騙團伙 "資金鏈 + 技術(shù)鏈 + 人員鏈" 的同步打擊，2025 年內(nèi)力爭聯(lián)合偵破至少 20 起重大跨境 AI 詐騙案件。（文/湖南君杰律師事務(wù)所許小軍）