九卦 | 《中國金融行業(yè)AI欺詐與技術對抗研究報告》詳析防御新態(tài)勢，推動數字協(xié)同防線

來 源 | 據新華財經

當前，隨著人工智能技術的爆發(fā)式發(fā)展，金融行業(yè)正經歷數字化轉型浪潮。AI技術賦能了智能風控、精準營銷、自動化服務等創(chuàng)新場景，但同時也存在一些黑灰產組織利用AI技術，催生出深度偽造、智能釣魚、自動化欺詐等新型犯罪手段，技術博弈與對抗的復雜性仍在升級。

6月18日，《中國金融行業(yè)AI欺詐與技術對抗研究報告》發(fā)布暨圓桌論壇活動在清華大學經濟管理學院成功舉行。本次活動由清華大學經濟管理學院中國金融研究中心、四川省反詐中心、新網銀行、新華財經聯(lián)合主辦，主題為“AI反詐：從博弈到共治”。清華大學經濟管理學院教授、清華經管中國金融研究中心主任、國家級高層次人才計劃入選者陸瑤發(fā)布并解讀《中國金融行業(yè)AI欺詐與技術對抗研究報告》。

報告系統(tǒng)梳理了AI欺詐的技術演進、攻防態(tài)勢及應對策略，旨在為行業(yè)提供科學指引，助力構建安全可信的金融數字生態(tài)，為金融行業(yè)應對AI時代的安全挑戰(zhàn)提供了參考解決方案。

AI欺詐新圖景：風險升級與技術“雙刃劍”

1

技術發(fā)展與風險演變

此次報告圍繞 AI 欺詐的定義與特點、技術周期中的攻防演變史、人工智能時代金融安全攻防新態(tài)勢、智能防控典型案例分析以及應對當前挑戰(zhàn)的策略和建議展開深入探討。

清華大學經濟管理學院教授、清華經管中國金融研究中心主任、國家級高層次人才計劃入選者陸瑤指出，隨著AI技術發(fā)展，金融欺詐呈現(xiàn)智能化、自動化特征。黑灰產利用AI生成虛假人臉、聲紋及偽造材料，并借助自動化工具實施精準詐騙。

新網銀行反欺詐專家王萍表示，人工智能技術在金融領域的廣泛滲透，正在重塑欺詐風險的本質和邊界。AI驅動的欺詐威脅呈現(xiàn)出前所未有的動態(tài)性和復雜性，需要采取更具前瞻性、技術導向性的創(chuàng)新策略，構建與數字金融時代相匹配的安全屏障。

課題組明確定義了“AI欺詐”的概念，指出其核心是不法分子利用機器學習、自然語言處理、多媒體技術及生成式人工智能等AI技術，通過生成虛假信息、模仿真實用戶行為、繞過安全驗證機制或自動執(zhí)行詐騙腳本等手段，突破過往欺詐手段的局限，從而實現(xiàn)更高程度的自動化、智能化和精準化欺詐操作，并以非法牟取利益為目的，精心策劃實施的欺詐行為。

課題組圍繞“監(jiān)管引領、機構主責、社會協(xié)同”的立體防御框架展開，深入探討了建立AI威脅情報共享機制、儲備算力資源、構建認知對抗體系、培養(yǎng)復合型安全人才、提升全民數字素養(yǎng)、常態(tài)化攻防演練以及建設開源情報社區(qū)等具體路徑。

此外，課題組依據技術成熟度曲線、麥肯錫數字化轉型方法論以及IDC關于金融科技安全趨勢的研究成果，并結合中國金融實踐，將技術周期中的攻防演變劃分為手工化時代、信息化時代、互聯(lián)網時代、移動互聯(lián)時代以及人工智能時代五個階段，并從技術特點、攻擊方式與防御機制等維度進行深入剖析，揭示其在金融安全演進中的歷史地位與現(xiàn)實意義。

2

以“技術向善”理念構建防御體系

古語有云“安而不忘危，存而不忘亡，治而不忘亂”，陸瑤呼吁行業(yè)保持警惕：AI技術的善用與濫用僅在一念之間。唯有以“智”治“智”，推動防御體系從被動響應轉向主動進化，才能讓技術真正成為守護金融安全的“無形長城”。課題組認為，未來金融安全的核心在于平衡創(chuàng)新與風險，通過技術迭代、制度優(yōu)化與社會協(xié)作的三維聯(lián)動，實現(xiàn)AI技術與金融生態(tài)的良性共生。

此次發(fā)布的《中國金融行業(yè)AI欺詐與技術對抗研究報告》通過實證分析、案例研究及社會科學的交叉視角，為行業(yè)應對AI時代的安全挑戰(zhàn)提供理論框架與實踐指南。

報告提出金融機構需構建“技術-策略-機制”三位一體防御體系：技術上采用深度學習、多模態(tài)生物特征檢測及生成痕跡識別技術攔截偽造攻擊；策略上通過全生命周期風控閉環(huán)降低風險；機制上推動跨機構數據共享與監(jiān)管協(xié)同，強化行業(yè)聯(lián)防聯(lián)控。課題組特別強調，唯有技術革新與制度完善并重，方能實現(xiàn)金融安全與AI創(chuàng)新的平衡發(fā)展。

陸瑤強調，技術對抗的核心是建立動態(tài)防御能力，通過攻防演練、對抗樣本庫更新，形成動態(tài)化、智能化、生態(tài)化的防御能力，同時構建多層次、多維度的機制對抗體系，整合內部資源與外部力量，打通信息壁壘，構筑起堅實的技術防線與制度保障。實現(xiàn)“以AI進化對抗AI進化”。技術革新不應成為欺詐工具，而應服務于社會福祉。金融機構需以“技術向善”理念構建防御體系，守住風險防控底線。

圓桌暢談：AI欺詐攻防與治理縱深

在圓桌沙龍環(huán)節(jié)，清華大學經濟管理學院中國金融研究中心副主任黃張凱、清華大學經濟管理學院中國金融研究中心副主任龐家任、四川省反詐中心綜合防范支隊支隊長羅彥加、新華財經副總編輯陳冉圍繞著AI欺詐手段、AI技術攻防、典型AI詐騙案例等話題深入探討。

1

欺詐手段演變與受害者分析

黃張凱指出，AI技術使得傳統(tǒng)冒充身份詐騙的欺騙性發(fā)生質變。犯罪分子利用AI可以生成動態(tài)逼真、聲音一致、邏輯流暢的“虛擬人”分身，冒充親友或領導進行詐騙，其逼真程度已達到肉眼難辨的地步，且技術門檻的降低使其具備大規(guī)模、精準化的攻擊能力，犯罪成本驟降而危害范圍劇增。

羅彥加的回答印證了這一趨勢，他表示雖然目前涉及AI的新型詐騙案件數量尚不及刷單、冒充公檢法、征信詐騙等傳統(tǒng)形式，但上升苗頭已十分明顯，需要引起警惕。他特別揭示了一個現(xiàn)象：根據統(tǒng)計數據，20-50歲的中青年人群成為了AI詐騙最主要的受害者群體，占比高達九成以上，原因在于他們是“高觸網人群”，日常大量線上活動增加了個人信息暴露和接觸詐騙信息的機會。因此，這類人群更需提高警惕防范這類新興的AI詐騙手段。

2

技術攻防前沿與民眾防護

面對技術驅動的欺詐升級，如何在技術上有效應對成為核心議題。龐家任分享了高校在AI反詐基礎研究上的代表性進展。他介紹，在深度偽造檢測領域，研究正從早期識別生成模型的特定瑕疵轉向探索基于物理規(guī)律的更普適識別方法；針對大語言模型生成的詐騙文本，研究則通過分析文本的流暢度、詞匯分布和邏輯連貫性等特征進行檢測和溯源；同時，對抗性攻防研究通過主動模擬攻擊來暴露技術漏洞，從而逆向提升反詐模型的魯棒性，為實戰(zhàn)提供重要支撐。

對于普通民眾的防范，羅彥加給出了切實可行的建議。盡管技術發(fā)展迅速，當前AI換臉視頻通話仍常暴露一些破綻，如通話時長極短、人物眼神空洞或身體與背景銜接不自然。要求對方配合做表情等動作進行動態(tài)驗證，是突破當前AI換臉局限的有效方法，往往能迫使偽造圖像現(xiàn)出原形。此外，與親友事先設定專屬的轉賬“暗語”也是可靠的核對手段。

針對AI技術的發(fā)展對社會的沖擊，黃張凱談到，在金融行業(yè)可能產生比移動互聯(lián)網更深遠的影響。當下各機構就面臨一些現(xiàn)實困難：一方面金融機構難以與大廠競爭頂尖人才，另一方面各地警力、金融機構的資源和資金有限。雖然AI變革的具體路徑和沖擊范圍難以精準預測，但可確定的是其力度巨大。金融行業(yè)應提前做好準備，保持業(yè)務模式的靈活性，AI反詐只是這場深刻變革中的一部分挑戰(zhàn)與機遇。

3

深水區(qū)攻堅：法律困境與多元共治

在打擊AI欺詐的實際工作中，羅彥加警官坦誠當前面臨多重困境。他指出，跨境執(zhí)法難度大，主要嫌疑人和“金主”往往藏匿境外；現(xiàn)有法律對使用開源技術、涉詐軟件作者責任界定、技術提供者與使用者責任邊界等存在模糊地帶，面臨法律滯后與真空問題；加之利用虛擬貨幣等加密手段轉移資金和數據層層覆蓋的去中心化特點，導致取證鏈條復雜冗長，證據難以達到嚴格的司法要求，案件常因此受阻。

他透露，針對這些挑戰(zhàn)，公安部已聯(lián)合相關機構積極推動專項立法工作，旨在制定更專業(yè)、更具指導性和規(guī)范性的法規(guī)以填補法律空白。

AI立法本身就是一個高度復雜的跨專業(yè)系統(tǒng)工程，絕非單純的法律延伸，而是需要法律、技術、倫理、經濟學和社會學的深度交叉融合。龐家任指出，制定有效的法律規(guī)范不僅要求立法者對AI技術有深度理解，還需精準考量隱私保護與社會安全的平衡、算法歧視風險等倫理悖論。

黃張凱分析了相關的國際經驗，“歐盟在AI監(jiān)管方面較為領先，推出了人工智能管理辦法框架，但在創(chuàng)新保護與風險控制之間的平衡引發(fā)爭議，技術本身的快速迭代使立法實際落地困難重重，凸顯了法律適配技術發(fā)展的普遍挑戰(zhàn)”。

龐家任認為，政府應加速AI相關立法進程，明確責任邊界、制定數據安全與算法透明度標準，并組建專業(yè)化執(zhí)法隊伍。高校與科研機構需要持續(xù)攻堅核心反詐技術，重點培養(yǎng)橫跨技術、法律、倫理的復合型人才。企業(yè)作為主力軍，要加大投入部署先進反詐模型進行實時風險監(jiān)控，并在產品中設計嵌入預警和攔截功能。社會組織應聚焦于公眾教育、推動行業(yè)自律。公眾則需要持續(xù)學習提升自身防范意識，形成風險識別閉環(huán)。

總結展望：強化防御韌性，多方協(xié)同響應

圓桌論壇的最后，黃張凱在展望金融機構應對時強調，AI對金融行業(yè)的沖擊可能才剛剛開始，其深度與廣度或將超越移動互聯(lián)網時代。金融機構需認清挑戰(zhàn)的嚴峻性，即使面臨人才與資源的限制，也應未雨綢繆，加強AI反詐能力建設，保持業(yè)務模式的靈活性與韌性。

對于構建防御體系的愿景目標，新網銀行反欺詐專家王萍認為，AI金融欺詐的防御還需要全社會的共同參與和協(xié)同響應。構建一個涵蓋公眾教育、產學研協(xié)作和開放情報共享的社會化防御體系，是增強整個社會面對AI金融欺詐韌性的關鍵路徑。