AI風險事件頻發，全球風控出現大變局

短期以AI對抗AI，需要企業自覺落實相關防御措施，長期則需要監管和標準化的落地。

文｜周路平 周享玥

編｜游勇

10月29日凌晨，美國發生了一起令人啼笑皆非的事情。英偉達在這一天舉辦了GPU技術大會，官方直播只有2萬人觀看，但與此同時，另外一個以黃仁勛形象偽造的假直播也在同步進行，而最高觀看人數超過了10萬人。

生成式AI的大爆發，給千行百業帶來巨大想象空間的同時，利用AI技術進行深度偽造的風險在陡然增加。尤其是Sora2等圖生視頻大模型發布之后，以假亂真的效果進一步加劇了外界的擔憂

攻防之間，一場深刻的“全球風控大變局”已悄然降臨。

01

AIGC雙刃劍，全球風控局勢在加劇

2024年初，香港公布了一起有史以來金額最高的AI詐騙案。某跨國企業香港分公司財務人員遭“AI圍獵”，詐騙團伙通過偽造總部高管郵件、音視頻并組織一場逼真的多人視頻會議，誘使其15次轉賬，損失金額高達2億港元。

無獨有偶，去年10月印尼新任總統宣誓就職后，其頭像頻遭盜用制作虛假視頻，至少有22個虛假賬號冒充其名義，騙取民眾“行政費”。

這是AI時代全球風險變化的典型縮影。AIGC猶如一把雙刃劍，帶來AI紅利的同時正加劇全球風控風險。而且，相比于以往的攻擊手段，生成式AI帶來的安全風險呈現多個變化趨勢。

技術上，AI大幅拉低了安全攻擊的門檻與成本。過去，文件篡改、證件偽造、電話詐騙等攻擊多依賴人工操作，相對低頻且成本較高。現在，“AI黑客”利用生成式AI工具，可輕易制作高度逼真的人臉圖像、釣魚郵件、虛假網站、惡意腳本。

技術杠桿加持下，攻擊類型大增，比如深度偽造已從曾經僅由專業團隊掌握變為非專業人士也能通過AI快速合成換臉視頻，成為增長最快的新型風險之一。

螞蟻數科國際業務首席技術官姚偉斌告訴數智前線，2023年以前，DeepFake等AIGC攻擊比例不足千分之一，生成式AI普及后，攻擊次數指數級上升，“2024年、2025年攻擊比例已超過5%，甚至接近10%。”

在空間層面，AI風險已突破地理邊界，影響范圍更廣，治理難度驟增。無論AI欺詐、電信詐騙均已跨國蔓延，但各國仍以屬地方式治理，導致追責、認定、追款和執法協同困難重重。

在時間維度上，時效性也變得愈發關鍵。如今算法兩周一迭代已算迅速，但攻擊者的迭代效率卻以天為單位，遠超防御節奏。有數據顯示，2024年，AI輔助攻擊每24小時的變異率已達93%。

在時間、空間和技術等多個維度出現變化的背景下，由深度偽造引發的重大AI風險事件，已經在全球范圍內帶來真金白銀的損失。

德勤報告預測，與深度偽造相關的網絡攻擊損失將從2023年的123億美元飆升至2027年的400億美元，復合年增長率32%，銀行和金融服務業將成主要目標。

新的風險形勢下，AI風控亟需變革。業界普遍認為，以前基于規則引擎疊加的“人與人對抗”的安全風控方式，已難以適應AI時代的風控需要，亟需新的風控解決方案。

02

單點防御轉向全鏈路服務

過去一年，香港金管局先后公布了兩批生成式AI的沙盒名單，希望通過行業的共同努力，探索具體場景的深度研發與測試驗證。而入選的方案和用例從第一批的十幾個，增加到了27個，集中在金融行業的AI風控和治理。

相比于數量的增加，業內看到的變化是，在探索用AI去對抗AI的同時，大家也在逐漸意識到，安全風控已經是一個社會工程問題，不能僅僅靠單點的技術來應對。

隨著攻擊門檻的降低，攻擊者的迭代效率已經在按天進化，傳統基于規則引擎的風控系統早已力不從心。姚偉斌認為，今天單點的算法已經不夠用，要從防注入的系統層面再到全鏈路的服務進行打通。

面對全新的風控形勢，螞蟻數科提出了由點到面的防控思路：一是要做到端到端的防控，覆蓋多層級，而不僅僅依賴于單點算法。比如在攻擊發生之前，對App層面進行加固，檢測是否有被越權或者入侵的跡象；在被攻擊時，檢測算法要開始生效，鑒別攻擊行為。

二是將產品和服務相結合。除了提供ZOLOZ等標準化的產品，螞蟻數科也在給企業提供安全專家服務。安全專家這個角色會根據后臺每天的攻擊信息進行分析，包括是否有地域或者IP的聚集性，是否有其他相似的特征，然后設定特定的防御策略。這是螞蟻數科今年在做的一個比較新的東西，“這意味著，從原來單純的一個產品進化到一個安全專家服務的概念。”

三是提升全行業的共同防御能力。比如螞蟻數科連續兩年舉辦了針對Deepfake檢測算法的比賽，目的就是幫助行業和學術圈提升整體的防御能力。

另外，螞蟻數科也建設了天璣實驗室，通過紅藍對抗的方式，去探索前沿生物識別檢測與對抗攻擊，并自研一套自動化生物識別檢測認證體系，推動整個行業的身份識別安全水位升級。“現在有這種實驗室能力或者工具的并不多。”姚偉斌告訴數智前線。

如今這種全鏈路的風控體系正在取得成效。在東南亞一些國家，DeepFake的攻擊濃度大概在3%-5%，而螞蟻數科旗下的安全品牌ZOLOZ能把識別準確率做到99.9%。

“短期以AI對抗AI，需要企業自覺落實相關防御措施，長期則需要監管和標準化的落地。”姚偉斌說。目前，業內開始用AI去對抗AI，拿一些壞的樣本對AI進行訓練，讓它變得更聰明，比如用數字人對AI進行訓練。

但這種做法有其局限性。安全風險的防控經常面臨“道高一尺、魔高一丈”的窘境，算法依賴于數據去訓練，但大多數情況下，都是出現了攻擊行為之后，再把這些數據喂給算法，補上漏洞，常常是跟在攻擊者后面疲于奔命。

“如果互聯網的內容10%是AI的，我們還能通過算法去防一下；但假如大部分都是AI生成的，背后會帶來非常巨大的計算成本。”姚偉斌認為，這需要企業的自覺，給AI生成的內容打上隱性和顯性的標識。

而從長期來看，要徹底改變內容生成可信的問題，比如每一個AI生成工具要有一個Key，就好比每一個網頁都對應一個http網址一樣，讓每個內容背后都有可信的數據生成鏈。

另外，AI風控也依賴全球在監管層面的協同。今年3月，國家網信辦等四部門印發《人工智能生成合成內容標識辦法》，要求AI生成的內容必須添加標識。香港金管局（HKMA）、新加坡MAS、馬來西亞BNM等也已明確設定誤攔截率、誤通過率等安全指標，倒逼企業加速防控。

不過，各國的治理模式差異顯著，例如歐盟以倫理先行為導向的“硬法治”模式，通過《人工智能法案》對高風險AI系統實施嚴格監管；而美國則偏向以技術先行為導向的“軟法治”模式，更側重行業自律和自愿承諾。這些困境凸顯了單一國家或區域性治理模式的局限性，全球協同治理的緊迫性日益凸顯。

03

中國企業如何吃到海外風控的蛋糕？

AI風控作為全球性話題，也催生了龐大的治理需求。其中金融、Web3、游戲和政企行業在AI風控的需求尤為旺盛，其原因不難理解，AI帶來的風險漏洞會給這些客戶帶來真金白銀的損失。

而海內外不少針對AI風控的項目正在受到資本的熱情追捧。比如聚焦于AI合規的獨角獸企業Vanta不僅得到了眾多資本的青睞，其估值更是已經飆升到40多億美元；而專注在AI模型安全領域的初創公司Irregular在今年9月完成了8000萬美元融資，估值達到了4.5億美元。

這些企業盡管在AI風控細分賽道耕耘或者局限于本土區域，但資本層面依然給予了非常積極的反饋。

這個賽道也在吸引中國企業走出去。螞蟻數科自2017年就開始探索數字技術出海，將螞蟻集團在中國龐大市場中磨練的最佳實踐與技術能力以產品的形式出海，服務于海外客戶的數字化轉型

相比于很多創業型企業，螞蟻數科在海外經營已經具備了諸多優勢。一是螞蟻數科的產品和技術經過了國內市場的打磨。眾所周知，中國的移動支付發達，數智化進程迅速，每一個場景和產品都經歷過高壓環境的測試和打磨，往往在海外市場擁有很強的競爭力。

其次是阿里和螞蟻的品牌背書效應，在國際市場尤其是東南亞的知名度很高，給螞蟻數科在這些市場的耕耘帶來諸多便利。而且，阿里和螞蟻集團在東南亞和南亞等國投資了大量的錢包產品，比如菲律賓的GCash、印尼的DANA、馬來西亞的Touch’n Go、泰國的Truemoney、孟加拉的bKash。這些本地支付寶們成了螞蟻數科進軍海外市場的肥沃土壤。

如今，螞蟻數科旗下的安全科技商業化品牌ZOLOZ可實現用戶全自助、無人工干預完成“在線身份認證”，實人認證準確率達到 99.9%，將原本至少一周以上的注冊時間，縮短至3分鐘，提升了客戶業務效率。2023年，Forrester發布亞太區反欺詐科技服務商研究報告，ZOLOZ位列亞太區第一

比如ZOLOZ支持了印尼“待就業卡”項目，該項目的一個風險點在于，要確保獎學金發放到準確的學員賬戶中，防范欺詐冒領等問題。而通過螞蟻數科的ZOLOZ身份認證服務，不僅免去了人工審核成本，也讓學員在2分鐘內完成注冊認證流程。

而在海外耕耘多年的姚偉斌發現，海外市場有其獨特性的一面，比如海外企業的付費習慣更好，尤其是在香港、新加坡等監管嚴格的地區，企業更愿意為服務買單。而且，海外企業習慣于買SaaS產品，而不是像國內市場有太多本地化部署的需求。

姚偉斌告訴數智前線，螞蟻數科在海外的金融客戶購買SaaS產品的比例非常高。相比于本地化部署，SaaS模式在AI風控上有著天然優勢。一方面，產品提供方可以掌握更多的攻擊樣本，從而能及時響應，優化應對策略，提升攔截的效率；另一方面，風控算法本身對時效性要求高，而SaaS可以滿足客戶對最新算法的需要。

另外，雖然AI攻防的風險在全球范圍內增加，但國家和地區之間對AI風控的訴求差異較大，比如數智化水平最高的中美表現得最為強烈，而東南亞、南亞和日韓等市場，已經在啟動智能化進程。

業內普遍認為，中國企業在技術上與國際廠商沒有代差，甚至比他們更強。因為國內的競爭激烈，有場景、有客戶案例，也有非常多的競爭對手。

不過，在姚偉斌看來，中國企業出海需要做技術和產品的本地化，不能幻想著像國內一樣能夠短時間內大爆發，需要比較長的時間去醞釀和準備。