![]()
作者:仕道君
隨著國產大模型DeepSeek掀起新一輪全球智能風暴,AI持續占據輿論話題中心。
人們不禁驚呼:AI時代來了!
“AI公務員”正式上崗滿意度超高,“AI主播”上崗播報全程零失誤,“AI咨詢師”一秒給出推薦列表,病人直接拿著DeepSeek的診斷找醫生開藥……
人們切實感受著人工智能對各行各業的重塑,也不時有“某某行業的黃昏”“某某感覺天塌了”之類信息刷屏。
但是,AI帶來的并非都是好消息。
近日,上海警方成功破獲一起別出心裁的電信網絡詐騙案,犯罪團伙利用AI技術生成“小姐姐”形象,在短視頻平臺大肆引流,憑借一套精心設計的話術“劇本”,對全國各地近千名男性實施“流水化”詐騙,涉案資金高達200余萬元。
![]()
犯罪團伙生成的照片(上海閔行警方 供圖)
![]()
犯罪團伙生成的照片(上海閔行警方 供圖)
目前,上海警方已約談相關短視頻平臺,督促其嚴格審核內容,加大對虛假生成、拼貼引流內容的識別和下架力度,進一步強化平臺監管責任,凈化網絡環境。同時,警方提醒廣大公眾,提高警惕,不要輕易相信網絡交友信息,避免上當受騙。
這種新型詐騙手段的出現,標志著AI技術已經被犯罪分子玩出了“新花樣”。
從“AI換臉”到“AI擬聲”,從“AI客服”到“AI美女”,詐騙手段不斷升級,讓人不禁感嘆:這年頭,連騙子都在搞技術創新!
AI詐騙:一場技術與人性的博弈
有道是“道高一尺,魔高一丈”,為了“生存”,為了“發展”,騙子們肯定也在不斷“與時俱進”,用新技術改造升級自己的“騙術”,從而提高詐騙成功率。
當今的AI詐騙手段,可謂層出不窮,令人防不勝防。
“AI換臉”技術可以讓詐騙分子冒充他人身份,與受害者視頻通話;“AI擬聲”技術可以模仿特定人物的聲音,進行電話詐騙;“AI客服”可以24小時不間斷地與潛在受害者聊天,篩選詐騙目標。這些技術的應用,使得詐騙行為更加隱蔽,識別難度大大增加。
詐騙分子利用AI技術,精準把握人性弱點。他們通過大數據分析,篩選出易受騙人群;通過深度學習,模擬出最令人信服的對話方式;通過情感計算,設計出最能打動人的話術。這種“精準詐騙”比傳統的“廣撒網”式詐騙更具危害性。
技術與人性的博弈從未停止。AI技術本應造福人類,卻被不法分子用于詐騙。這提醒我們,技術發展必須與倫理建設同步,否則層出不窮的新技術就可能成為犯罪分子的幫兇。
從“畫皮”到“攻心”:AI詐騙技術解讀
經濟學家阿西莫格魯在其著作《權力與進步:技術與繁榮的千年斗爭》中提出,不要盲目相信簡單的進步主義敘事,技術進步并不總是自動帶來社會繁榮,反而可能加劇不平等。
當然,技術進步不僅僅會加劇不平等,還會帶來新的問題、罪惡。
AI詐騙之所以屢屢得手,關鍵在于其對人性的精準把握。詐騙分子利用人們對美好事物的向往,制造出完美的虛擬形象;利用人們的孤獨感,設計出貼心的對話;利用人們的貪婪心理,編織出誘人的騙局。這種“攻心術”比傳統詐騙更具迷惑性。
社交工程學在AI詐騙中得到了充分應用。詐騙分子通過分析受害者的社交網絡、消費習慣、興趣愛好等信息,量身定制詐騙方案。這種“個性化”的詐騙方式,使得受害者更容易上當受騙。
認知偏差在AI詐騙中扮演了重要角色。人們往往過于相信自己的判斷,忽視潛在的風險;傾向于相信眼見為實,而AI技術恰恰可以制造出以假亂真的視覺和聽覺效果。這種認知偏差為AI詐騙提供了可乘之機。
齊抓共管:構建AI時代的詐騙“防火墻”
目前,中國生成式人工智能領域用戶規模已突破2.5億。隨著基座大模型研發、應用產品開發、應用推廣、反饋迭代的完整產業循環即將閉環,相信還會有更多的領域和人涉足人工智能之海。
因此,對AI詐騙、AI犯罪行為必須引起高度警惕,務必采取切實有效的應對措施。
技術防范是抵御AI詐騙的第一道防線。需要開發更先進的AI識別技術,用于檢測和防范AI詐騙;加強數據安全保護,防止個人信息被不法分子利用;建立AI技術應用的倫理規范,防止技術被濫用。
制度建設是防范AI詐騙的重要保障。需要完善相關法律法規,明確AI技術應用的邊界;建立跨部門協作機制,形成打擊AI詐騙的合力;加強國際合作,共同應對跨國AI詐騙犯罪。
提升公眾的數字素養是防范AI詐騙的根本之策。需要加強AI知識的普及教育,提高公眾對AI技術的認知;開展防詐騙宣傳教育,增強公眾的防范意識;培養批判性思維能力,提高識別和抵御AI詐騙的能力。
AI技術的發展勢不可擋,AI詐騙的威脅也將長期存在。
面對這場賽博世界的“畫皮”大戲,我們既不能因噎廢食,否定AI技術的積極意義,自然也不能掉以輕心,忽視AI詐騙的現實危害。
只有技術防范、制度建設和公眾教育多管齊下,才能在這場技術與人性的博弈中占據主動,讓AI技術真正成為造福人類的利器,而不是犯罪分子的幫兇。
讓我們攜手共建一個安全、可信的AI應用環境,讓“畫皮”無處遁形,讓“攻心”難以得逞。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.