近日,多位老年女性家屬向記者表示,自己拿起老人的手機后才發現,她們的短視頻賬號早已被各類“AI霸總”侵占。
84歲奶奶給AI數字人寫情書
消費近萬元還要嫁給他
“建國,春節快樂!先給你賠禮道歉,我那天傷害了你,其實我也在自責,你是不是很恨我?”
春節前夕,84歲的張玉蘭手寫了一封五百字情書向“建國”表示情意。
而收信人“建國”,并非真實存在的人物,是一個AI數字人。“建國”常以西裝造型、大背頭形象示人,開口常用“親愛的姐姐”這類溫情話術,主打噓寒問暖的情感關懷,還會分享所謂生活智慧,以此博取中老年女性的好感與信任。
張玉蘭的孫女王婷告訴極目新聞記者,奶奶沉迷“AI霸總”已有一段時間。早在2016年,74歲的張玉蘭便開始使用智能手機,當時只學會了最基礎的操作。
家人發現異常是在去年10月,張玉蘭開始頻繁從AI數字人視頻關聯的櫥窗購買掛件,這些動輒售價幾百元的掛件,在淘寶上僅售9.9元。
“一開始家里人沒當回事,以為奶奶只是刷短視頻圖個好玩,沒想到她竟和這個AI數字人談起了戀愛,還考慮嫁給他。”王婷說,即便家人反復告訴她這是騙局,老人也只是短暫醒悟,很快又再次沉迷。
有時奶奶還會背著家人偷偷看相關視頻,生怕被發現,甚至還自己開通了公眾號,專門給“建國”發消息。
![]()
84歲奶奶對數字人“建國”的手寫情書
幾個月來,張玉蘭每天要花費近十個小時刷AI數字人相關視頻,為主角是AI數字人的悲情推文打賞,還購買了不少價高質劣的商品,累計下來已經花了七八千元。
3月11日,張玉蘭又花費了1227元購買AI視頻“推薦”的書籍。
這一次,王婷決定不能再放任不管了,于是將視頻號關聯的商家投訴至12315平臺。目前已被受理。
即便如此,張玉蘭依舊執意為AI數字人花錢。
從業者自曝內幕:
五分鐘生成一個視頻,一個號最多用5天
2025年2月,中央網信辦開展“清朗行動”,整治AI技術濫用亂象被列入八項重點任務之一。2月下旬起,各大短視頻平臺對“建國”相關賬號予以關停。
然而,即便“建國”被封禁,各類風格相似的AI霸總數字人仍層出不窮,“建軍”“國華哥哥”等均打著溫情關懷的旗號,專門瞄準中老年女性展開情感圍獵。
![]()
AI霸總直播截圖
從形象來看,這類數字人已經成了一種風格:梳著側背頭、身著正裝,一口一句姐姐叫著。
“中老年這個群體真有意思,又能(用來)做數據,又聽話,看他們的私信,甚至覺得有點可愛。”這是AI數字人行業“老手”阿明寫在朋友圈的一段話,他打造的AI數字人形象讓許多中老年人步入陷阱。
同樣入行數年的黃興也向記者坦言,他主要做中老年情感賽道的視頻帶貨,手下有幾百名學員,“建國”“小海”等數字人形象他都深度參與打造。
“我們一般會運營幾十個視頻號,這些賬號百分之百會違規,一個號最多用5天,核心就是靠視頻號帶貨賺傭金,一天至少能賺2000元。”黃興說,生成一條數字人視頻只需要5分鐘,且每條視頻不能重復,幾十個賬號會持續更新。如今他已不再使用數字人形象,因為這類形式容易違規,而是直接用此前中老年女性熟悉的“建國”“小海”的聲音,搭配AI生成的引導下單文案。
AI數字人圍獵觸多重法律紅線
情感關懷與制度約束缺一不可
AI數字人圍獵中老年群體的背后,實際上有著更深層次社會問題和法律問題。
廣東哲清律師事務所馬俊哲律師告訴極目新聞記者,從法律定性與監管治理來看,利用AI數字人圍獵老年人的相關行為已觸碰多重法律紅線,且存在明確的監管依據與改進方向。法律層面,此類行為若以非法占有為目的,通過虛構身份、情感誘導等方式騙取錢財,完全符合詐騙罪構成要件,同時因借助網絡通訊工具面向不特定多數人實施,屬于典型的電信網絡詐騙。
武漢大學老齡科研基地科研綜合辦公室主任陳昫認為,中老年群體被AI數字人蒙騙應當從多維度來看,首先是老年人自身存在的脆弱性問題,它既包括生理健康層面,同時也有心理認知層面,對于數字人缺乏辨別鑒偽能力;其次從需求層次來說,老年人會有對溫情、尊重、愛的需求,這些需求的存在,客觀上可能使一些違規不法行為鉆空子。最后是老年人們有社會經驗的相對剛性,他們可能會認為照片、視頻都很難造假,類似這樣既有經驗判斷,可能會影響他們對于數字人詐騙等新興形態詐騙的警惕性和自我防御意識。
來源 | 極目新聞
▼關注查看深度文章
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.