“霸總”圍獵中老年女性，人大代表急了

“有個(gè)上市公司老總手捧鮮花，說(shuō)這輩子沒(méi)啥遺憾，就等我，問(wèn)我愿不愿意跟他走。”媽媽興奮地跟翁瑤說(shuō)。

這種“霸道總裁愛(ài)上我”的橋段已困擾翁瑤數(shù)月。翁瑤的媽媽今年68歲，二十多年前離異，平日消遣愛(ài)刷短視頻。起初，翁瑤因短視頻能給媽媽的生活增添樂(lè)趣并未過(guò)多干預(yù)。去年11月起，翁瑤逐漸發(fā)現(xiàn)媽媽不對(duì)勁。翁瑤告訴《中國(guó)新聞周刊》，媽媽總是頻繁提及有富商想跟她在一起，接過(guò)手機(jī)才得知，媽媽的短視頻賬號(hào)已被“AI霸總”“攻陷”。

《中國(guó)新聞周刊》檢索多個(gè)短視頻平臺(tái)發(fā)現(xiàn)，這類(lèi)“AI霸總”實(shí)質(zhì)上就是AI數(shù)字人。在視頻中，其通常身處富麗堂皇的會(huì)客廳、辦公室，展現(xiàn)出儒雅、深情款款的形象。這類(lèi)視頻通過(guò)添加“帥氣大叔”“黃昏戀”等標(biāo)簽，被精準(zhǔn)推送給缺乏情感關(guān)照的中老年女性。這些“AI霸總”瞄準(zhǔn)老年群體，背后藏著帶貨、詐騙等多重陷阱。日前，全國(guó)人大代表李秋建議，為推動(dòng)銀發(fā)經(jīng)濟(jì)高質(zhì)量發(fā)展，應(yīng)嚴(yán)打欺詐、誘導(dǎo)老年人下單等行為。

要去外地“奔現(xiàn)”

“姐姐，明天我就要走了，心里很舍不得你”“姐姐，你摸著良心說(shuō)，我到底帥不帥”……類(lèi)似的臺(tái)詞不斷從姜小星奶奶的手機(jī)中傳出，一度讓姜小星覺(jué)得“腦殼疼”。

但姜小星的奶奶卻樂(lè)此不疲。“帥，你太帥了。”姜小星奶奶對(duì)著手機(jī)屏幕里的“AI霸總”，隔空比出“點(diǎn)贊”的手勢(shì)。姜小星說(shuō)，奶奶關(guān)注了三四十位畫(huà)風(fēng)雷同的“AI霸總”。這樣的視頻，奶奶可以從早刷到晚。

老年人對(duì)于“AI霸總”的癡迷程度不止停留在“養(yǎng)眼”。《中國(guó)新聞周刊》梳理發(fā)現(xiàn)，在這類(lèi)視頻中，“AI霸總”往往會(huì)釋放出求偶信號(hào)，“共度余生”“找個(gè)疼你的人”等都是常見(jiàn)的話術(shù)。

視頻的評(píng)論區(qū)則匯集了大量老年人的真誠(chéng)回應(yīng)。有人會(huì)回復(fù)“好啊，等你來(lái)找我”，也有人實(shí)誠(chéng)地表示“帥弟弟，我是普通人，年紀(jì)很大了，配不上你”。“我們覺(jué)得‘一眼假’的東西，奶奶是真的分不清。”姜小星說(shuō)。

令姜小星苦惱的是，盡管已向奶奶多次解釋視頻的公共屬性，但每當(dāng)奶奶刷到“AI霸總”視頻，她總會(huì)認(rèn)為那些話術(shù)是“AI霸總”向自己釋放的專(zhuān)屬愛(ài)意。一個(gè)月前，奶奶還提到要去外地與一位“AI霸總”“奔現(xiàn)”，被家人及時(shí)勸止。

“用AI當(dāng)著她的面做了一個(gè)視頻，但還是勸阻無(wú)效。”羅珊珊告訴《中國(guó)新聞周刊》，兩個(gè)月前，她的奶奶刷到了一條“AI霸總”的視頻。““AI霸總”在視頻里說(shuō)，禮物到門(mén)口了要去拿。老人大半夜的就去了。老人本身有基礎(chǔ)病，后來(lái)就得了重感冒。”

想要澆滅“AI霸總”與老年人之間的“火花”并不容易。羅珊珊給《中國(guó)新聞周刊》提供的截圖顯示，短視頻平臺(tái)首頁(yè)給奶奶推薦的4條視頻中，有3條都是“AI霸總”視頻。羅珊珊說(shuō)，自己嘗試過(guò)取消關(guān)注、刷到視頻就點(diǎn)“不感興趣”等方法。當(dāng)她以為這類(lèi)賬號(hào)不再“現(xiàn)身”，將手機(jī)拿給奶奶時(shí)，奶奶刷到的第一個(gè)視頻還是AI合成視頻。

北京紅颯律師事務(wù)所主任律師黃啟瑞今年年初也接觸過(guò)有關(guān)“AI霸總”的咨詢(xún)案例。咨詢(xún)?nèi)说哪赣H從去年10月起開(kāi)始接觸“AI霸總”視頻，后來(lái)與一位“AI霸總”私信交談甚久，進(jìn)而被推銷(xiāo)保健品。

黃啟瑞對(duì)《中國(guó)新聞周刊》指出，這類(lèi)視頻本質(zhì)是利用AI合成的霸總形象，給中老年女性提供情緒價(jià)值，然后激發(fā)這一群體非理性消費(fèi)或投資行為，進(jìn)而實(shí)現(xiàn)騙財(cái)、斂財(cái)。

50元生成一個(gè)視頻

《中國(guó)新聞周刊》在短視頻平臺(tái)檢索發(fā)現(xiàn)，為積累私域流量，部分“AI霸總”賬號(hào)會(huì)建立專(zhuān)屬粉絲群。記者進(jìn)入了4個(gè)百人以上的粉絲群，這些群聊消息更新頻率很快，“AI霸總”每天都會(huì)在粉絲群中分享直播鏈接，諸多中老年女性在其中踴躍互動(dòng)。

“人生就要活得漂亮，用積極態(tài)度為生活添彩，讓每個(gè)平凡日子都閃耀夢(mèng)想的光芒。此刻，師傅為你精心挑選了一些禮物，打開(kāi)右下方小黃車(chē)就能看到……”記者點(diǎn)進(jìn)一個(gè)名為“建國(guó)情感”的“AI霸總”直播間后發(fā)現(xiàn)，該直播正打著““AI霸總”給你送禮物”的名義，推銷(xiāo)一款售價(jià)為59.9元的“武財(cái)神招財(cái)令掛件”，商品銷(xiāo)量已達(dá)3.9萬(wàn)件。

還有“AI霸總”直接在商品銷(xiāo)售頁(yè)面的視頻中演起苦情戲。“姐姐你快過(guò)來(lái)，我們差點(diǎn)就陷入陰謀，萬(wàn)劫不復(fù)……如果不是我開(kāi)公司，想接你回家過(guò)好日子，我媽和小海也不會(huì)吃這些苦，受這些罪……”在一個(gè)售價(jià)99元的女士手鐲銷(xiāo)售頁(yè)面中，一位“AI霸總”動(dòng)情地講述道。

這類(lèi)以帶貨為目的的“AI霸總”視頻，通常由商家外包給專(zhuān)業(yè)視頻制作團(tuán)隊(duì)生產(chǎn)。在某電商平臺(tái)，某視頻制作團(tuán)隊(duì)的成員告訴記者，團(tuán)隊(duì)專(zhuān)業(yè)接商單，包括與跨境電商合作。“你只需要提供一個(gè)想法，文案、圖片、聲音和技術(shù)都可以由我們代勞。”該成員透露，團(tuán)隊(duì)對(duì)接的商家最少會(huì)要求做30—50個(gè)視頻，量大的會(huì)合作幾百個(gè)。報(bào)價(jià)方面，1分鐘以?xún)?nèi)的視頻，代做1個(gè)50元；代做50個(gè)，每個(gè)視頻40元；代做100個(gè)視頻則單價(jià)降到30元。

記者調(diào)查還發(fā)現(xiàn)，不少“AI霸總”背后由婚戀機(jī)構(gòu)運(yùn)作。在某短視頻平臺(tái)，記者給幾位“AI霸總”點(diǎn)了關(guān)注后，私信即刻彈出對(duì)方發(fā)來(lái)的鏈接卡，聲稱(chēng)“點(diǎn)擊即可獲得哥哥的聯(lián)系方式”。

記者以中老年女性身份，按照鏈接卡的提示添加了貴州某婚戀服務(wù)公司的企業(yè)微信。記者提出想獲得視頻中“AI霸總”的電話，對(duì)方回復(fù)：“姐姐，我們是大哥的紅娘，你要在我們這邊花980元辦會(huì)員，才能跟大哥聯(lián)系。”

為了進(jìn)一步了解這類(lèi)“AI霸總”視頻的生成、發(fā)布流程，日前，記者用生成式AI創(chuàng)作平臺(tái)先后制作了3個(gè)10秒的“AI霸總”視頻。在某平臺(tái)，記者上傳“AI霸總”角色圖片后，系統(tǒng)自動(dòng)識(shí)別匹配了“成熟總裁”的音色。設(shè)定完說(shuō)話內(nèi)容、動(dòng)作描述，6小時(shí)后，記者得到了一個(gè)像模像樣的“AI霸總”視頻。另一App生成的“AI霸總”視頻，耗時(shí)短至2—3小時(shí)。

記者生成的“AI霸總”視頻。圖/截圖

隨后，記者在某短視頻平臺(tái)注冊(cè)了一個(gè)全新賬號(hào)，用以測(cè)試制作好的3個(gè)“AI霸總”視頻。不到18小時(shí)，賬號(hào)收獲了500多位粉絲，3個(gè)視頻中，瀏覽量最高的達(dá)1.2萬(wàn)，較低的也已超過(guò)5000。同時(shí)，記者收到了中老年女性的大量評(píng)論、私信，有的在私信中向記者透露了生日、年齡等信息。

實(shí)際上，記者發(fā)布的“AI霸總”視頻并不完美。在其中一個(gè)視頻的制作過(guò)程中，記者設(shè)置了“緩緩掏出鉆戒”的精細(xì)指令，而生成的“AI霸總”在完成這一動(dòng)作時(shí)僅拿起鉆石，將戒托留在了戒指盒中。但視頻發(fā)布后，這一不合常理之處并未被指出。

應(yīng)建立負(fù)樣本庫(kù)

依據(jù)多位受訪家屬的講述，在老齡化社會(huì)，中老年人的情感需求普遍存在。“其實(shí)沒(méi)能約束奶奶看短視頻的原因也較令人心酸，奶奶不識(shí)字，在農(nóng)村的娛樂(lè)活動(dòng)非常有限。家里的年輕人也沒(méi)有經(jīng)常陪伴在身邊。看短視頻是她和爺爺為數(shù)不多的消遣方式。”羅珊珊說(shuō)。

數(shù)據(jù)也佐證了這一點(diǎn)。2024年10月，由民政部等共同組織發(fā)布的《第五次中國(guó)城鄉(xiāng)老年人生活狀況抽樣調(diào)查基本數(shù)據(jù)公報(bào)》顯示，2021年，我國(guó)老年人生活在空巢家庭（包括獨(dú)居家庭、僅與配偶居住家庭）的比例為59.7%，較2010年上升10.4個(gè)百分點(diǎn)。

一些場(chǎng)合下，“AI霸總”的出現(xiàn)只是“主打一個(gè)陪伴”。日前，記者點(diǎn)進(jìn)某個(gè)“AI霸總”直播間，看到一位奶奶邊包餃子，邊與“AI霸總”連麥聊天。直播間的“AI霸總”開(kāi)了語(yǔ)音，其音色是一個(gè)帶地方口音的中年真人男聲，與此前發(fā)布的AI視頻里的聲音完全不一樣，但此時(shí)，“AI霸總”是誰(shuí)似乎已不重要。

為什么中老年人容易“中招”？快思慢想研究院院長(zhǎng)田豐深耕AI領(lǐng)域多年。他分析稱(chēng)，一方面，中老年人作為AI時(shí)代下的“弱勢(shì)群體”，更容易相信“眼見(jiàn)為實(shí)”；另一方面，2023年起，AI數(shù)字人在短視頻賽道被大量運(yùn)用，當(dāng)其被濫用于黑灰產(chǎn)，在評(píng)論區(qū)不斷有人造勢(shì)的情況下，老年人出于從眾心理更容易上當(dāng)受騙。

黃啟瑞指出，因相信“AI霸總”視頻遭遇財(cái)產(chǎn)損害，維權(quán)困難的原因在于當(dāng)前生成式AI的技術(shù)門(mén)檻較低。一旦被騙，受害者因缺乏取證技術(shù)及工具，難以獨(dú)立完成證據(jù)收集，證據(jù)鏈無(wú)法形成閉環(huán)。這種情況下，如果委托律師維權(quán)，又要承受高昂的維權(quán)成本。

《中國(guó)新聞周刊》檢索短視頻平臺(tái)發(fā)現(xiàn)，當(dāng)前大多數(shù)“AI霸總”視頻都標(biāo)有“內(nèi)容由AI生成”字樣，但仍有少量視頻缺乏標(biāo)識(shí)。值得注意的是，這類(lèi)標(biāo)識(shí)往往通過(guò)一行小字的形式出現(xiàn)在視頻左下角，難以對(duì)用戶(hù)起到顯著提示作用。

依據(jù)國(guó)家網(wǎng)信辦2022年11月頒布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，深度合成服務(wù)提供者提供人臉生成、姿態(tài)操控等人物圖像、視頻生成編輯服務(wù)時(shí)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)。

田豐告訴《中國(guó)新聞周刊》，當(dāng)前，仍存在一些不法團(tuán)隊(duì)通過(guò)對(duì)國(guó)外的開(kāi)源工具進(jìn)行修改，使生成的視頻產(chǎn)品缺乏AI標(biāo)識(shí)。黃啟瑞認(rèn)為，在這一問(wèn)題上，短視頻平臺(tái)應(yīng)加強(qiáng)對(duì)視頻內(nèi)容的監(jiān)測(cè)過(guò)濾。

近日，記者向某短視頻平臺(tái)客服咨詢(xún)“AI霸總”視頻管理、屏蔽相關(guān)事宜。客服回應(yīng)稱(chēng)，平臺(tái)會(huì)持續(xù)優(yōu)化推薦和標(biāo)注機(jī)制，若刷到不喜歡的視頻，用戶(hù)可通過(guò)長(zhǎng)按視頻，點(diǎn)擊“不感興趣”按鈕，或通過(guò)“屏蔽設(shè)置”為不喜歡的內(nèi)容添加屏蔽詞，系統(tǒng)會(huì)根據(jù)用戶(hù)反饋減少相關(guān)內(nèi)容推薦。

田豐建議，AI視頻生成模型應(yīng)建立負(fù)樣本庫(kù)。“希望這類(lèi)模型去預(yù)訓(xùn)練一些負(fù)面樣本，使模型能第一時(shí)間識(shí)別詐騙、黑灰產(chǎn)等用途的不良素材和指令，直接從源頭上阻止不良視頻的生成。”

（文中翁瑤、姜小星、羅珊珊均為化名）

作者：胡可欣

編輯：杜瑋