網(wǎng)紅說話，一句都不敢信了

在抖音上看到了一個AI生成的虛構(gòu)人物帶貨短視頻，還挺有意思，底下的評論也都在玩梗。

大家默契地玩梗，都知道嫦娥本就是神話傳說人物，壓根不存在，帶貨的只是用AI生成的假象。

但假如有人用還在世的名人，特別是網(wǎng)上很有名、有不少粉絲的網(wǎng)紅，這些人的形象生成AI視頻帶貨，又該怎么辦呢？

比起壓根就沒有留下形象的嫦娥，現(xiàn)在的網(wǎng)紅名人留下可供AI創(chuàng)作的素材特別多，面孔身材動作聲音都有，微表情都能用AI模仿到位，說話語音口氣現(xiàn)在也可以用聲音大模型模仿，做起來不僅毫無困難，還非常逼真。

我能想到的，肯定是網(wǎng)上都用爛的套路了，這種AI偽造名人視頻帶貨數(shù)量之多，被偽造的名人都不勝其煩了。

早在幾個月以前，短視頻平臺就有AI合成奧運冠軍全紅嬋及其家人的帶貨視頻，從長相到聲音都和其本人非常相似，帶貨農(nóng)產(chǎn)品貨值也較低。這類帶貨視頻多到讓全紅嬋家人心煩，與此同時消費者被騙也不好追究，鉆了個大空子，以至于人民日報官方微博都下場點名這種虛假利用AI欺騙消費者的行為。

虛假AI名人行騙，這種事情可不是只蒙騙國內(nèi)老實人，放在國外更厲害，最近國外有件事，簡直就是在關(guān)公面前耍了一套漂亮刀法還全身而退，令人拍案叫絕。

幾天前的英偉達GPU技術(shù)大會，黃仁勛的演講自然得到了科技圈內(nèi)部的關(guān)注，在這場高峰時有十萬人觀看的直播中，黃仁勛竟然在臺上聲稱“有個加密貨幣大規(guī)模普及活動，直接契合英偉達加速人類進步的使命”。

他還亮出了二維碼，鼓勵觀眾掃碼以發(fā)送加密貨幣。

直播看到這里的眾人必然目瞪口呆，可能會有人覺得“黃仁勛這么做一定有他的道理”，掏出手機掃了碼，但肯定有人自我懷疑，是自己喝大了還是受騙了。

覺得自己受騙了的，恭喜你答對了，因為這本來就是AI偽造的黃仁勛形象，和真正的黃仁勛演講同步放出，用來欺騙觀眾，騙他們投資數(shù)字貨幣的。

真正的黃仁勛直播沒提投資數(shù)字貨幣，但真正的黃仁勛直播只有2萬多人觀看，李逵的關(guān)注度竟然遠(yuǎn)遠(yuǎn)小于李鬼。

騙子用著黃仁勛的芯片，制作了黃仁勛的AI形象騙人，觀看量竟然比正牌黃仁勛多很多，真是個黑色幽默。

這事可真是大大助長騙子的囂張氣焰，在黃仁勛頭上動土都沒事，仿冒其他名人網(wǎng)紅去騙人就更大膽了。

目前來看這類AI偽造名人形象的事情，名人本身很忙而造假者太多，難以追究，但也不是完全不能追究。

畢竟AI偽造的網(wǎng)紅帶貨，最后掏錢的還是消費者，消費者可以向市場監(jiān)管機構(gòu)舉報虛假宣傳。

比如今年2月，消費者舉報了某視頻賬號推薦的“深海多烯魚油” 能夠治療多種疾病，涉嫌虛假宣傳。

點進直播間一看，好家伙，88萬粉絲，直播間里的形象是央視主持人李梓萌，旁邊展板上標(biāo)注著 “適合頭暈頭痛、手麻腳麻、記憶下降人群” 等醫(yī)療用語。

結(jié)果一查，所謂的“深海多烯魚油” 實際執(zhí)行標(biāo)準(zhǔn)為糖果，倒是吃不死人，但根本不具備疾病治療功能。

至于直播間里的李梓萌形象，肯定不是真人，而是利用 AI 技術(shù)偽造生成的。北京市場監(jiān)管部門就對該公司進行了行政處罰。

這是北京第一次處罰AI虛假宣傳，上個月公布，顯然互聯(lián)網(wǎng)不是法外之地。

但還有非常多AI假冒名人虛假宣傳沒有得到懲治。

以前靠PS就能造假，有圖也不一定有真相；現(xiàn)在AI技術(shù)成熟到隨意合成形象和聲音，就連視頻都沒法相信了，眼睜睜看到的視頻，也不一定是真相了。

“眼見為實”完全不存在了。

以后無論是熟悉的親人朋友，還是信任的明星網(wǎng)紅，說的話、做的事，哪怕有直播和視頻影像，都不能信了。

AI將注定反復(fù)拷問人與人之間的信任。

“AI 黃仁勛”與英偉達 GTC 同時開直播，“假貨”觀看人數(shù)竟是正版 5 倍|英偉達|直播|黃仁勛_新浪科技_新浪網(wǎng) finance.sina.com.cn/tech/digi/2025-10-30/doc-infvrtfp2593382.shtml

全紅嬋帶貨土蜂蜜？全父：均系A(chǔ)I偽造視頻-重慶日報 https://cqrb.cn/shishi/2025-04-29/2259139_pc.html

央視主持人成“受害者”！官方通報 https://mp.weixin.qq.com/s/8__RTIJLFhavb5IBaY0GKQ