廣東
作品聲明：內容取材于網絡
鏡頭前的李梓萌，曾為貼合《新聞聯播》的莊重感，戴了多年沉悶的假發套。
九十年代末拿著千元工資的她，因讀錯一個字就要被罰兩百元，被倪萍調侃“貸款上班”。
這份用幾十年如履薄冰換來的“國臉”公信力，卻在2025年被AI技術輕易竊取，淪為不法商家的斂財道具。
從央視主播到奧運冠軍，從醫學專家到普通消費者，這場AI合成技術引發的信任危機，正在悄然改寫網絡空間的規則。
看似高科技的背后，是幾百元軟件就能操作的騙局，更是對公眾信任底線的公然挑釁。
李梓萌“被帶貨”賣糖果
2025年2月，一場毫無征兆的風波打破了網絡平靜。直播間里，“李梓萌”身著職業西裝、妝容精致，用標志性的播音腔向幾十萬觀眾推銷“深海多烯魚油”。
她表情嚴肅地聲稱，這款產品能治療頭暈頭痛、緩解手麻腳麻，甚至改善記憶力下降。
背景板上“權威推薦”四個大字，搭配央視主播的公信力加持，讓不少中老年人瞬間放下戒備，紛紛下單。
可收到包裹后大家才發現，產品包裝背面的執行標準赫然寫著“糖果”——這只是一款普通食品，根本不具備任何治療功效。憤怒的投訴如雪片般涌向監管部門。
海淀區市場監管局介入調查后，真相浮出水面：李梓萌從未參與過該直播，視頻中的“她”是AI技術合成的數字克隆人。
涉事公司從網絡搜集了十幾張李梓萌的高清公開照片，用幾百元就能買到的AI換臉和聲音合成工具，不到兩小時就完成了制作。
這個擁有88萬粉絲的賬號，靠著虛假宣傳瘋狂牟利，直至2025年6月被依法查處，成為北京首例濫用AI技術發布虛假廣告案。
最終，涉事公司因違反《廣告法》接受行政處罰，賬號被永久封禁。
奧運冠軍集體“躺槍”
AI騙局的魔爪并未止步于央視主播，奧運冠軍們的名譽也遭到瘋狂收割。
2025年4月起，多個社交平臺出現假賬號，截取全紅嬋的賽后采訪片段，用AI合成她的聲音和形象，推銷土雞蛋、蜂蜜等產品。
視頻里，“全紅嬋”操著帶廣東口音的普通話賣慘：“這是我老家的土雞蛋，幫家人賺點錢”。
這種拙劣腳本搭配奧運冠軍的純樸形象，讓不少老年粉絲心軟下單。可劣質貨品送達后，買家紛紛把矛頭指向全紅嬋一家，認為她借名氣斂財。
不堪其擾的全紅嬋媽媽，于4月29日公開澄清，強調家人從未參與任何代言或帶貨，所有相關視頻都是偽造。
但辟謠并未遏制亂象，7月至8月，類似虛假視頻反復出現，甚至有賬號用AI合成孫穎莎、王楚欽的形象“助陣”，還通過水軍刷彈幕營造熱銷假象。
人民日報8月發文點名批評這種行為，指出其侵犯了名人肖像權和消費者權益，違背了商業倫理。
無差別收割
不僅是公眾人物，專業人士也未能幸免。網絡上流傳的一段短視頻中，“張文宏醫生”正在推銷蛋白棒，聲稱產品能“增強免疫力”“適合日常補充”，完全背離了他的專業身份。
有細心網友發現，視頻中的“張文宏”畫面模糊，嘴唇開合與說話內容存在明顯時差，手勢節奏也完全對不上。
張文宏本人隨后澄清，確認視頻系AI合成，并非自己參與錄制。據網友反饋，涉事賬號的商品櫥窗顯示，這款蛋白棒已售出1180件，直至被微信平臺永久封禁。
律師明確指出，這種行為已侵犯他人肖像權，若造成損害需承擔賠償責任。更值得警惕的是，AI技術的濫用已呈現無差別化趨勢。
無論你是代表公信力的主播、國民好感的運動員，還是象征專業權威的醫生，只要有知名度，就可能成為黑產眼中的“流量素材”。
AI合成內容必須顯式標注
AI亂象的蔓延，終于觸發了監管的重拳出擊。針對一系列AI虛假帶貨事件，國家層面迅速完善政策法規，《人工智能生成合成內容標識辦法》自2025年9月1日起施行，要求所有AI生成合成內容必須添加顯式標識，從源頭遏制虛假信息傳播。
在此之前，北京、上海等城市已開展“AI亂象整治專項行動”，嚴查利用AI技術進行虛假宣傳的行為。央視《新聞+》等節目也專題曝光相關案例，法律專家解讀稱，AI仿冒帶貨不僅侵犯肖像權和聲音權，更是赤裸裸的商業欺詐。
各大網絡平臺也強化了審核機制，對未按要求標注的合成內容，采取限制流量、直接下架等處置措施。
這些舉措正在顯現成效：截至2025年10月，專項行動已查處20多起類似案件，封禁違規賬號50余個。曾經幾百元就能作惡的低成本騙局，如今面臨著高額罰款、賬號封禁甚至刑事追責的高代價。
技術本身沒有對錯，AI合成可以用于電影特效、虛擬醫療等正當領域，但當它被當作割韭菜的鐮刀，就必須受到法律的約束。
李梓萌用幾十年苦練換來的公信力，全紅嬋用汗水贏得的國民好感，張文宏用專業積累的權威形象，都不該被幾行代碼輕易竊取。
結語
如今再刷直播間，不妨多留意畫面上的“虛擬合成”標識。
AI技術沖擊下，信任的裂痕或許難以避免，但法律與監管的及時補網，正在幫我們分清屏幕對面是有血有肉的人，還是冰冷的數據。
這不僅是在保護公眾人物的權益，更是在守護每一個普通人的錢包與信任，讓技術真正服務于人，而非成為作惡的工具。
信息來源：
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
