數字人主播納入監管　以AI治AI筑溯源防線

（記者　陳錦鋒）隨著多模態AI、大模型與AIGC技術的深度融合，數字人產業正從“展示型”向“功能執行型”跨越。然而，技術狂飆的另一面，是數字人被濫用為傳播虛假信息的工具。據中新社報道，近日，市場監管總局與國家網信辦聯合印發《直播電商監督管理辦法》，首次將數字人主播納入政策監管，明確要求AI生成內容需標識并持續提示消費者。這一舉措標志著我國以“AI治AI”構建溯源防線的監管邏輯正式落地。

技術狂飆：數字人產業，從概念到規模化落地

（圖片來源：攝圖網）

數字人產業的爆發式增長，源于技術融合帶來的質變。多模態AI技術讓數字人具備實時交互能力，大模型賦予其邏輯推理與情感識別能力，AIGC則大幅降低內容生成成本。這些突破推動數字人從“靜態展示”向“動態服務”轉型——它們不僅能24小時直播帶貨，還能化身政務助手解答政策、化身醫療顧問輔助診斷。年輕群體成為核心消費主力，某美妝品牌通過定制數字人主播實現日均銷售額突破50萬元，轉化率較真人主播提升18%。技術普及也帶動產業鏈完善，從建模、驅動到運營，形成千億級產業生態。

風險暗涌：虛假信息，成為行業頑疾

數字人技術的低門檻特性，使其成為不法分子傳播虛假信息的“完美工具”。2025年，上海某公司利用AI生成“老專家”形象，通過短視頻虛假宣傳保健食品功效，涉案金額超2000萬元；更有犯罪團伙通過換臉技術偽造“明星帶貨”場景，誘導消費者購買三無產品，單案涉案金額破億元。這些案例暴露出數字人應用的兩大風險：一是身份偽造，AI可輕易生成以假亂真的虛擬形象；二是大模型可能被惡意提示詞誘導，生成違背倫理或法律的內容。

技術漏洞進一步加劇風險。2025年曝光的AI數字人主播被指令攻擊事件中，攻擊者僅通過輸入特定關鍵詞，即可控制AI主播上架0元商品，導致商家損失慘重。此類事件不僅損害消費者權益，更引發系統性信任危機——當數字人可以偽造任何身份時，真實與虛擬的邊界被徹底模糊，社會對技術的信任遭到動搖。

監管升級：以AI治AI，構建溯源防線

面對技術濫用亂象，監管部門提出“以AI治AI”的解決方案，從法律、技術、平臺三方面構建溯源防線。

法律層面，新規明確數字人商業應用的合規邊界。要求平臺對直播間運營者、主播服務機構進行資質核驗，建立動態管控機制；規定AI生成內容必須進行顯著標識，并持續提示消費者。這一制度設計既保障了技術創新空間，又劃定了不可逾越的紅線。

技術層面，監管部門推動平臺應用AI檢測工具識別虛假內容，通過區塊鏈技術實現商品溯源。例如，騰訊云推出的“數字人溯源系統”可提取虛擬形象的3D建模參數與語音合成特征，構建唯一數字指紋，使違規內容溯源時間從72小時縮短至2小時。這種“技術對技術”的監管模式，有效破解了“技術黑箱”難題。

平臺層面，頭部企業已建立數字人入駐審核機制。快手電商通過“信用評價體系”對違規主體采取限流、暫停直播等措施，并要求其繳納保證金；抖音平臺自2024年下半年處置17萬個錄播直播間，封禁3萬個賬號，清退11家違規機構。這些實踐表明，平臺自律是監管落地的重要支撐。