你在短視頻里刷到的靳東,一口一個 “姐姐” 跟你噓寒問暖,勸你跟著他投資賺錢,可能根本不是他本人?甚至連那張臉、那個聲音,全都是 AI 偽造出來,專門騙你養老錢的?
![]()
今年全國兩會上,全國政協委員靳東再次直面 AI 換臉亂象,被問到這類侵權維權難不難時,他只說了兩個字:很難。
作為 AI 換臉技術濫用的典型受害者,他的形象和聲音早就被不法分子盯上,通過 AI 換臉、聲音克隆技術完整偽造,在各大短視頻平臺專門針對中老年女性實施情感詐騙、非法集資,不少阿姨因為信任這張熟悉的臉,被騙走了幾萬甚至幾十萬的養老錢。也正因如此,靳東在兩會上鄭重發聲,呼吁針對 AI 換臉專門立法。
很多人可能覺得,AI 換臉侵權是明星才會遇到的煩惱,跟我們普通人沒關系。可你有沒有想過,現在 AI 技術的門檻已經低到幾十塊錢就能做一條換臉視頻,你的臉可能被人換到不雅視頻里惡意傳播、敲詐勒索,可能被人偽造出來騙你的家人轉錢,甚至被人拿去注冊賬號、貸款,你根本不知道背后是誰在作惡。這件事從來都不只是明星的維權難題,而是我們每個人都可能踩進去的法律雷區。
從律師的角度來看,AI 換臉亂象,不是沒有法律能管,而是現有的法律,大多只能事后追責,很難從源頭攔住作惡的人,也解決不了靳東說的 “維權難” 的核心痛點。
咱們先把現有的法律依據給大家用大白話講明白,《民法典》里早就明確規定,任何組織或者個人不得以丑化、污損,或者利用信息技術手段偽造等方式侵害他人的肖像權,未經肖像權人同意,制作、使用、公開肖像權人的肖像,本身就是明確的民事侵權行為。
除此之外,《個人信息保護法》《網絡安全法》,還有國家網信辦出臺的《互聯網信息服務深度合成管理規定》,都對 AI 換臉這類深度合成技術有明確的監管要求,甚至《刑法》里也有規定,用 AI 換臉實施詐騙、敲詐勒索、傳播淫穢物品的,都會構成刑事犯罪,最高可判處無期徒刑。
可法條擺在那里,為什么維權還是這么難?核心就在于三個繞不開的坎。
第一個是溯源難,不法分子用的發布賬號大多是買來的黑號,服務器可能架在境外,視頻可以一鍵生成、批量發布,你根本找不到幕后真正的黑手是誰,想打官司都不知道該告誰。
第二個是證據固定難,侵權視頻可以一夜之間刪得干干凈凈,還能通過技術手段不斷修改、換號重發,等你好不容易做好公證取證,人家早就換了個馬甲繼續作惡,連 “毀尸滅跡” 的痕跡都找不到。
第三個是損失認定難,就像用靳東的形象實施詐騙,受害者遍布全國各地,單個受害者的金額可能不算特別大,而肖像權、名譽權的損失,還有對受害者造成的情感傷害,根本沒法用具體的數字去衡量,到了法庭上,也很難精準界定賠償金額。
這里面還有一個絕對不能隱身的關鍵角色,就是短視頻平臺。根據《網絡安全法》的規定,網絡運營者有義務管理用戶發布的信息,發現法律禁止發布的內容,必須立即停止傳輸、采取消除措施,防止信息擴散。
法律上還有個很明確的原則,要是侵權內容已經明顯到一眼就能看出來,平臺就不能再裝聾作啞,只等著權利人投訴才下架,必須主動履行審核攔截義務。
那些偽造靳東形象行騙的視頻,能在平臺上大肆傳播,甚至精準推送到中老年群體面前,平臺到底有沒有盡到審核責任,有沒有建立針對 AI 合成內容的專項核驗機制,直接決定了這些作惡的內容,能不能被掐滅在源頭。
靳東呼吁針對 AI 換臉專門立法,恰恰點中了現有監管體系的核心短板。現有的規則大多是事后追責,可 AI 換臉這種技術,成本低、傳播快、作惡門檻極低,我們更需要的,是從事前預防、事中攔截到事后追責的全鏈條法律規則。
比如強制要求所有 AI 深度合成內容,必須在顯著位置添加不可篡改的數字水印和溯源標識,比如給平臺設定更明確的技術審核義務,對涉及公眾人物、敏感場景的 AI 合成內容必須先核驗再發布,比如建立更便捷的一鍵投訴、快速下架機制,讓受害者不用打官司,也能第一時間阻斷侵權內容的傳播。
技術跑得太快,法律不能總跟在后面追。靳東的呼吁,從來都不只是為了明星自己維權,更是為了我們每一個普通人,在數字世界里能守住自己的臉、自己的聲音、自己的身份信息。
AI 技術本身沒有對錯,但我們必須用法律,給技術劃出一條不能觸碰的作惡底線,讓技術服務于人,而不是成為不法分子坑蒙拐騙的工具。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.