北京
圖片來源：《新聞女王2》
出品｜搜狐科技
作者｜張瑩 常博碩
編輯｜楊 錦
最近熱播的《新聞女王2》中有這樣一個情節：SNK電視臺未經允許，使用離職的文慧心和已故主播梁景仁的形象，制作AI虛擬主播進行新聞播報。
而幾乎與劇集同步，現實中也上演了相似一幕。演員溫崢嶸發現自己的形象被AI換臉后出現在多個帶貨直播間中。她本人進入直播間質問“你是溫崢嶸我是誰？”，反被對方直接拉黑。
AI仿冒行為肆虐，你在直播間看到的董宇輝等名人，很可能不是本人，而是通過AI技術仿冒的冒牌貨。早在三個月前，就有媒體報道揭露，有人利用AI模仿奧運冠軍全紅嬋的聲音，帶貨銷售土雞蛋。
面對這一亂象，抖音集團副總裁李亮回應稱，“AI內容侵權識別是行業性技術難題，惡意仿冒賬號也在不斷與平臺進行技術對抗，抖音會持續加大投入應對挑戰。”
抖音一直以算法精湛著稱，為什么也會對識別AI換臉感到為難呢？
有資深算法從業者對搜狐科技解釋了AI換臉的檢測原理：即便圖像在人眼看來毫無破綻，一旦通過頻率變換等技術手段進行分析，被篡改的區域在特定維度上會呈現異常的數值尖刺，與真實圖像特征存在明顯差異。
他也強調，對于抖音直播這類大規模應用，如果不惜成本，也可以有效防范AI換臉，比如為每個直播間配置頂級硬件檢測或最先進的防護模型，但成本會是天文數字。
清華大學人工智能國際治理研究院副院長梁正教授對搜狐科技指出，目前治理的難點在于查處的“及時性”。“平臺需要有一些投入，能夠去及時識別（AI盜用形象直播）。我們頒布了《人工智能生成合成內容標識辦法》，平臺也有義務去監管。”
梁正進一步強調，比“仿冒形象”更嚴峻的挑戰是完全虛擬的“數字人”。“它可能憑空捏造一個‘科學家’或‘醫生’等根本不存在的身份，直接構成對公眾的欺騙。在這種情況下，強制性的‘人工智能生成內容標識’就成為最重要的底線，必須明確告知公眾‘這不是真人’。”
AI盜播，攔不住還是不想攔？
明明正在刷著手機，卻看到和自己長得一模一樣的人正在屏幕對面直播帶貨。演員溫崢嶸經歷這一幕后，在直播間敲下一行質問：“你是溫崢嶸我是誰？”隨后被拉黑。
溫崢嶸在直播間講述這場荒誕對峙后，AI盜播引發廣泛關注。
溫崢嶸的遭遇并非個例。以抖音為例，數據顯示，抖音電商10月啟動“仿冒名人宣傳”專項治理行動以來，處置涉及侵權仿冒違規的達人賬號多達1.1萬個，其中典型的違規案例就包括AI仿冒侵權。
抖音集團副總裁李亮表示，AI內容侵權識別是行業性技術難題，惡意仿冒賬號也在不斷與平臺進行技術對抗，抖音會持續加大投入應對挑戰，維護創作者、商家和消費者的合法權益。
對于AI換臉的技術原理，新加坡科技研究局科學家李韶華對搜狐科技介紹，“簡單來說就是人臉或者任何物體都對應了特征空間里的一個向量，比如我用我的臉錄了一段視頻，然后我把視頻映射到特征空間，我的臉的向量是a，黃渤的向量是b，那在特征空間里找到a，替換成b 然后再從特性空間映射回視頻，就生成了黃渤臉的視頻。”
隨著AI技術的發展，AI換臉變得觸手可及，李韶華稱，“開源模型+小型GPU就可以做到了”。
有頭部企業算法資深從業人士向搜狐科技介紹，檢測AI換臉或者P圖的原理在于，即便圖像在人眼看來毫無破綻，但一旦通過技術手段，比如頻率變換對其進行分析，被篡改的區域在特定維度上會呈現出異常的數值尖刺，與真實圖像的特征截然不同。
而數字安全的難點，本質上是一場成本博弈。該人士介紹，理論上，只要將防御成本提得足夠高，安全護欄就很難被攻破。
“例如，我們手機的身份認證系統會使用多種光線，如紅光、紫光進行閃爍檢測。因為無論假人皮膚的仿真度多高，在復雜光線下的反應與真實人臉還是不一樣的。”
該人士表示，對于抖音直播這類大規模應用，如果不惜成本，也可以有效防范AI換臉，比如為每個直播間配置頂級硬件檢測或最先進的防護模型。但現實在于，平臺用戶體量過于龐大，要實現這種級別的、無死角的安全覆蓋，成本太高了。因此，平臺必須在安全投入與風險控制之間做出權衡，這就留下了被攻破的風險。
“不存在”的“專家”，比盜臉更危險
針對近日引發關注的“AI換臉”盜播事件，專家學者指出，該行為在法律上定性明確。
清華大學人工智能國際治理研究院副院長梁正教授明確指出：“盜用公眾人物形象進行‘AI換臉’直播，主要侵犯了肖像權，甚至名譽權，這里不存在所謂的法律模糊地帶。”
北京安晴佳翔律師事務所執行主任宋佳律師進一步分析，此類行為中，內容制作者與商家是直接侵權方，如果其行為不僅限于侵權，還虛構事實、隱瞞真相，以非法占有為目的，騙取消費者數額較大的財物，則可能構成詐騙罪。
宋佳還指出，平臺在收到侵權通知后，有義務立即采取必要措施。當侵權事實已像本次事件一樣成為公眾話題，或仿冒賬號形成相當規模時，平臺可能被認定為“應當知道”侵權存在。若此時仍未主動排查處理，則可能需要承擔連帶責任。
盡管有法可依，但治理的難點在于查處的“及時性”。
梁正教授表示，“平臺需要有一些投入，去及時識別（AI盜用形象直播）。我們頒布了《人工智能生成合成內容標識辦法》，平臺也有義務去監管。”按照標識辦法，面向公眾和消費者提供相關商品信息和服務時，AI生成的文字、圖片、視頻等內容，都要添加標識以明確其來源。
而對于短時間內，平臺還沒有注意到，侵權行為就已經發生的，則需要進行事后追責。梁正教授強調，需要對可追溯的侵權主體施以經濟罰款和賬號封禁等嚴厲懲罰，提高其違法成本。
“如果這類問題屢禁不止，我們需要判斷，這究竟是平臺未盡到應有的‘注意義務’，還是其在技術識別上的投入不足？”
梁正教授特別指出，比“仿冒形象”更嚴峻的挑戰是完全虛擬的“數字人”。“它可能憑空捏造一個‘科學家’或‘醫生’等根本不存在的身份，直接構成對公眾的欺騙。”
他表示，“在這種情況下，強制性的‘人工智能生成內容標識’就成為最重要的底線。必須明確告知公眾‘這不是真人’。”
梁正分析道，一方面，真人主播需要對直播內容的真實性負責，而數字人無法負責。但另一方面，數字人可以24小時直播，相比真人主播成本更低。他表示，面對虛擬主播帶來的監管盲區，不能對技術簡單否定，但核心原則是：“只要內容不是真實的，就必須進行顯著標識。這既是對公眾負責，也是平臺必須履行的監管責任。”
運營編輯 |曹倩審核｜孟莎莎
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
