一鍵生成“換臉”視頻作品 真假難辨的AI內容該如何監管？

來源：央視新聞客戶端

這幾天，國內AI大模型都在密集上線新的版本，其中，國內平臺進行內測的新一代視頻生成模型，就給相關行業帶來了巨大的震撼。只要輸入簡單的文字描述，然后一鍵點擊，這個大模型就能自動生成包含多鏡頭切換、連貫敘事和同步音效的視頻作品，影視制作的門檻大大降低，甚至有人驚呼，以后做一部電影只需要導演一個人就夠了。

但驚喜背后，驚嚇也隨之而來，由該平臺生成的明星、演員的視頻在網絡瘋傳，真假難辨的程度前所未見。要知道，此前的AI換臉和聲音克隆技術，就已經讓不少人上當受騙。如今，如果假視頻的生成到了電影級別，我們如何能分得清虛擬和現實呢？人們的肖像權、隱私權以及著作權，該如何保護？

臨近春節，中國的人工智能領域，迎來了創新“井噴”。去年，還是DeepSeek一枝獨秀，今年，卻是多款大模型密集升級上線，而且在多個技術賽道，實現重大突破。本周，在智能體編程賽道，智譜推出新一代旗艦模型GLM-5，引爆全球技術圈。更受矚目的是，在視覺生成賽道上，字節跳動正式上線新一代AI視頻生成模型Seedance 2.0，以“可導演的電影級全流程生成引擎”為定位，刷屏國內外的內容創作圈。

只需輸入簡短描述和參考圖即可生成具備多機位運鏡、原生音效的高質量視頻，還支持多鏡頭長敘事等功能，Seedance 2.0模型的出現，讓知名視頻博主潘天鴻感慨，它簡直就是萬能的視頻生成模型。潘天鴻還參與了該模型正式發布前的灰度測試，其測評視頻標題為：改變視頻行業的AI，快來了，但有點恐怖。

潘天鴻：它永遠帶給你的是驚喜，不是失望，這就是這個模型“恐怖”的地方。它遠超出我的預期，這個AI的特性在于它有導演意識，會做明確分鏡，并且所有的人物呈現不會失真，非常真實。

Seedance 2.0與國外最優秀的視頻大模型Sora比較，誰更優秀？本周，記者與視頻博主合作進行了測試，記者希望大模型生成一個“大熊貓參加冬奧會并完成單板滑雪內轉1980度抓板動作”的視頻，給兩款大模型分別輸入了80字的任務提示詞。

Sora版的視頻，用現場解說可實現如何向專業動作靠攏，而Seedance版視頻，似乎更強調炫酷，也更適合傳播。

再看看專業人士點評。潘天鴻團隊稱，Seedance 2.0不是工具升級，而是行業革命；測評人士之外，游戲制作人馮驥評價說：AIGC，也就是人工智能，生成多模態內容的創作方式，其童年期時代，結束了，并表示，該模型是“當前地表最強視頻生成模型”；而多位美國導演或影視從業者，在使用之后，更是公開表達諸如“好萊塢要完蛋了”，或“這東西說不定真能搞垮好萊塢”的感慨。

2024年就有數據顯示，我國網絡視聽行業市場規模超1.22萬億元，短視頻用戶規模達到10.4億，使用率達93.8%。行業普遍認為，隨著AI視頻技術的不斷迭代，AI將深度參與從創意、拍攝到傳播等各個環節，內容生產的產業鏈將發生重構。

一句話、一個人，就能拍電影，很多媒體用“顛覆”二字來形容Seedance 2.0的性能。它顛覆的不僅僅是整個行業，對個體來說，還在顛覆人的判斷力。在Seedance 2.0灰度測試的真人照片生成視頻階段，由于生成的視頻過于逼真，有評論就說，其以假亂真的程度，讓“眼見為實”四個字，受到更大的挑戰。

如今，新一代視頻大模型的出現，讓仿真能力更強，技術門檻更低，當然也讓人更擔憂。爭議之下，這個大模型內測僅僅兩天之后，企業就宣布緊急優化，暫停使用真人圖像作為主體參考，在本周四正式上線的版本中，這個功能也依舊不能使用。大家都在問：這個功能會恢復嗎？更重要的是：我們該如何為這項強大的技術，劃定清晰的邊界？

在沒有向AI提供任何聲音文件的情況下，僅僅上傳了一張照片，AI就自動匹配出了本人的聲音。Seedance 2.0的爆火，帶來的不僅是技術的驚嘆，更引發了公眾對隱私權的深層擔憂。

擔心不止于此。在此前Seedance 2.0內測期間，就有網友利用該工具生成與明星的相關視頻，導致名人形象被隨意使用，“魔改”內容泛濫。相比于此前語言大模型在文本層面的突破，Seedance 2.0所帶來的視頻生成能力的飛躍，更像是一個被打開的潘多拉魔盒。

短短兩天內測，Seedance 2.0已暴露出諸多侵權風險，其中爭議最大的是真人素材參考功能。2月9日，相關運營方在內測群內發布通知，進行緊急優化，暫不支持輸入真人素材作為主體參考。而在本周四Seedance 2.0正式上線時，真人圖像參考功能依然無法使用。

真人素材的參考功能，如何才能合規、安全地使用呢？個人信息保護法中已有明確說法，人臉、聲音等生物識別信息，被明確界定為“敏感個人信息”。而法律也明確規定，處理此類信息，應當取得個人的單獨同意。

除了真人素材，Seedance 2.0還面臨著影視動漫作品版權侵權的隱憂。

AI生成的視頻，越來越難辨真假，那些負責生成視頻的AI平臺，理應是第一責任人，必須建立完善的內部、外部監督機制，防止侵權視頻的產生。但除了生成平臺，那些發布、傳播這些視頻的短視頻平臺、社交媒體，同樣責無旁貸。在AI內容海量生成、瞬時傳播的今天，單靠個人舉報和事后刪除已經遠遠不夠。平臺是否應該把責任前置，建立更嚴格的審核機制，從源頭上遏制這些侵權視頻的發布和傳播呢？

根據明星、名人形象合成的視頻，充斥在各類短視頻平臺和社交媒體，有的涉嫌侵權，有的甚至被用來帶貨，作為傳播平臺，該負怎樣的責任呢？民法典規定，網絡用戶利用網絡服務實施侵權行為的，權利人有權通知網絡服務提供者采取刪除、屏蔽、斷開鏈接等必要措施，這就是“避風港原則”。在這一原則下，平臺只需要按“通知—刪除”的原則進行事后補救。專家認為，在海量AI生成內容涌現的當下，這一原則顯然已經需要改進。

其實，民法典中已有規定，網絡服務提供者知道或者應當知道網絡用戶利用其網絡服務侵害他人民事權益，未采取必要措施的，與該網絡用戶承擔連帶責任。其中，“應當知道”四個字，意味著平臺要承擔起更多的注意義務，專家認為，面對AI侵權視頻，網絡平臺應該從事后刪除的被動應對，轉向事前識別和審核的主動治理。

目前，各大傳播平臺已普遍采用一定的過濾和攔截技術，防止侵權視頻的傳播。在專家看來，相比傳播平臺，作為內容提供者的AI視頻生成平臺，在侵權違法內容的審查中，理應承擔更高的責任。2023年8月開始施行的《生成式人工智能服務管理暫行辦法》中就明確，生成式人工智能服務提供者應當依法承擔網絡信息內容生產者責任，履行網絡信息安全義務。

AI的不斷升級，也需要監管的發力。本周四，國家網信辦表示，針對發布AI生成信息時不添加標識、傳播虛假不實內容等問題，已開展專項整治，已處置賬號1.3萬余個，清理違法違規信息54.3萬條，典型案例中，就包含了AI換臉假冒運動員、售賣AI生成的公眾人物“送祝福”視頻等情形。

從文字、圖片、聲音，再到如今愈發逼真的視頻生成，AI技術的迭代速度，已經超出了很多人的想象。但AI發展得越快，我們越需要停下來思考一個根本問題：我們發展AI，究竟是為了什么？如果科技進步帶來的是一個越來越難以分辨真與假、善與惡、美與丑的世界，這樣的“進步”，是我們想要的嗎？技術的發展，永遠都是一把雙刃劍，為了避免技術被濫用，相關的監管和規則的制定，也必須加速跟上。

制片人丨呂志佳 徐新

主編丨李瑾

編導丨沈泳兒 張大鵬 李昕璘 李昂