利用“AI換臉”生成活體認證視頻牟利，法院：技術中立不是侵害個人信息的“擋箭牌”

杭州中院｜來源

當“一張照片即可解鎖人臉識別”成為黑灰產的牟利工具，我們該如何在技術浪潮中守護“數字面容”？近日，浙江省杭州市中級人民法院審結全省首個涉AI技術偽造人臉通過活體認證的公益訴訟案，明確技術濫用必須承擔法律責任，為“AI換臉”行為劃出司法紅線。

一、AI換臉視頻攻破人臉識別 技術濫用誰之責？

只需一張他人照片，即可通過“AI換臉”技術生成動態活體認證視頻，輕松繞過平臺人臉識別系統——這并非科幻情節，而是黑灰產的真實作案手段。案涉“AI換臉”技術通過深度學習的算法，去識別目標人物照片中的人臉要素信息，不斷提取該些人臉要素信息進行訓練建模，實現換臉的效果。

胡某甲、胡某乙為牟利，通過境外渠道獲取他人手機號、頭像、身份證等信息，利用上述AI換臉技術制作虛假活體認證視頻，再通過植入虛擬相機程序，在平臺人臉識別時自動播放預制的換臉視頻，從而非法登錄他人賬號，獲取收貨地址、購物車信息等數據并出售獲利。此外，二人還提供有償虛假實名認證服務。浙江省杭州市人民檢察院就此提起民事公益訴訟，要求二人在國家級媒體上公開賠禮道歉，并支付侵害社會公共利益的損害賠償款。

二、法院判決：技術中立不是“擋箭牌”

法院經審理認定，人臉信息屬于敏感個人信息，受法律嚴格保護，處理人臉類的生物識別信息除必須獲得個人的單獨同意外，還需遵守相關法律法規的特別規定。胡某甲、胡某乙未經同意，利用“AI換臉”技術偽造活體認證視頻，非法處理多人個人信息，不僅侵害不特定主體的個人信息權益，威脅公民人身財產安全，更破壞了社會信任秩序，損害社會公共利益，構成侵權。二被告雖稱活體認證視頻系由AI技術自動生成，但法院明確指出：技術的工具屬性不改變行為的違法本質。技術是中立的，但技術的應用須受到法律規制，技術的使用者也必須對其濫用技術造成的后果負責。

雙重責任：技術使用必須恪守法律與倫理

該判決明確了AI技術應用中的雙重責任邊界：

一是合法處理義務。在數字化時代，人臉、指紋、聲紋等個人生物識別信息屬于高度敏感的個人信息，一旦泄露或者非法使用，可能導致個人的人格尊嚴受到侵害或者人身、財產安全受到嚴重危害。處理人臉等生物識別信息，必須依法取得個人單獨同意，并遵守法律法規的相關規定。任何組織或個人未經同意，不得私自收集此類信息，侵害他人個人信息權益。此案中，二被告未經授權收集、使用他人人臉信息制作虛假認證視頻，違反了《中華人民共和國個人信息保護法》等相關法律法規。

二是技術向善義務。技術的研發與應用必須恪守法律與倫理底線?！凹夹g向善”并非一句空洞的口號。技術發展應當服務社會，而非淪為侵權工具。法律的界限即是技術的邊界，道德的準繩即是創新的韁繩。擁抱技術進步的同時，必須堅決抵制侵害公民權利、侵蝕社會信任的行為，每一位公民都應自覺成為科技倫理的守護者和良好數字生態的共建者，審慎使用技術，尊重他人權利?！癆I換臉”等技術在娛樂、創新等領域具有價值，但一旦用于非法突破安全驗證、盜用身份，即背離科技倫理，必須受到法律制裁。

最終，法院判決胡某甲、胡某乙在《法治日報》公開賠禮道歉，并支付公益損害賠償款，專門用于個人信息保護與AI技術濫用治理。

三、法官心語

技術有邊界，法律有紅線。杭州市中級人民法院副院長 一級高級法官 池海江認為，AI可以輕易“換”掉一張臉，但永遠無法“換”掉法律責任與倫理底線。人臉信息不僅是個人身份的關鍵標識，更是社會信任體系的數字基石。本案中，法院并未否定“AI換臉”技術的本身價值，但當它被用于偽造他人身份、突破安全驗證，將他人面部信息變成可交易、可偽造的數據商品時，技術的性質就發生了根本改變，不僅侵犯公民人格權與財產權，更動搖了數字社會賴以運行的基本秩序。

技術的每一次飛躍，都不能脫離法律的軌道。每一位技術參與者都應當清醒地意識到：技術不是法外之地，技術中立更不是“擋箭牌”。技術本身雖無善惡，但其設計目的、應用場景與最終后果，卻由人的意志與社會的規則所決定。真正的科技進步，其內核應始終指向對人之尊嚴的維護、社會公共福祉的增進，以及對未來可持續發展的推動。如果一項技術的發展，要以犧牲個人基本權利與社會信任基石為代價，那這種發展注定行之不遠。

法院對“AI換臉”技術濫用的規制，正是對“技術向善”底線的司法重申。我們希望通過此案傳遞一個清晰的信號：推動創新與劃定邊界必須同步進行。唯有將“向善”的倫理要求，轉化為具有約束力的法律義務與行業準則，方能引導人工智能等前沿技術行穩致遠，真正服務于以人為本的數字文明建設。

╱ 往期精選 ╱

1.團隊典型案例

2.原創合集

3.蘋果稅中國反壟斷第一案