一個(gè)在圈子里打拼了幾十年、憑實(shí)力說話的老戲骨,某天突然發(fā)現(xiàn)網(wǎng)上到處流傳著一個(gè)“自己”——那個(gè)“自己”張著和他一模一樣的臉,說著他絕不會(huì)說的話,干著他絕不會(huì)干的事。
這種事放在任何人身上,恐怕都得氣出毛病來。
王勁松就是這么一個(gè)倒霉的當(dāng)事人。
![]()
更諷刺的是,同樣的遭遇,靳東早他好幾年就經(jīng)歷過了,鬧得沸沸揚(yáng)揚(yáng),結(jié)果呢?騙子換個(gè)號繼續(xù)干,受害者依舊一批接一批。
AI換臉這把刀,到底還要傷多少人?
![]()
說王勁松的遭遇之前,得先把靳東的事回顧一遍,因?yàn)檫@兩件事本質(zhì)上就是同一件事,只不過時(shí)間不同、受害者不同罷了。
![]()
靳東在中老年女性觀眾群體里有著相當(dāng)高的人氣,這種人氣說好聽點(diǎn)叫深入人心,說直白點(diǎn)就是很容易被人盯上利用。
大概從2022年前后,網(wǎng)上開始冒出大量打著靳東旗號的短視頻賬號,發(fā)布者用AI換臉技術(shù)把靳東的面孔套上去,然后對著鏡頭噓寒問暖、軟語溫存,專門針對中老年女性用戶下手。
![]()
那些視頻里的“靳東”會(huì)跟粉絲聊心里話,說自己工作辛苦、拍戲累,偶爾還會(huì)提到經(jīng)濟(jì)上有些周轉(zhuǎn)不靈。
騙局的套路說穿了一點(diǎn)技術(shù)含量都沒有,就是先建立情感聯(lián)系,再引出金錢需求。
江西曾經(jīng)發(fā)生過一起典型案例:一位年邁的老人長期沉浸在和“假靳東”的網(wǎng)絡(luò)互動(dòng)里,后來對方聲稱拍戲急需用錢,老人竟然真的準(zhǔn)備去銀行辦貸款,幸好被警方提前察覺并攔了下來,才沒有釀成家庭財(cái)產(chǎn)損失。
![]()
這件事當(dāng)時(shí)引發(fā)了不小的社會(huì)關(guān)注,靳東本人也多次公開澄清,明確表示那些賬號跟他毫無關(guān)系。
靳東辟謠之后,騙局并沒有就此收手。
![]()
騙子的邏輯很簡單,平臺封號就換號,被曝光就低調(diào)一陣子,過了風(fēng)頭再重新來。
靳東的聲明發(fā)出去了,能看到的是他的老粉絲;騙局的視頻推送范圍更廣,能看到的是更多不明就里的普通人。
這種信息傳播上的不對等,讓辟謠的效果大打折扣。
時(shí)間來到2023年前后,AI技術(shù)的迭代速度遠(yuǎn)超外界預(yù)期,早期那種換臉視頻嘴型對不上、邊緣有鋸齒的低級破綻,在新一代工具面前幾乎消失了。
偽造出來的視頻清晰度更高,面部表情更自然,聲線模擬也更逼真,普通人僅憑肉眼已經(jīng)很難在第一時(shí)間辨別真假。
![]()
王勁松今年58歲,在娛樂圈里算是一個(gè)很特別的存在。
![]()
他不是那種靠話題度維持曝光的藝人,也從來不熱衷于在社交媒體上刷存在感。
圈內(nèi)人評價(jià)他,用得最多的兩個(gè)字是“戲骨”。
《瑯琊榜》里他飾演的角色層次分明,臺詞功底令人印象深刻;《冰雨火》上映后,他的表演再度被觀眾拿出來單獨(dú)討論,很多人看完覺得他才是整部戲里最穩(wěn)的那塊壓艙石。
![]()
從業(yè)這么多年,王勁松幾乎沒有什么負(fù)面新聞,沒有緋聞,沒有口碑塌方,也沒有因?yàn)樯虡I(yè)行為翻過車。
這種干凈的形象,一方面是他自己堅(jiān)持的結(jié)果,另一方面在無形中也成了被人利用的條件——正因?yàn)楣妼λ挠∠笫强尚刨嚨模杂盟哪樔バ序_,成功率相對更高。
王勁松在公開場合一向低調(diào),很少主動(dòng)制造話題。
![]()
所以當(dāng)他這次罕見地公開發(fā)聲表達(dá)強(qiáng)烈不滿的時(shí)候,很多關(guān)注娛樂新聞的人都感到有些意外。
他并不是在回應(yīng)一個(gè)普通的爭議,而是在面對一件讓他真正感到憤慨又無力的事——有人用AI技術(shù)把他的臉和聲音盜走了,在各種平臺上用這個(gè)“虛擬王勁松”到處刷流量,做他本人根本不會(huì)做的事。
![]()
更讓他揪心的是,這種偽造視頻一旦流傳開來,他的家人很可能會(huì)看到,甚至可能被騙子拿去對他的親屬實(shí)施精準(zhǔn)詐騙,以為是本人在視頻里說話,結(jié)果落入陷阱。
![]()
很多人一提到AI換臉,腦海里浮現(xiàn)的還是幾年前那種粗糙的特效畫面,邊緣模糊、動(dòng)作僵硬,一眼就能看出問題。
那是AI技術(shù)剛剛起步時(shí)的狀態(tài),和現(xiàn)在根本不是一個(gè)量級。
![]()
當(dāng)前市面上流通的換臉工具,很大一部分已經(jīng)面向普通用戶開放,不需要任何專業(yè)背景,只要有一張足夠清晰的正面照,再配上幾段原始音頻素本,就能在短時(shí)間內(nèi)生成一段以假亂真的視頻。
這個(gè)門檻,對于一個(gè)想撈快錢的人來說,幾乎可以忽略不計(jì)。
![]()
王勁松參演的多部熱播劇里有大量清晰的面部特寫鏡頭,聲線特征也足夠鮮明,這些內(nèi)容在技術(shù)層面完全可以被抓取、提取、加工。
對于AI工具而言,越是有辨識度的面孔,造出來的假貨就越像真的,也越容易被目標(biāo)群體接受。
![]()
更麻煩的是,這類工具的傳播鏈條已經(jīng)相當(dāng)完善。
從制作到發(fā)布,再到引流變現(xiàn),整個(gè)流程都有人摸索出了成熟的路數(shù)。
平臺的審核機(jī)制面對這類內(nèi)容往往存在一定的滯后性,等到賬號被舉報(bào)、內(nèi)容被下架,騙子早就完成了這一輪的收割,下一個(gè)號已經(jīng)在準(zhǔn)備中了。
![]()
這不是某一個(gè)平臺單獨(dú)能解決的問題,也不是某一個(gè)被侵權(quán)的明星發(fā)聲就能從根本上遏制的局面。
![]()
王勁松和靳東這兩個(gè)人面對的困境,本質(zhì)上是一樣的:被侵權(quán)的人要花大力氣去澄清、去舉報(bào)、去應(yīng)對輿論,而制造麻煩的人坐在暗處,幾乎不用承擔(dān)什么成本。
![]()
法律層面上,肖像權(quán)和聲音權(quán)都受到保護(hù),我國民法典明確規(guī)定,任何組織或個(gè)人不得以丑化、污損、利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。
聲音權(quán)作為一項(xiàng)具體權(quán)益,在相關(guān)司法解釋中也得到了確認(rèn)。
但知道有法律保護(hù)是一回事,真正落地追責(zé)又是另一回事。
![]()
侵權(quán)者往往不用實(shí)名,賬號可以隨時(shí)注銷,取證的難度相當(dāng)高,即便鎖定了侵權(quán)內(nèi)容,想要順著線索找到真實(shí)責(zé)任人,也需要耗費(fèi)大量的時(shí)間和法律資源。
對于個(gè)人來說,這條路走下來成本極高;對于明星的團(tuán)隊(duì)來說,這幾乎是一場永遠(yuǎn)打不完的消耗戰(zhàn),因?yàn)轵_子的數(shù)量不是一個(gè),而是一批又一批。
靳東在自己遭遇事件后的反應(yīng)可以作為參照。
![]()
他公開發(fā)聲,向粉絲和公眾明確說明情況,呼吁平臺和相關(guān)部門加強(qiáng)管理,這些動(dòng)作他都做了。
效果是有的,短期內(nèi)那一批賬號受到了一定程度的清理。
問題在于,這種清理并沒有從源頭上斷絕騙局復(fù)活的可能性,因?yàn)榧夹g(shù)門檻沒有提高,法律追責(zé)沒有到位,利益驅(qū)動(dòng)還在。
時(shí)間一長,一切又回到了原點(diǎn)。
![]()
王勁松站出來表達(dá)憤慨,在情感上是真實(shí)的,在現(xiàn)實(shí)層面,他也很清楚這件事絕非靠自己一聲吶喊就能解決。
![]()
王勁松和靳東的遭遇之所以引發(fā)廣泛關(guān)注,一個(gè)重要原因是他們有足夠的平臺和影響力讓自己的聲音被聽見。
![]()
但AI換臉騙局真正的受害者群體,并不只是那些被盜用面孔的藝人,還有那些被騙的普通人。
江西那位老人的案例,是一個(gè)極端的例子,但并不是孤立的。
類似的情況在全國各地零散發(fā)生著,很多并沒有進(jìn)入公眾視野,當(dāng)事人可能因?yàn)橛X得丟臉或者不知道該找誰,就默默咽下了損失。
![]()
AI技術(shù)的發(fā)展讓這類騙局的目標(biāo)范圍不斷擴(kuò)大,明星只是第一層跳板,最終落地傷人的,是那些對這項(xiàng)技術(shù)缺乏了解、判斷力相對薄弱的普通用戶。
值得警惕的是,隨著工具的普及,被盜用形象的對象也開始從知名公眾人物向普通人延伸。
你的一段視頻通話錄屏、幾張生活照,在技術(shù)層面足以成為構(gòu)建虛假形象的素材。
![]()
這意味著這件事不再只是娛樂圈的問題,也不再只是中老年群體該警惕的問題,而是每一個(gè)在網(wǎng)上留下過痕跡的人都需要正視的現(xiàn)實(shí)。
![]()
這場亂局背后有一個(gè)更深層的結(jié)構(gòu)性問題——技術(shù)的迭代速度遠(yuǎn)遠(yuǎn)跑在了監(jiān)管和立法的前面。
![]()
AI相關(guān)的技術(shù)應(yīng)用在短短幾年內(nèi)經(jīng)歷了爆發(fā)式增長,但與之配套的行業(yè)規(guī)范、平臺責(zé)任邊界、法律追責(zé)機(jī)制,到目前為止依然沒有形成一套足夠清晰且有執(zhí)行力的體系。
2022年,國家互聯(lián)網(wǎng)信息辦公室等部門聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,明確要求深度合成服務(wù)提供者對生成的內(nèi)容進(jìn)行標(biāo)識,不得利用深度合成技術(shù)制作、復(fù)制、發(fā)布虛假信息。
![]()
這是一個(gè)積極的信號,說明監(jiān)管層已經(jīng)意識到了問題的嚴(yán)重性并開始出手。
執(zhí)行層面的難題在于,很多違規(guī)內(nèi)容并不是通過正規(guī)平臺生成的,而是通過地下渠道流通,規(guī)定的觸達(dá)能力有限。
平臺作為內(nèi)容分發(fā)的主要渠道,理論上承擔(dān)著更直接的審核責(zé)任。
![]()
AI生成內(nèi)容的自動(dòng)識別技術(shù)目前已經(jīng)存在,但實(shí)際落地的效果參差不齊,對于經(jīng)過精心處理的換臉視頻,識別準(zhǔn)確率還遠(yuǎn)未達(dá)到可以完全依賴的程度。
騙子正是在這個(gè)空隙里鉆來鉆去。
王勁松和靳東的案例提供了一個(gè)現(xiàn)實(shí)參照:即便當(dāng)事人本人出面澄清,騙局依然沒有被徹底根除。
![]()
這說明僅靠輿論壓力和當(dāng)事人的個(gè)人努力,無法從根本上改變現(xiàn)狀,必須要有更具約束力的制度安排跟上來。
![]()
王勁松這次發(fā)聲,在網(wǎng)上引發(fā)了不少共鳴。
![]()
很多網(wǎng)友在評論區(qū)表達(dá)了相似的擔(dān)憂,也有人曬出了自己或身邊人曾經(jīng)差點(diǎn)被類似騙局坑到的經(jīng)歷。
這種共鳴本身說明一件事:這個(gè)問題已經(jīng)不再是遙遠(yuǎn)的、和自己無關(guān)的事,而是在真實(shí)地影響著越來越多的普通家庭。
一個(gè)年邁的父母看到一段視頻,認(rèn)定里面那個(gè)人就是某個(gè)他們信任的公眾人物,然后被引導(dǎo)去轉(zhuǎn)賬——這個(gè)場景的發(fā)生條件,如今已經(jīng)越來越低。
![]()
AI的進(jìn)步讓偽造變得容易,但人對情感聯(lián)系的信任是根深蒂固的,騙局就是在利用這個(gè)缺口。
王勁松站出來說話的意義,不只是替自己維權(quán)。
他的發(fā)聲讓更多人意識到這件事的存在,讓更多家庭在看到類似內(nèi)容時(shí)多了一分警覺。
![]()
從這個(gè)角度說,他這次罕見的公開表態(tài),比單純的法律追責(zé)產(chǎn)生了更直接的社會(huì)效果。
靳東當(dāng)年做的事和他現(xiàn)在做的事,出發(fā)點(diǎn)是一樣的,但都無法從根本上解決問題。
解決這件事,需要的是平臺、技術(shù)方、立法機(jī)構(gòu)和執(zhí)法部門協(xié)同發(fā)力,缺了哪一環(huán),騙局就還有縫隙可以鉆。
王勁松步了靳東的后塵,但靳東肯定不會(huì)是第一個(gè),王勁松也肯定不會(huì)是最后一個(gè)。
![]()
這件事的根子不在于哪個(gè)明星被盯上了,而在于當(dāng)技術(shù)跑得太快、規(guī)則跟得太慢,受害的永遠(yuǎn)是最普通的那些人。
AI本來是用來讓生活更便利的,不是用來給騙子提供更先進(jìn)的作案工具的。
這口鍋,不該只讓被侵權(quán)的明星自己扛著。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.