名人“被代言”？AI 換臉營銷藏陷阱！廈門官方鑒真平臺上線，附使用指南

“你是溫崢嶸，那我是誰？”近日，演員溫崢嶸怒斥AI（人工智能）仿冒者的言論沖上熱搜，揭開了AI技術(shù)被濫用的冰山一角。

這類AI合成的虛假視頻正成為不法商家引流帶貨的工具，甚至暗藏詐騙風(fēng)險。20日，記者了解到，目前廈門市反詐中心公眾號已接入“美亞鑒真平臺”，今后市民既可以通過細(xì)節(jié)觀察甄別破綻，也能借助官方鑒真平臺筑牢防線。

同時，警方也提醒市民提高警惕，不輕信任何“名人效應(yīng)”，共同抵御AI仿冒帶來的消費與安全風(fēng)險。

就在溫崢嶸維權(quán)同時，央視《每周質(zhì)量報告》也曝光了“AI仿冒名人營銷亂象”：北京協(xié)和醫(yī)院于康教授“被代言”減肥食譜，央視主持人李梓萌“被出鏡”推銷魚油，這些看似真實的名人推薦，實則是不法商家利用AI技術(shù)偽造的營銷陷阱。

“刷到李梓萌推薦的魚油，想著是央視主持人應(yīng)該靠譜。本來想下幾單，后來家人提醒才知道是AI合成的。”家住思明區(qū)的張女士說，雖然東西也沒多貴，但總覺得被忽悠了，心里很不舒服。

“不法商家正是利用公眾對名人的信任，通過AI換臉、擬聲技術(shù)生成虛假視頻，在短視頻平臺和直播中引流帶貨。甚至，還有人利用AI技術(shù)進行詐騙。”廈門市反詐中心民警介紹。

如何識別AI仿冒視頻？

肉眼識別+官方鑒真

為何AI仿冒內(nèi)容如此難以識別？民警解釋說，當(dāng)前AI換臉、文生視頻技術(shù)已十分成熟，僅需幾張名人照片、一段文案，不到30秒就能生成“以假亂真”的視頻，部分工具還支持“隱藏AI生成標(biāo)識”功能，很難分辨真假。但仔細(xì)觀察仍能發(fā)現(xiàn)端倪：“這類視頻大多使用虛擬背景，人物表情略顯僵硬，說話時嘴唇與聲音的同步度可能存在偏差。”民警解讀說。

針對這一亂象，除了肉眼甄別技巧，市民還能借助官方“鑒真”平臺。

鑒真平臺效果怎么樣？

測試AI視頻被認(rèn)定超90%是偽造

20日，記者對該平臺進行了測試：登錄后點擊畫框中央的“點擊上傳視頻/圖片”位置，或輸入視頻鏈接均可。上傳成功后，系統(tǒng)會從畫面合成痕跡、聲音匹配度等多個維度進行分析，生成包含“AI生成概率”“可疑特征”的鑒別報告。記者測試了幾條不同的AI視頻，均得到了90%以上的“偽造概率”提示。不過，記者留意到，當(dāng)AI合成的視頻被人工選取較短片段（如2-3秒）經(jīng)過再次剪輯、加工后，平臺顯示的真實概率在95%以上。

平臺技術(shù)人員解讀稱，編輯工具在處理圖像時，會進行重編碼、壓縮等操作，容易抹除圖像中那些用于判別是否為偽造的關(guān)鍵特征，進而對檢測算法的判斷產(chǎn)生干擾。就AI檢測技術(shù)而言，現(xiàn)階段尚無法實現(xiàn)100%的精準(zhǔn)檢測。“這就導(dǎo)致存在運用相同偽造方法生成的數(shù)據(jù)，有少量會被誤判為真實；反之，真實樣本也可能被錯誤判定為偽造的可能性，”該技術(shù)人員還提到，當(dāng)下AI偽造技術(shù)更新迭代極為迅速，隨著新偽造方法的不斷涌現(xiàn)，檢測算法對這些新方法偽造數(shù)據(jù)的鑒別準(zhǔn)確率也會相應(yīng)降低。為有效應(yīng)對這一挑戰(zhàn)，“美亞鑒真平臺”開發(fā)方（國投智能股份）相關(guān)負(fù)責(zé)人表示，其技術(shù)部門正在加快版本迭代速度，對檢測算法進行深度優(yōu)化與完善，以提供更為精準(zhǔn)、可靠的檢測服務(wù)。

提醒

美亞鑒真平臺這樣使用

記者從廈門市反詐中心了解到，其已引入“美亞鑒真平臺”，市民只需簡單三步就能完成AI內(nèi)容鑒別：首先關(guān)注“廈門市反詐中心”微信公眾號，在底部菜單欄點擊“全民反詐”，選擇“美亞鑒真平臺”即可跳轉(zhuǎn)至平臺。據(jù)介紹，鑒真小程序可以有效識別超過500種各類偽造方法，覆蓋當(dāng)前主流的AI換臉、AI生成等方法，目前已對接了超過100個地市級反詐及政務(wù)平臺。

不要因“明星”帶貨輕易下單

警方提醒市民，遇到疑似AI生成的圖片或視頻，卻又沒有顯著標(biāo)識，尤其涉及名人明星帶貨、推薦商品等場景，不要因其“背書”輕易下單，優(yōu)先通過品牌官方渠道核實產(chǎn)品信息。同時，及時截圖或錄屏保存疑似內(nèi)容、發(fā)布賬號信息、商品宣傳頁等，同時留存支付憑證（若已下單）、與客服的溝通記錄，為后續(xù)維權(quán)提供依據(jù)。

（廈門日報記者 房舒）