奧運冠軍、實力演員、央視主持、知名醫生……
AI合成技術越來越高的同時,受牽連的名人、遭欺騙的消費者也越來越多。
![]()
從最初的“機械化音頻”,到現在的真假難辨,曾以為不會被AI欺騙的年輕網友,都有些恍惚,只怕自己也上當受騙。
那么,AI合成詐騙的風氣是何時開始,又是怎么“壯大”的呢?這場波及全平臺的鬧劇,何時才能結束?
虛假帶貨
自從全紅嬋成為新星后,圍繞在她身邊的爭議太多了,就連她的至親都深受牽連,無一例外。
圍堵在家門口的、調查航班信息的、扒出過往經歷的、現場伸出“咸豬手”的,數不勝數。
開心奪冠的時候,有人罵她像個“白癡”,到了狀態下滑的階段,又有人追著“唱衰”。
最可恨的,當屬利用她的形象搞詐騙的無良商家,通過AI手段欺騙善良的中老年消費者。
![]()
中老年消費者分不清AI和現實,誤以為她家里真的生活困難,不得不幫家里賣農產品。
下單的時候,恐怕還覺得自己幫了她一把,沒想到辛苦賺來的錢,落入了無良商家的口袋。
不僅她成了“帶貨工具”,她的家人也沒有逃過被利用的命運,全家人齊上陣當“代言人”。
無良商家借此機會,賺得盆滿缽滿,所有的罵名,則是由她一人承擔,這對她很不公平。
要說最離譜的,還得是同時現身八個直播間的溫崢嶸,她雖然也打廣告,但是絕不會同時在八個直播間賣貨。
這些無良商家仗著平臺監管不力,肆無忌憚地將她的形象,放在直播間里,讓她無償幫忙帶貨,并承擔責任。
等她發現的時候,已經來不及了,很多消費者都已經上當,可是損失不能由她來彌補,她也無可奈何。
![]()
除了全紅嬋和溫崢嶸之外,還有很多名人深受牽連,其實無良商家采取的套路是一樣的,并不算高明,只是中老年消費者弄不明白AI,才會相信虛假廣告,毫無戒備地掉入圈套。
平臺監管一直不力,相關部門也遲遲沒有出手,波及的范圍只會越來越廣,就連央視在職主持人都成了無良商家的“目標”,再一次印證了“AI風波”有多可怕。
風波不斷
與諸多出走的央視女主持不同,李梓萌這些年兢兢業業,從來沒有掉過鏈子。
央視的要求本來就嚴格,她剛到央視工作的時候,經常讀錯字,每次都被罰錢。
有傳聞稱她“貸款上班”,這是調侃她讀錯了太多字,實際情況肯定沒這么夸張。
作為“女版康輝”,只要她想,一定能在短視頻平臺大展拳腳,可她并沒有這樣做。
![]()
短視頻平臺,也沒打算放過“安分守己”的她,無良商家竟然打起了她的算盤。
當她的臉出現在直播間時,不少消費者都被蒙騙了,誤以為“女版康輝”也開始帶貨了。
直播間里她的臉,是從《新聞聯播》的畫面中“摳”下來的,背景都一模一樣。
她的聲音,則是通過AI合成,漂亮的音色是她的,內容則是商家寫的宣傳語。
網速快的年輕群體,很容易發現問題所在,雖說口型和聲音能對上,但是語氣很不自然。
再者說了,《新聞聯播》的背景出現在直播間,一眼就能看出是假的,只是老年網友分不清。
在電視機前看《新聞聯播》的老年觀眾,都相信了她是“魚油代言人”,激情下單。
回過神來才知道,一切都是假的,臉是摳的、圖是P的、聲音是合成的,嘴型也是AI的。
![]()
一直沒有創建個人賬號,平時生活又低調,她一直沒辦法“有效辟謠”。
幫她澄清的,都是熱心的年輕網友,只是舉報到處理都需要時間,效率并不高。
平臺監管不力,仍由AI合成視頻肆無忌憚地搞虛假宣傳,顯然應該承擔責任。
只可惜“裝睡”的平臺,誰都叫不醒,AI帶來的巨大利益,平臺當然不愿意錯過。
官方出手
央視主持都成了騙子牟利的工具,官方若是再不出手,恐怕說不過去了。
在警方的全力追查下,制作相關虛假AI帶貨視頻的團隊,直接被“一鍋端”。
從策劃人員到技術人員,無一幸免,就連涉事的賬號,也被直接封禁。
官方出手的效果顯著,從那之后,類似的案例極為少見,風口浪尖上,誰都不敢放肆。
![]()
無良商家都接受了懲罰,平臺也不能不改變,按照官方要求,平臺必須仔細甄別內容形式。
發現一丁點AI的痕跡,都要在視頻下方,作出明顯的標注,算是給消費者提一個醒。
若是平臺已經盡到了監管責任,也標注得很明白了,還有人上當受騙,那就是自己的問題。
![]()
同時,針對無辜受牽連的名人的網暴,也該停下來了,他們從頭到尾都沒有參與過詐騙,消費者被騙走的錢,也沒有掉入他們的口袋,他們憑什么遭受網暴呢?
那些要求他們賠償損失的言論,更是不必提了,就算名人的收入高,也不該為平臺的錯誤買單,與其找他們的麻煩,不如跟平臺談談,如何追回損失,或是稍加彌補。
![]()
如今經濟大環境并不好,賺錢如此辛苦,更要看好自己的錢包,不能用自己的血汗錢,充實騙子的錢包,還是要仔細甄別,否則吃虧的就是自己。
官方也要繼續加大追查力度,平臺更要積極配合,提供有效的線索,有可能追回的損失,一定要努力追回來,不能讓信任平臺的消費者寒了心。
![]()
AI本身是對日常生活和工作有利的工具,如今演變成詐騙利器,實在不應該,一次又一次的風波,只會讓大眾對AI產生戒備,擾亂社會秩序。
既然AI的進化是必然,那就想盡一切辦法,打擊居心叵測的不良分子,只有監管嚴了、懲處力度強了,才能震懾住他們,才能還AI創作者一片凈土。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.