眼下,AI技術(shù)正賦能千行百業(yè),為人們的工作、學(xué)習(xí)、生活帶來(lái)很多便利。但最近,一些人竟然用AI制作虛假圖片和視頻向網(wǎng)店商家索賠。來(lái)看江蘇蘇州一位大閘蟹經(jīng)銷(xiāo)商的遭遇。
買(mǎi)家發(fā)來(lái)“死螃蟹”圖片視頻
疑點(diǎn)重重
11月17日,在江蘇蘇州相城區(qū)經(jīng)營(yíng)大閘蟹生意的高女士,根據(jù)客戶訂單,發(fā)出了一箱8只裝大閘蟹。第二天,廣州的買(mǎi)家就收到了貨,完成簽收。就在簽收后10多分鐘,高女士收到平臺(tái)發(fā)來(lái)的客戶反饋。
江蘇蘇州相城區(qū)大閘蟹經(jīng)銷(xiāo)商 高晶:11月18日早上11點(diǎn)40分左右就簽收了,11點(diǎn)53分就來(lái)反饋說(shuō)8只螃蟹死了6只。
![]()
高女士經(jīng)營(yíng)大閘蟹生意
高女士對(duì)此也非常疑惑,立即聯(lián)系消費(fèi)者,請(qǐng)他們提供相應(yīng)的證據(jù)。
![]()
AI合成6只“死螃蟹”視頻截圖
很快,買(mǎi)家就發(fā)來(lái)了一張照片,畫(huà)面顯示,6只螃蟹腹部朝上躺在臺(tái)盆邊,但這張照片引起了高女士的懷疑。帶著疑惑,高女士讓客戶再拍一段視頻。
![]()
6只螃蟹腹部朝上躺在臺(tái)盆邊
江蘇蘇州相城區(qū)大閘蟹經(jīng)銷(xiāo)商 高晶:第一眼看上去就感覺(jué)像AI制作的,運(yùn)鏡很奇怪。如果再細(xì)看,螃蟹腳出現(xiàn)了5只小腿,和正常的大閘蟹不一樣。視頻比例也裁切了,很明顯就是為了去掉水印裁切的。所以我們讓他再拍一段視頻,用手指逐個(gè)去指一下,撥動(dòng)一下,這個(gè)我覺(jué)得不可能再造假了。后來(lái)他真的發(fā)來(lái)了這樣一段視頻。
AI視頻圖片明顯矛盾 警方介入查清事實(shí)
看了買(mǎi)家發(fā)來(lái)的第二段視頻,高女士按照平臺(tái)賠付要求,向買(mǎi)家賠付了195元。但她心里還是有些疑惑,第二天,她跟家人復(fù)盤(pán)整個(gè)事情過(guò)程,重新檢查買(mǎi)家發(fā)來(lái)的視頻后,有了新的發(fā)現(xiàn)。
高女士發(fā)現(xiàn),買(mǎi)家發(fā)來(lái)的圖片和視頻中,前后死蟹公母數(shù)明顯不對(duì)。
發(fā)現(xiàn)了這個(gè)更大的疑點(diǎn)之后,高女士將其疑惑和買(mǎi)家再次提出,此時(shí),買(mǎi)家就只顯示信息已讀,不再回應(yīng)。隨后,高女士將此事發(fā)在了網(wǎng)絡(luò)上,在廣州網(wǎng)友的聯(lián)動(dòng)下,廣州當(dāng)?shù)毓膊块T(mén)立即介入調(diào)查。
![]()
行政處罰決定書(shū)
12月2日,高女士收到了警方的處理結(jié)果:此前線上購(gòu)買(mǎi)螃蟹的買(mǎi)家利用手機(jī)合成制作收到6只“死螃蟹”的虛假視頻,要求商家退款195元,實(shí)施詐騙。該當(dāng)事人11月28日被公安機(jī)關(guān)查獲。根據(jù)相關(guān)法規(guī),決定給予該當(dāng)事人行政拘留8日的處罰,追繳違法所得人民幣195元。
商家:期待線上平臺(tái)嚴(yán)審核幫甄別
高女士的遭遇并非個(gè)例。對(duì)于更多依托線上銷(xiāo)售的商家來(lái)說(shuō),買(mǎi)家AI造假索賠成本低、識(shí)別難,遇到類似情況,又該如何維護(hù)商家利益呢?
江蘇蘇州相城區(qū)大閘蟹經(jīng)銷(xiāo)商 高晶:最直接的手段還是需要平臺(tái)來(lái)監(jiān)管,如果說(shuō)這段視頻上傳到平臺(tái),平臺(tái)能夠自動(dòng)識(shí)別出這是由某個(gè)軟件制作出來(lái)的AI視頻,就會(huì)給我們商家省去很多麻煩。
利用AI編造高速車(chē)禍謠言 造謠者被行拘
有人用AI制作虛假視頻騙退款實(shí)施詐騙,而在湖南懷化市會(huì)同縣,一位自媒體博主通過(guò)AI工具移花接木,制造謠言。等待她的同樣是法律的懲處。
視頻中這段車(chē)禍視頻,并不是真實(shí)車(chē)禍現(xiàn)場(chǎng),而是借助AI技術(shù)偽造的。今年11月21日,湖南懷化市會(huì)同縣的自媒體博主梁某某通過(guò)AI工具移花接木,編造“滬昆高速因大霧導(dǎo)致20多輛車(chē)追尾”的虛假場(chǎng)景,并寫(xiě)有“交警提醒”等不實(shí)文字注解。由于梁某某的短視頻賬號(hào)擁有1.2萬(wàn)粉絲,虛假視頻在短時(shí)間內(nèi)迅速傳播,嚴(yán)重干擾了駕駛員的出行判斷。
![]()
自媒體博主梁某某被行政拘留
據(jù)了解,梁某某因近期賬號(hào)流量不佳,聽(tīng)聞AI創(chuàng)作視頻可快速漲粉,便通過(guò)AI軟件生成虛假高速車(chē)禍視頻,并發(fā)布。視頻發(fā)布后不久,梁某某收到平臺(tái)警告,內(nèi)心惶恐之下迅速刪除視頻。
警方介紹,由于梁某某的虛假視頻傳播廣泛,影響惡劣,已構(gòu)成虛構(gòu)事實(shí)、擾亂公共秩序的行為,隨后被公安機(jī)關(guān)依法處以行政拘留3日的處罰。
![]()
警方接受采訪
會(huì)同縣公安局網(wǎng)絡(luò)安全管理大隊(duì)大隊(duì)長(zhǎng) 龍志洋:AI技術(shù)本應(yīng)是提升信息傳播效率、優(yōu)化出行服務(wù)的工具,而非造謠傳謠的“遮羞布”。高速公路的通行安全容不得虛假信息的干擾,每一次AI造謠都可能給公眾出行帶來(lái)潛在風(fēng)險(xiǎn)。唯有讓技術(shù)在法治軌道上運(yùn)行,讓造謠者付出應(yīng)有代價(jià),才能遏制“指尖上的謊言”,讓AI真正服務(wù)于公眾出行的便捷與安全。
來(lái)源 央視新聞
編輯 肖旭
審核 羅祎 王晨郁
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.