文丨張蕾
據(jù)大冶檢察消息,近日,法院以制作、販賣、傳播淫穢物品牟利罪,判處被告人柯某某有期徒刑10個(gè)月,并處罰金人民幣5000元,同時(shí)追繳全部違法所得。
據(jù)悉,2022年11月至2023年3月期間,犯罪嫌疑人柯某某以牟利為目的,使用翻墻軟件在境外網(wǎng)站借助AI工具批量生成淫穢小說發(fā)布并售賣,總計(jì)售賣約760篇(次),共計(jì)獲利22873.95元。
AI浪潮沖擊著普通人的生活和工作方式,不少人主動(dòng)學(xué)習(xí)AI產(chǎn)品,積極尋找借助AI賺錢的方法。
你肯定已經(jīng)看到過不少類似的宣傳:用AI賺大錢,AI賺錢的100種方法,普通人用AI賺錢的5個(gè)方法,AI賺錢的三個(gè)階段,一人一臺(tái)電腦、年?duì)I收千萬。
但總有人“劍走偏鋒”,拿AI寫黃色小說、拿AI編謠言、拿AI換臉詐騙……第一批拿AI賺錢的,已經(jīng)有人進(jìn)去了。
近日,一則“有頂流明星在澳門輸了10億”的信息在互聯(lián)網(wǎng)平臺(tái)傳播,引發(fā)網(wǎng)民熱議和各種猜測,頂流明星周杰倫、黃曉明等都被裹挾其中,不得不側(cè)面辟謠。
![]()
今日,官方消息表示,公安網(wǎng)安部門查明,網(wǎng)民徐某強(qiáng)(男,36歲)為博取流量、謀取非法利益,于2025年3月10日10時(shí),使用軟件“某書”中AI智慧生成功能,輸入社會(huì)熱點(diǎn)詞制作了標(biāo)題為“頂流明星被曝境外豪賭輸光十億身價(jià)引發(fā)輿論海嘯”的謠言信息,并通過互聯(lián)網(wǎng)平臺(tái)對外發(fā)布。
徐某強(qiáng)行為,造成謠言迅速傳播擴(kuò)散,引發(fā)大量網(wǎng)民議論,誘發(fā)相關(guān)謠言、話題等頻繁登上熱搜熱榜,嚴(yán)重?cái)_亂公共秩序。公安機(jī)關(guān)根據(jù)相關(guān)法律法規(guī),對徐某強(qiáng)處以行政拘留8日處罰。
這已經(jīng)不是第一次出現(xiàn)網(wǎng)友用AI生成虛假內(nèi)容攫取流量的報(bào)道了。
今年1月,西藏日喀則市定日縣發(fā)生6.8級(jí)地震,就在網(wǎng)友關(guān)注救援進(jìn)展時(shí),一張“被埋在廢墟下的小孩”的圖片刷屏社交網(wǎng)絡(luò)。
![]()
圖片中的小孩穿戴彩色衣帽,滿身灰土。不少博主將照片內(nèi)容和西藏日喀則地震消息關(guān)聯(lián),而網(wǎng)友紛紛表示祈福,并追問小孩情況。
但很快,有網(wǎng)友發(fā)現(xiàn)這組圖是由AI制作的。據(jù)媒體報(bào)道,圖片發(fā)布于2024年11月,圖片中的小孩名為“小土豆”,作者以其為主角創(chuàng)作了多張AI圖片,并且都標(biāo)注“作品均為AI制作,視頻內(nèi)容純屬虛構(gòu)”。
此后,網(wǎng)友發(fā)現(xiàn)了不少AI制作的圖片、視頻等,比如“建筑物倒塌、兒童無家可歸、廢墟中媽媽用身體守護(hù)孩子”等,嚴(yán)重干擾救援。
更嚴(yán)重的情況是,隨著AI技術(shù)的普及,新型犯罪也開始出現(xiàn)。在所有AI詐騙案例中,冒充類詐騙占比高達(dá)62%,原因就是AI換臉技術(shù)“日新月異”。
據(jù)新京報(bào)報(bào)道,根據(jù)對103篇新聞報(bào)道的分析,AI換臉技術(shù)在詐騙案件中的使用率近一半,語音合成技術(shù)約四成。犯罪分子通過非法獲取的人臉照片和語音樣本,利用開源AI工具生成逼真的虛擬形象,冒充受害人親人好友進(jìn)行詐騙。
知名電腦安全技術(shù)公司McAfee(邁克菲)發(fā)布的一項(xiàng)全球性調(diào)研顯示,在接受調(diào)查的7000多人中,四分之一的受訪者表示經(jīng)歷過AI語音克隆騙局,70%的人不能分辨克隆聲音和真實(shí)聲音。
AI在深刻改變著我們的生活。我們在擁抱這個(gè)新技術(shù)時(shí),一方面要甄別AI內(nèi)容,一方面也要將AI用在正確合法的場景中。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.