
近日,《法治日?qǐng)?bào)》記者調(diào)查發(fā)現(xiàn),“外國(guó)山海經(jīng)”“AI山海經(jīng)”等AI魔改(指利用AI技術(shù)對(duì)原作品進(jìn)行大幅或顛覆性改編的行為)內(nèi)容在網(wǎng)絡(luò)上迅速走紅,甚至滲透到低齡群體中。
“邪典視頻”卷土重來(lái)

夾雜暴力、血腥內(nèi)容
“外國(guó)山海經(jīng)”爆火小學(xué)生圈
“Tung Tung Tung Sahur”(音同“通通通通撒呼啦”)、“Lirili larlla”(音同“哩哩哩辣力辣”)……這些近來(lái)經(jīng)常出現(xiàn)在小學(xué)生們口中,宛如神秘咒語(yǔ)的詞匯,實(shí)則是幾幅AI生成的動(dòng)畫(huà)形象的名字,比如上述兩個(gè)詞匯分別對(duì)應(yīng)“木棒人”“仙人掌象”。
諸如此類(lèi)由AI拼接而成的形象還有很多,它們被孩子們統(tǒng)稱(chēng)為“外國(guó)山海經(jīng)”或者“AI山海經(jīng)”。
![]()
來(lái)源:潮新聞
有家長(zhǎng)發(fā)現(xiàn),“孩子仿佛‘著了魔’,口中時(shí)不時(shí)蹦出來(lái)這些詞語(yǔ),跟他一起玩耍的小朋友們也都如此。”
這些將毫不相干元素強(qiáng)行拼湊出的怪異形象,為何能在孩子們的圈子里流行起來(lái)?”上述家長(zhǎng)百思不得其解,而且,這“外國(guó)山海經(jīng)”不僅造型詭異,更夾雜不少暴力、血腥詞匯和內(nèi)容,“孩子或許并不理解其中的含義,但會(huì)模仿學(xué)習(xí),很容易對(duì)他們產(chǎn)生負(fù)面影響”。
更讓部分家長(zhǎng)憂心的是,這孩子第一次接觸“山海經(jīng)”的概念,竟然是通過(guò)這些外來(lái)的且由AI生成的產(chǎn)物。甚至還有孩子認(rèn)為,“山海經(jīng)就是國(guó)外的,中國(guó)的山海經(jīng)一點(diǎn)兒也不好看”。
“外國(guó)山海經(jīng)”的來(lái)歷也很可疑。有記者發(fā)現(xiàn),由于“外國(guó)山海經(jīng)”等AI圖片和視頻制作流程十分簡(jiǎn)單,幾乎任何用戶(hù)都能在多款常見(jiàn)的AI視頻網(wǎng)站上,通過(guò)向AI發(fā)送基礎(chǔ)的人物形象圖片、文字描述以及有關(guān)指令,就能快速生成一段動(dòng)態(tài)視頻,還可加入音效和背景音樂(lè)。

奧特曼懷孕、卡通人物挖眼珠子吃
最近廣東一家長(zhǎng)發(fā)現(xiàn),自己3歲的女兒在短視頻平臺(tái)上刷視頻或者動(dòng)畫(huà)片時(shí),頻繁被推送動(dòng)畫(huà)風(fēng)格的“邪典視頻”。
“這些視頻大多是卡通或3D風(fēng)格,很吸引小孩子,但是卻暗藏著很多令人不適的畫(huà)面。”該家長(zhǎng)舉例,視頻中存在殘害肢體、角色從高處墜落等血腥場(chǎng)景,甚至有“把自己的眼珠子挖出吃掉”這樣的可怕畫(huà)面。
浙江也有家長(zhǎng)發(fā)現(xiàn),孩子在看完正版動(dòng)畫(huà)片后,平臺(tái)會(huì)自動(dòng)彈出一批顏色鮮艷卻毫無(wú)營(yíng)養(yǎng)的衍生視頻,其中不乏“奧特曼懷孕”“小豬佩奇打骷髏”等暴力惡搞內(nèi)容。
然而,當(dāng)上述家長(zhǎng)試圖為孩子屏蔽“邪典視頻”內(nèi)容時(shí),卻發(fā)現(xiàn),無(wú)論是投訴視頻、點(diǎn)擊“不喜歡”,相關(guān)內(nèi)容仍會(huì)被持續(xù)推送給孩子。
有一名曾在某視頻公司任職的受訪者向記者透露,其前公司旗下幾百個(gè)視頻號(hào)都在持續(xù)推送“邪典動(dòng)畫(huà)”,將經(jīng)典的動(dòng)漫人物用AI生成技術(shù)進(jìn)行二次創(chuàng)作,這些視頻色彩鮮艷,更吸引兒童。
![]()
來(lái)源:潮新聞
“這類(lèi)視頻不僅曝光度高,流量表現(xiàn)優(yōu)異,甚至能獲得平臺(tái)支持。這類(lèi)視頻在創(chuàng)作時(shí)為博取關(guān)注,內(nèi)容套路化嚴(yán)重:以動(dòng)漫角色為外殼,填充戀愛(ài)情節(jié)或暴力沖突、混戰(zhàn)場(chǎng)面。由于兒童的判斷能力有限,容易信以為真。”這名受訪者強(qiáng)調(diào),平臺(tái)算法助推不良內(nèi)容形成傳播閉環(huán),“孩子一旦刷到觀看,平臺(tái)就會(huì)推送更多同類(lèi)內(nèi)容。”
此外,《紅樓夢(mèng)》中的人物進(jìn)行“魔法戰(zhàn)爭(zhēng)”,《三國(guó)演義》兩軍對(duì)壘演變成“激光大戰(zhàn)”等,通過(guò)“AI魔改”對(duì)中華優(yōu)秀傳統(tǒng)文化進(jìn)行歪曲和污名化的,也屬于“邪典視頻”。
有專(zhuān)家指出,AI魔改對(duì)經(jīng)典的傷害早已超越內(nèi)容層面,它將“低俗獵奇”包裝為“趣味創(chuàng)新”,逐步侵蝕文化傳承與下一代成長(zhǎng)的健康土壤,甚至可能在他們心中埋下“經(jīng)典可隨意解構(gòu)”“歷史可肆意戲說(shuō)”的錯(cuò)誤認(rèn)知。
AI魔改催生畸形產(chǎn)業(yè)鏈

記者發(fā)現(xiàn),在社交平臺(tái)有關(guān)帖文和短視頻平臺(tái)評(píng)論區(qū),有許多用戶(hù)公然教學(xué)如何用關(guān)鍵詞讓AI生成大尺度圖片。
比如,如何通過(guò)替換關(guān)鍵詞,規(guī)避平臺(tái)既有限制,免費(fèi)生成包含性暗示等元素的“二次元”風(fēng)格的兒童軟色情圖片,甚至出現(xiàn)“兒童懷孕”等惡劣內(nèi)容。
現(xiàn)實(shí)世界也在被AI魔改內(nèi)容逐漸“侵入”。
在電商平臺(tái)上,有不少“外國(guó)山海經(jīng)”里角色形象被印在衣服上或做成盲盒、積木等產(chǎn)品售賣(mài);還有些商家表示可以制作AI生成手辦定制照片,商品展示圖衣著暴露、動(dòng)作挑逗,并且未作年齡區(qū)分。
“外國(guó)山海經(jīng)”的衍生產(chǎn)品銷(xiāo)量也較高。比如某店鋪一款包含24盒的盲盒公仔售價(jià)僅11.99元,付款人數(shù)已超2萬(wàn);一些知名游戲IP推出與“外國(guó)山海經(jīng)”聯(lián)名的盲盒、卡牌。有小學(xué)教師反映,學(xué)生頻繁向家長(zhǎng)要錢(qián),只為購(gòu)買(mǎi)同學(xué)手中的“外國(guó)山海經(jīng)”卡牌。
對(duì)此,有家長(zhǎng)指出,“外國(guó)山海經(jīng)”衍生出的相關(guān)產(chǎn)品會(huì)引發(fā)未成年人之間的“隱性”攀比。“孩子們聚在一起玩耍的時(shí)候,如果別人有自己沒(méi)有,孩子會(huì)產(chǎn)生心理落差,甚至遭到排擠。”
不能讓“AI魔改”的畸形產(chǎn)業(yè)鏈“作妖”

借助AI技術(shù),進(jìn)行趣味創(chuàng)新,傳承傳統(tǒng)文化,本是新瓶裝好酒的有益實(shí)踐。然而,現(xiàn)實(shí)中卻是糟蹋精華、制造糟粕的歪曲丑化。
正如在上述“外國(guó)山海經(jīng)”“邪典視頻”中的角色,有的外形怪誕低俗、名稱(chēng)晦澀難懂;有的形象詭異驚悚,充斥暴力與血腥元素。這些內(nèi)容荒誕、邏輯混亂的視頻受到青少年追捧,進(jìn)而發(fā)展成為一種流行于學(xué)生群體間的亞文化,其造成的危害不容小覷。
眼下,AI技術(shù)的出現(xiàn),大幅降低了制作門(mén)檻和成本,任何人只需簡(jiǎn)單操作,即可生成魔改動(dòng)畫(huà)和“邪典視頻”。然而,“殺人的不是刀,而是執(zhí)刀的手”,錯(cuò)不在科技進(jìn)步本身,根本原因還是畸形產(chǎn)業(yè)鏈在“作妖”。
當(dāng)用心用情用力去創(chuàng)作提升文化認(rèn)知、開(kāi)辟成長(zhǎng)凈土的文藝作品,變得“吃力不討好”,甚至無(wú)法得到應(yīng)有的認(rèn)可和收益;而借助AI之手,制造推送“邪典視頻”,則是一本甚至無(wú)本萬(wàn)利的生意時(shí),有些人就動(dòng)起利用“毒流量”的歪心思,收割孩子和家長(zhǎng)的錢(qián)包。
由此可見(jiàn),剎住“邪典動(dòng)畫(huà)”的歪風(fēng),讓所謂“外國(guó)山海經(jīng)”“惡搞紅樓夢(mèng)”不再侵蝕未成年人的心智,單靠個(gè)人自覺(jué),很難從根本上凈化市場(chǎng)環(huán)境,唯有重拳出擊,方能讓魑魅魍魎無(wú)處藏身。
具體而言,家長(zhǎng)亟需加強(qiáng)健康上網(wǎng)引導(dǎo),樹(shù)立家庭防護(hù)網(wǎng),如手機(jī)、平板等電子產(chǎn)品,都要確保開(kāi)啟未成年防沉迷模式。在家里要增強(qiáng)有效陪伴,帶頭對(duì)網(wǎng)絡(luò)依賴(lài)說(shuō)不,更別把孩子簡(jiǎn)單丟給手機(jī)和短視頻。
網(wǎng)絡(luò)平臺(tái)是信息內(nèi)容管理第一責(zé)任人。維護(hù)清朗網(wǎng)絡(luò)空間,責(zé)無(wú)旁貸。除按國(guó)家要求完善青少年模式,堵住賬號(hào)切換的漏洞以外,還需主動(dòng)凈化平臺(tái)內(nèi)容,塑造正向的網(wǎng)絡(luò)導(dǎo)向,為青少年健康上網(wǎng)保駕護(hù)航。
實(shí)際上,青少年對(duì)世界充滿(mǎn)好奇,AI可以提供個(gè)性化學(xué)習(xí)資源,可以根據(jù)孩子興趣,拓展知識(shí)邊界,提供有針對(duì)性的深度內(nèi)容。關(guān)鍵在于,如何有效激勵(lì)優(yōu)質(zhì)作品,讓有良知、有底線的創(chuàng)作者得到應(yīng)有的回報(bào)。只有形成正向循環(huán),才能讓青少年得到真正有營(yíng)養(yǎng)的知識(shí)“投喂”。
如今,網(wǎng)絡(luò)生活已經(jīng)成為每個(gè)人避不開(kāi)的第二生存空間,制造所謂“無(wú)菌室”一樣的斷網(wǎng)環(huán)境,不現(xiàn)實(shí)也不可行。堵不如疏,進(jìn)一步提升孩子接觸虛擬空間的數(shù)字素養(yǎng),增強(qiáng)其在人工智能浪潮中前行的能力,也是現(xiàn)代教育的應(yīng)有之義。
來(lái)源:綜合法治日?qǐng)?bào)、極目新聞、紅星新聞
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶(hù)上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.