
AI技術(shù)的大規(guī)模應(yīng)用,顯著降低了“邪典視頻”的制作成本。
![]()
▲AI“魔改”經(jīng)典IP,引起輿論關(guān)注。圖/IC photo
文|南木
隨著AI技術(shù)的普及,“邪典視頻”卷土重來(lái)了?
“有些內(nèi)容成年人看了都覺(jué)得不適,更何況3歲的孩子。”據(jù)《法治日?qǐng)?bào)》報(bào)道,廣東的梁先生發(fā)現(xiàn)3歲女兒觀看的視頻中,存在殘害肢體、角色從高處墜落等血腥場(chǎng)景,甚至有“把自己的眼珠子挖出吃掉”的可怕畫(huà)面。
這些AI魔改動(dòng)漫,本質(zhì)就是換湯不換藥的“邪典視頻”。它們往往頂著孩子熟悉的角色I(xiàn)P,塞滿暴力沖突、低俗戀愛(ài)情節(jié),專門(mén)盯著未成年人下手。部分“邪典視頻”還被制作成商品,在電商平臺(tái)銷(xiāo)量不俗。
近年來(lái),有關(guān)部門(mén)通過(guò)關(guān)停違規(guī)賬號(hào)、下架非法應(yīng)用程序、處罰傳播有害信息的平臺(tái)等舉措,相關(guān)治理工作取得顯著成效,把“邪典視頻”這類(lèi)“精神垃圾”壓了下去。
然而,AI技術(shù)的大規(guī)模應(yīng)用,顯著降低了“邪典視頻”的制作成本。使用生成式AI,制作者可以很快根據(jù)人物原型生成自己想要的畫(huà)面,甚至不需要掌握太多動(dòng)畫(huà)制作基礎(chǔ)。
令人憂心的,還有平臺(tái)算法的推波助瀾。這類(lèi)視頻因節(jié)奏快、刺激強(qiáng)、認(rèn)知負(fù)荷低,成為流量“黑馬”。一旦孩子偶然點(diǎn)擊這些視頻,算法便會(huì)構(gòu)建“信息繭房”,推送更多同類(lèi)內(nèi)容,把未成年人困在“精準(zhǔn)喂毒”的循環(huán)里。
“邪典視頻”無(wú)疑對(duì)未成年人健康成長(zhǎng)構(gòu)成多重威脅。
其一是宣傳色情、暴力,讓未成年人在價(jià)值觀成型期接觸危險(xiǎn)信息。有家長(zhǎng)發(fā)現(xiàn),AI生成的圖片和視頻不乏“殺死”“燒死”等暴力詞匯,以及“用刀砍人”等危險(xiǎn)動(dòng)作描述。
低齡兒童根本分不清虛擬和現(xiàn)實(shí),他們很可能會(huì)把暴力當(dāng)“酷”,把危險(xiǎn)當(dāng)“游戲”,模仿著做出傷害自己或他人的行為,后果不堪設(shè)想。
其二是歪曲經(jīng)典歷史人物言行,讓未成年人形成扭曲的歷史觀與文化認(rèn)知。有孩子接觸AI魔改的“外國(guó)山海經(jīng)”以后,竟認(rèn)定“山海經(jīng)就是國(guó)外的,中國(guó)的山海經(jīng)一點(diǎn)兒也不好看”,對(duì)真正的傳統(tǒng)文化典籍毫無(wú)興趣。
更有甚者,AI魔改將《紅樓夢(mèng)》變成“魔法戰(zhàn)爭(zhēng)”,把《三國(guó)演義》改編為“激光大戰(zhàn)”,顛覆經(jīng)典的核心內(nèi)涵,侵蝕文化傳承的根脈。
“邪典視頻”更深層的傷害,還是針對(duì)未成年人的思維與價(jià)值觀的“投毒”。低齡兒童缺乏辨別能力,長(zhǎng)期接觸暴力畫(huà)面可能會(huì)導(dǎo)致兒童變得冷漠麻木,對(duì)其健康成長(zhǎng)帶來(lái)不利影響。
而這類(lèi)視頻碎片化、強(qiáng)刺激的特點(diǎn),還會(huì)讓孩子的注意力難以集中,導(dǎo)致專注力與審美能力退化。實(shí)際上,有的孩子受“邪典視頻”影響,已經(jīng)無(wú)法耐心看完篇幅稍長(zhǎng)的繪本、書(shū)籍,嚴(yán)重影響其認(rèn)知發(fā)展。
面對(duì)AI技術(shù)催生的“邪典視頻”回潮,有關(guān)部門(mén)應(yīng)跟上技術(shù)迭代的速度,加快完善內(nèi)容監(jiān)管規(guī)則,明確生成式AI的責(zé)任邊界,嚴(yán)厲打擊“邪典視頻”的制作、傳播及相關(guān)衍生品銷(xiāo)售產(chǎn)業(yè)鏈。
平臺(tái)作為內(nèi)容傳播的關(guān)鍵環(huán)節(jié),必須摒棄“流量至上”思維,升級(jí)算法審核機(jī)制,將“兒童利益最大化”作為核心原則,強(qiáng)化“青少年模式”的過(guò)濾功能,主動(dòng)清理存量不良內(nèi)容,從源頭阻斷傳播渠道。
家庭與學(xué)校更要筑牢防線。家長(zhǎng)應(yīng)加強(qiáng)對(duì)孩子網(wǎng)絡(luò)使用的陪伴與引導(dǎo),合理限制短視頻觀看時(shí)間,多推薦正版優(yōu)質(zhì)動(dòng)畫(huà)、傳統(tǒng)文化內(nèi)容;學(xué)校也有責(zé)任教育學(xué)生辨別不良內(nèi)容的特征與危害,培養(yǎng)批判性思維和健康的媒介使用習(xí)慣。
AI技術(shù)本應(yīng)是賦能成長(zhǎng)的工具,而非炮制有害內(nèi)容的幫兇。遏制“邪典視頻”卷土重來(lái),需要全社會(huì)協(xié)同發(fā)力,既堵住技術(shù)濫用的漏洞,又用優(yōu)質(zhì)內(nèi)容填充未成年人的網(wǎng)絡(luò)空間,讓他們?cè)谇謇实木W(wǎng)絡(luò)環(huán)境中汲取成長(zhǎng)力量。
撰稿 /?? 南木(媒體人)
編輯 / 柯銳
校對(duì) / 劉軍
歡迎投稿:
新京報(bào)評(píng)論,歡迎讀者朋友投稿。投稿郵箱:xjbpl2009@sina.com
評(píng)論選題須是機(jī)構(gòu)媒體當(dāng)天報(bào)道的新聞。來(lái)稿將擇優(yōu)發(fā)表,有稿酬。
投稿請(qǐng)?jiān)卩]件主題欄寫(xiě)明文章標(biāo)題,并在文末按照我們的發(fā)稿規(guī)范,附上作者署名、身份職業(yè)、身份證號(hào)碼、電話號(hào)碼以及銀行賬戶(包括戶名、開(kāi)戶行支行名稱)等信息,如用筆名,則需要備注真實(shí)姓名,以便發(fā)表后支付稿酬。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.