不能讓AI助長(zhǎng)“邪典視頻”野蠻生長(zhǎng) | 新京報(bào)快評(píng)

AI技術(shù)的大規(guī)模應(yīng)用，顯著降低了“邪典視頻”的制作成本。

▲AI“魔改”經(jīng)典IP，引起輿論關(guān)注。圖/IC photo

文|南木

隨著AI技術(shù)的普及，“邪典視頻”卷土重來(lái)了？

“有些內(nèi)容成年人看了都覺(jué)得不適，更何況3歲的孩子。”據(jù)《法治日?qǐng)?bào)》報(bào)道，廣東的梁先生發(fā)現(xiàn)3歲女兒觀看的視頻中，存在殘害肢體、角色從高處墜落等血腥場(chǎng)景，甚至有“把自己的眼珠子挖出吃掉”的可怕畫(huà)面。

這些AI魔改動(dòng)漫，本質(zhì)就是換湯不換藥的“邪典視頻”。它們往往頂著孩子熟悉的角色I(xiàn)P，塞滿暴力沖突、低俗戀愛(ài)情節(jié)，專門(mén)盯著未成年人下手。部分“邪典視頻”還被制作成商品，在電商平臺(tái)銷(xiāo)量不俗。

近年來(lái)，有關(guān)部門(mén)通過(guò)關(guān)停違規(guī)賬號(hào)、下架非法應(yīng)用程序、處罰傳播有害信息的平臺(tái)等舉措，相關(guān)治理工作取得顯著成效，把“邪典視頻”這類(lèi)“精神垃圾”壓了下去。

然而，AI技術(shù)的大規(guī)模應(yīng)用，顯著降低了“邪典視頻”的制作成本。使用生成式AI，制作者可以很快根據(jù)人物原型生成自己想要的畫(huà)面，甚至不需要掌握太多動(dòng)畫(huà)制作基礎(chǔ)。

令人憂心的，還有平臺(tái)算法的推波助瀾。這類(lèi)視頻因節(jié)奏快、刺激強(qiáng)、認(rèn)知負(fù)荷低，成為流量“黑馬”。一旦孩子偶然點(diǎn)擊這些視頻，算法便會(huì)構(gòu)建“信息繭房”，推送更多同類(lèi)內(nèi)容，把未成年人困在“精準(zhǔn)喂毒”的循環(huán)里。

“邪典視頻”無(wú)疑對(duì)未成年人健康成長(zhǎng)構(gòu)成多重威脅。

其一是宣傳色情、暴力，讓未成年人在價(jià)值觀成型期接觸危險(xiǎn)信息。有家長(zhǎng)發(fā)現(xiàn)，AI生成的圖片和視頻不乏“殺死”“燒死”等暴力詞匯，以及“用刀砍人”等危險(xiǎn)動(dòng)作描述。

低齡兒童根本分不清虛擬和現(xiàn)實(shí)，他們很可能會(huì)把暴力當(dāng)“酷”，把危險(xiǎn)當(dāng)“游戲”，模仿著做出傷害自己或他人的行為，后果不堪設(shè)想。

其二是歪曲經(jīng)典歷史人物言行，讓未成年人形成扭曲的歷史觀與文化認(rèn)知。有孩子接觸AI魔改的“外國(guó)山海經(jīng)”以后，竟認(rèn)定“山海經(jīng)就是國(guó)外的，中國(guó)的山海經(jīng)一點(diǎn)兒也不好看”，對(duì)真正的傳統(tǒng)文化典籍毫無(wú)興趣。

更有甚者，AI魔改將《紅樓夢(mèng)》變成“魔法戰(zhàn)爭(zhēng)”，把《三國(guó)演義》改編為“激光大戰(zhàn)”，顛覆經(jīng)典的核心內(nèi)涵，侵蝕文化傳承的根脈。

“邪典視頻”更深層的傷害，還是針對(duì)未成年人的思維與價(jià)值觀的“投毒”。低齡兒童缺乏辨別能力，長(zhǎng)期接觸暴力畫(huà)面可能會(huì)導(dǎo)致兒童變得冷漠麻木，對(duì)其健康成長(zhǎng)帶來(lái)不利影響。

而這類(lèi)視頻碎片化、強(qiáng)刺激的特點(diǎn)，還會(huì)讓孩子的注意力難以集中，導(dǎo)致專注力與審美能力退化。實(shí)際上，有的孩子受“邪典視頻”影響，已經(jīng)無(wú)法耐心看完篇幅稍長(zhǎng)的繪本、書(shū)籍，嚴(yán)重影響其認(rèn)知發(fā)展。

面對(duì)AI技術(shù)催生的“邪典視頻”回潮，有關(guān)部門(mén)應(yīng)跟上技術(shù)迭代的速度，加快完善內(nèi)容監(jiān)管規(guī)則，明確生成式AI的責(zé)任邊界，嚴(yán)厲打擊“邪典視頻”的制作、傳播及相關(guān)衍生品銷(xiāo)售產(chǎn)業(yè)鏈。

平臺(tái)作為內(nèi)容傳播的關(guān)鍵環(huán)節(jié)，必須摒棄“流量至上”思維，升級(jí)算法審核機(jī)制，將“兒童利益最大化”作為核心原則，強(qiáng)化“青少年模式”的過(guò)濾功能，主動(dòng)清理存量不良內(nèi)容，從源頭阻斷傳播渠道。

家庭與學(xué)校更要筑牢防線。家長(zhǎng)應(yīng)加強(qiáng)對(duì)孩子網(wǎng)絡(luò)使用的陪伴與引導(dǎo)，合理限制短視頻觀看時(shí)間，多推薦正版優(yōu)質(zhì)動(dòng)畫(huà)、傳統(tǒng)文化內(nèi)容；學(xué)校也有責(zé)任教育學(xué)生辨別不良內(nèi)容的特征與危害，培養(yǎng)批判性思維和健康的媒介使用習(xí)慣。

AI技術(shù)本應(yīng)是賦能成長(zhǎng)的工具，而非炮制有害內(nèi)容的幫兇。遏制“邪典視頻”卷土重來(lái)，需要全社會(huì)協(xié)同發(fā)力，既堵住技術(shù)濫用的漏洞，又用優(yōu)質(zhì)內(nèi)容填充未成年人的網(wǎng)絡(luò)空間，讓他們?cè)谇謇实木W(wǎng)絡(luò)環(huán)境中汲取成長(zhǎng)力量。

撰稿 /?? 南木（媒體人）

編輯 / 柯銳

校對(duì) / 劉軍

歡迎投稿：

新京報(bào)評(píng)論，歡迎讀者朋友投稿。投稿郵箱：xjbpl2009@sina.com

評(píng)論選題須是機(jī)構(gòu)媒體當(dāng)天報(bào)道的新聞。來(lái)稿將擇優(yōu)發(fā)表，有稿酬。

投稿請(qǐng)?jiān)卩]件主題欄寫(xiě)明文章標(biāo)題，并在文末按照我們的發(fā)稿規(guī)范，附上作者署名、身份職業(yè)、身份證號(hào)碼、電話號(hào)碼以及銀行賬戶（包括戶名、開(kāi)戶行支行名稱）等信息，如用筆名，則需要備注真實(shí)姓名，以便發(fā)表后支付稿酬。