AI玩偶虐向視頻入侵孩子視野，喂糞肢解畫(huà)面觸目驚心，誰(shuí)該擔(dān)責(zé)？

近期，多款充斥血腥暴力的AI玩偶虐向視頻在抖音、嗶哩嗶哩等平臺(tái)蔓延，視頻中擬人化玩偶被喂糞、肢解、扔進(jìn)火鍋，甚至上演母子相殘情節(jié)，單條播放量超141萬(wàn)，不少未成年人深陷其中。創(chuàng)作者以“標(biāo)注慎入”為由推卸責(zé)任，平臺(tái)雖已下架違規(guī)內(nèi)容，但此類邪典視頻屢禁不絕的問(wèn)題仍引發(fā)熱議。本文結(jié)合法律規(guī)定、專家觀點(diǎn)和網(wǎng)友看法，剖析視頻危害與各方責(zé)任，提醒家長(zhǎng)警惕網(wǎng)絡(luò)內(nèi)容風(fēng)險(xiǎn)，呼吁多方合力守護(hù)未成年人網(wǎng)絡(luò)安全。

一、玩偶視頻藏驚悚，6歲娃誤看引家長(zhǎng)恐慌

最近，佛山一位鄧女士的遭遇讓不少家長(zhǎng)揪心，她6歲的兒子總趁家人不注意，偷偷用手機(jī)看一些讓人頭皮發(fā)麻的視頻。這些視頻里沒(méi)有真人出鏡，全是AI生成的擬人化玩偶，可內(nèi)容卻極其惡劣：有的玩偶被強(qiáng)行喂糞，有的被暴力肢解后扔進(jìn)滾燙火鍋，更離譜的是還有玩偶媽媽吞食幼崽的情節(jié)，畫(huà)面驚悚又惡心，成年人看了都不適，更何況年幼的孩子。

鄧女士發(fā)現(xiàn)后又氣又怕，多次在這類視頻下留言批評(píng)創(chuàng)作者，可留言幾乎全被刪除，想阻止孩子看卻防不勝防，只能眼睜睜看著孩子被不良內(nèi)容侵?jǐn)_，心里滿是無(wú)奈。其實(shí)有這種困擾的不止鄧女士，不少家長(zhǎng)在平臺(tái)評(píng)論區(qū)反饋，自家孩子也沉迷這類虐向視頻，甚至?xí)７乱曨l里的暴力動(dòng)作對(duì)待玩具，讓人擔(dān)憂不已。

記者調(diào)查發(fā)現(xiàn)，這類視頻都標(biāo)注著“略向”字樣，實(shí)際就是“虐向”內(nèi)容，核心圍繞“anon犬、soyo貍、天素羅”三個(gè)虛擬角色展開(kāi)，用類似定格動(dòng)畫(huà)的風(fēng)格呈現(xiàn)各種虐待情節(jié)。在嗶哩嗶哩平臺(tái)，一條名為“anon犬的觀察實(shí)驗(yàn)”的虐向視頻，播放量竟高達(dá)141萬(wàn)，評(píng)論區(qū)里還充斥著“不夠虐”“想虐殺它們”的極端言論，更離譜的是，部分視頻頁(yè)面還插播著商業(yè)廣告，可見(jiàn)傳播范圍之廣、獲利意圖之明顯。

更讓人擔(dān)心的是平臺(tái)算法的推送邏輯，只要看過(guò)一條這類視頻，首頁(yè)就會(huì)接連推薦更多同類內(nèi)容，形成不良內(nèi)容閉環(huán)。雖然開(kāi)啟未成年人模式能屏蔽部分內(nèi)容，但很多孩子會(huì)用家長(zhǎng)賬號(hào)登錄，輕松繞過(guò)防護(hù)，讓家長(zhǎng)的防范措施形同虛設(shè)。據(jù)統(tǒng)計(jì)，僅嗶哩嗶哩就有數(shù)百條這類視頻，抖音也有上百條，小紅書(shū)、百度等平臺(tái)也有零星分布，已然形成傳播規(guī)模。

二、法律層面算筆賬，創(chuàng)作傳播皆可能違法

面對(duì)家長(zhǎng)的質(zhì)疑，不少視頻創(chuàng)作者卻滿不在乎，有人說(shuō)自己在標(biāo)題標(biāo)注了“略向慎入”，已經(jīng)盡到提醒義務(wù)；還有人聲稱創(chuàng)作是個(gè)人自由，孩子看到純屬運(yùn)氣，甚至狡辯虛擬玩偶不會(huì)對(duì)現(xiàn)實(shí)造成影響。可事實(shí)真的如此嗎？從法律角度來(lái)看，這些創(chuàng)作者和平臺(tái)的行為，早已觸碰了法律紅線。

首先說(shuō)視頻創(chuàng)作者，他們制作傳播的血腥暴力內(nèi)容，明顯違反多項(xiàng)法律法規(guī)。根據(jù)《未成年人網(wǎng)絡(luò)保護(hù)條例》，網(wǎng)絡(luò)內(nèi)容生產(chǎn)者不得制作、復(fù)制、發(fā)布含有危害未成年人身心健康內(nèi)容的信息，這類虐向視頻充斥暴力、侮辱情節(jié)，嚴(yán)重違背公序良俗，會(huì)扭曲未成年人價(jià)值觀，助長(zhǎng)暴力傾向，符合“危害未成年人身心健康”的認(rèn)定標(biāo)準(zhǔn)。同時(shí)《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》也明確，禁止制作傳播血腥、殘忍、恐怖等妨礙社會(huì)公共秩序的內(nèi)容，創(chuàng)作者的行為已涉嫌違法。

要是情節(jié)嚴(yán)重，創(chuàng)作者還可能承擔(dān)更重的法律責(zé)任。律師明確表示，此類視頻若對(duì)未成年人造成實(shí)質(zhì)性心理傷害，或傳播范圍極廣、影響惡劣，創(chuàng)作者可能需承擔(dān)民事賠償責(zé)任；若情節(jié)觸犯治安管理規(guī)定，會(huì)被處以拘留或罰款；要是涉嫌教唆未成年人實(shí)施暴力行為，還可能構(gòu)成刑事犯罪，面臨有期徒刑等刑罰。那些以“自由創(chuàng)作”為借口的創(chuàng)作者，根本沒(méi)意識(shí)到自己的行為早已突破法律底線，所謂的“標(biāo)題提醒”，更不能成為免責(zé)理由。

再看平臺(tái)的責(zé)任，作為內(nèi)容傳播的重要載體，平臺(tái)不能只靠“事后下架”敷衍了事。《未成年人網(wǎng)絡(luò)保護(hù)條例》要求平臺(tái)建立健全內(nèi)容審核機(jī)制，對(duì)危害未成年人的內(nèi)容及時(shí)發(fā)現(xiàn)、處置。可實(shí)際情況是，這類視頻能達(dá)到百萬(wàn)播放量，說(shuō)明平臺(tái)前期審核存在明顯漏洞，算法推送還助推了不良內(nèi)容擴(kuò)散，沒(méi)有盡到應(yīng)有的監(jiān)管義務(wù)。按照法律規(guī)定，平臺(tái)若未履行審核義務(wù)，導(dǎo)致不良內(nèi)容侵害未成年人權(quán)益，需承擔(dān)相應(yīng)法律責(zé)任，情節(jié)嚴(yán)重的還可能被約談?wù)摹⑻幰粤P款。

值得注意的是，AI技術(shù)的普及讓這類視頻制作門檻大幅降低，創(chuàng)作者用普通AI工具就能快速生成內(nèi)容，低成本高流量的誘惑讓不少人鋌而走險(xiǎn)。但技術(shù)從來(lái)不是違法的借口，無(wú)論是AI工具使用者還是平臺(tái)，都得守住法律和道德底線，不能把技術(shù)變成傷害未成年人的工具。

三、網(wǎng)友爭(zhēng)論掀熱潮，專家：絕非小事，危害深遠(yuǎn)

這類虐向視頻曝光后，網(wǎng)友們炸開(kāi)了鍋，正反兩方觀點(diǎn)激烈碰撞，核心聚焦在“責(zé)任歸屬”和“危害程度”上，看法差異十分明顯。

支持嚴(yán)懲創(chuàng)作者和平臺(tái)的網(wǎng)友占了絕大多數(shù)，有網(wǎng)友怒懟：“標(biāo)注慎入就沒(méi)事了？孩子哪懂這些暗語(yǔ)，分明是明知可能被未成年人看到，還故意傳播不良內(nèi)容，就是賺黑心流量，必須重罰！”還有網(wǎng)友結(jié)合自身經(jīng)歷說(shuō)：“我家孩子之前也看過(guò)類似視頻，那段時(shí)間總愛(ài)打人摔玩具，心理影響太直觀了，這些創(chuàng)作者根本沒(méi)良知，平臺(tái)審核失職也該追責(zé)。”不少網(wǎng)友還呼吁加強(qiáng)監(jiān)管：“邪典視頻換著花樣坑孩子，光下架不夠，得從源頭查處，讓創(chuàng)作者和平臺(tái)都付出代價(jià)，不然還會(huì)卷土重來(lái)。”

也有少數(shù)網(wǎng)友持不同看法，有人覺(jué)得：“視頻里是虛擬角色，不是真人或真實(shí)動(dòng)物，沒(méi)必要過(guò)度緊張，只要家長(zhǎng)多監(jiān)管孩子看手機(jī)的內(nèi)容，就能避免影響。”還有人替創(chuàng)作者辯解：“這屬于小眾創(chuàng)作，沒(méi)強(qiáng)迫別人看，成年人有選擇自由，不能全怪創(chuàng)作者。”但這類觀點(diǎn)很快被反駁，有網(wǎng)友回懟：“虛擬內(nèi)容也會(huì)引導(dǎo)現(xiàn)實(shí)行為，未成年人辨別力差，很容易模仿暴力動(dòng)作，說(shuō)‘沒(méi)必要緊張’的，根本沒(méi)考慮孩子的身心發(fā)育特點(diǎn)。”

對(duì)此，心理專家和兒童保護(hù)專家也明確表態(tài)，這類視頻的危害遠(yuǎn)超想象，絕非“小事一樁”。專家指出，未成年人價(jià)值觀還沒(méi)成型，長(zhǎng)期看血腥暴力內(nèi)容，會(huì)逐漸對(duì)暴力麻木，降低對(duì)惡行的反感度，甚至模仿視頻里的行為，養(yǎng)成攻擊型人格，還可能出現(xiàn)焦慮、抑郁等心理問(wèn)題。而且視頻里“可愛(ài)玩偶+殘酷情節(jié)”的強(qiáng)烈反差，會(huì)給孩子造成認(rèn)知混亂，沖擊他們對(duì)“善良”“親情”的正確認(rèn)知，干擾社會(huì)化發(fā)展，這種心理傷害可能伴隨終身。

還有專家特別澄清，創(chuàng)作者拿“可愛(ài)侵略性”辯解純屬混淆概念，正常的可愛(ài)侵略性是對(duì)萌物的輕微親昵沖動(dòng)，比如想捏可愛(ài)的小動(dòng)物，不會(huì)轉(zhuǎn)化為暴力行為；而這類視頻是系統(tǒng)性虐待展示，目的是制造恐怖感吸流量，本質(zhì)是惡意傳播不良內(nèi)容，兩者完全不是一回事。專家建議家長(zhǎng)，發(fā)現(xiàn)孩子看這類視頻后，別盲目批評(píng)指責(zé)，要溫和溝通疏導(dǎo)，及時(shí)開(kāi)啟平臺(tái)未成年人模式，必要時(shí)尋求專業(yè)心理幫助，避免傷害加深。

四、結(jié)論：守護(hù)孩子網(wǎng)絡(luò)安全，需多方合力筑牢防線

AI虐向玩偶視頻的蔓延，暴露了網(wǎng)絡(luò)內(nèi)容監(jiān)管的漏洞，也敲響了未成年人網(wǎng)絡(luò)保護(hù)的警鐘。這類視頻里的暴力情節(jié)，不是簡(jiǎn)單的“虛擬創(chuàng)作”，而是對(duì)未成年人心靈的“投毒”，創(chuàng)作者為賺流量突破道德底線，平臺(tái)審核失職放任不良傳播，最終受傷的都是無(wú)辜孩子。

從法律層面看，創(chuàng)作者和平臺(tái)的行為已涉嫌違法，理應(yīng)承擔(dān)相應(yīng)責(zé)任；從現(xiàn)實(shí)危害講，視頻會(huì)扭曲孩子價(jià)值觀、誘發(fā)暴力傾向，影響長(zhǎng)遠(yuǎn)發(fā)展，絕不能放任不管。想要杜絕這類邪典視頻，需要監(jiān)管部門加大查處力度，從源頭打擊不良內(nèi)容創(chuàng)作傳播；平臺(tái)要強(qiáng)化審核機(jī)制，優(yōu)化算法推薦，不讓暴力內(nèi)容有擴(kuò)散空間；創(chuàng)作者更要守住良知，別把技術(shù)變成傷害孩子的工具；家長(zhǎng)作為第一責(zé)任人，更得做好監(jiān)管，多陪伴孩子、引導(dǎo)正確上網(wǎng)習(xí)慣，及時(shí)排查不良內(nèi)容風(fēng)險(xiǎn)。

網(wǎng)絡(luò)不是法外之地，未成年人的成長(zhǎng)環(huán)境需要多方共同守護(hù)。AI技術(shù)本該服務(wù)于生活，卻被用來(lái)制作傷害孩子的邪典內(nèi)容，這種亂象必須徹底整治。最后也想問(wèn)問(wèn)大家：你覺(jué)得該如何從源頭杜絕這類虐向視頻？家長(zhǎng)和平臺(tái)誰(shuí)該承擔(dān)更多責(zé)任？歡迎在評(píng)論區(qū)分享你的看法，一起為孩子筑牢網(wǎng)絡(luò)安全屏障。