大學(xué)生稱在B站遭遇AI不雅視頻造黃謠，“AI作惡”誰應(yīng)擔(dān)責(zé)？

近日，大學(xué)生小劉反映稱，自己在嗶哩嗶哩（以下簡稱“B站”）平臺遭遇AI“造黃謠”侵權(quán)，一段拼接了其本人照片與AI生成不雅畫面的視頻，在平臺傳播多日、點(diǎn)擊量破萬，而他的維權(quán)之路卻一波三折。

“我看到視頻時整個人都蒙了，又氣憤又害怕。”小劉表示，該視頻前半段用了他在視頻平臺發(fā)布的個人照片，后半段則通過AI技術(shù)合成了他的不雅畫面。“視頻做得非常逼真，里面的‘我’在邊跳舞邊脫衣服，極其低俗。”小劉無奈表示，他沒拍攝過這個視頻，AI合成的畫面完全是惡意偽造。

小劉第一時間想通過平臺舉報下架視頻，他撥打400電話要求立刻下架，卻被對方告知，只能通過APP內(nèi)的舉報渠道提交申請，待平臺審核后才能進(jìn)行下架操作，他以“色情低俗”為由舉報該視頻，B站社區(qū)很快反饋“已收到舉報，將會重點(diǎn)關(guān)注該賬號”，但視頻依舊正常播放，并未下架。

“色情低俗的舉報是受理了，但結(jié)果是‘重點(diǎn)關(guān)注’，該視頻還是存在。”小劉又以“損害個人名譽(yù)”為由再次舉報，并反復(fù)催促客服加急處理，可直到第二天早上，視頻仍在平臺傳播，點(diǎn)擊量已攀升至1.4萬。“這期間，我收到‘損害個人名譽(yù)’投訴未通過的審核結(jié)果，平臺表示需要補(bǔ)充上傳手持身份證照片資料，我立刻按要求上傳資料，此后又反復(fù)聯(lián)系客服，多次催促平臺加急處理。”

經(jīng)過反復(fù)舉報，3月8日下午，涉事視頻終于被下架。視頻下架后，小劉繼續(xù)以“侵害個人名譽(yù)”為由舉報，要求封禁該賬號。視頻下架后的幾天內(nèi)，涉事賬號仍處于正常狀態(tài)。

B站相關(guān)客服專員表示，接到小劉的舉報后，平臺加急進(jìn)行核實(shí)，已經(jīng)第一時間將相關(guān)視頻予以刪除處理。對于平臺舉報處理時效與封禁規(guī)則，客服表示，舉報處理時效一般24小時，是否封禁賬號是基于對應(yīng)賬號違規(guī)程度來進(jìn)行綜合判斷。對于內(nèi)容違規(guī)被刪除的賬號，平臺也會持續(xù)關(guān)注和監(jiān)督。

AI作惡，誰應(yīng)擔(dān)責(zé)

如今，隨著生成式人工智能技術(shù)的進(jìn)步，運(yùn)用AI換臉技術(shù)進(jìn)行造謠誹謗的事件越發(fā)頻繁。當(dāng)AI偽造的不雅視頻被肆意傳播，技術(shù)便失去了其原本的意義，成了不法分子作惡的工具。

去年8月30日，臺球女運(yùn)動員王思諾就曾發(fā)布視頻稱自己遭人惡意利用AI合成技術(shù)偽造淫穢視頻并傳播。

去年10月10日，青島保時捷銷售中心牟女士發(fā)文稱，近期網(wǎng)絡(luò)上出現(xiàn)了大量由AI合成的虛假、不良視頻，對她進(jìn)行誹謗和侮辱。牟女士表示，還遭遇了騷擾電話“轟炸”，微信也收到許多不明的好友申請。

利用AI造謠，對他人進(jìn)行誹謗與人格侮辱實(shí)則是數(shù)字時代的一種新型暴力，它不僅損害了受害者的肖像權(quán)與名譽(yù)權(quán)，也影響了正常的生活。即便當(dāng)事人竭力澄清，那些被惡意偽造、病毒式傳播的影像，仍然會對其現(xiàn)實(shí)社交、生活帶來一定影響，嚴(yán)重的還會造成長期的心理創(chuàng)傷。

從法律層面看，這已不僅是民事侵權(quán)，更可能構(gòu)成犯罪。根據(jù)《中華人民共和國刑法》，制作、傳播淫穢物品，情節(jié)嚴(yán)重者將面臨刑事處罰，需承擔(dān)刑事責(zé)任。

今年3月，北京互聯(lián)網(wǎng)法院披露一起因使用生成式AI發(fā)布內(nèi)容而引發(fā)的名譽(yù)權(quán)侵權(quán)案件。被告使用AI生成不當(dāng)?shù)囊曨l文案，并據(jù)此制作視頻發(fā)布在網(wǎng)上，被法院認(rèn)定構(gòu)成對原告名譽(yù)權(quán)的侵害，需賠償原告一定經(jīng)濟(jì)損失。

法院同時提醒，內(nèi)容使用者、發(fā)布者及相關(guān)運(yùn)營主體均負(fù)有不可推卸的主體責(zé)任與法定核實(shí)義務(wù)，不得以“內(nèi)容由AI生成”作為免責(zé)借口，逃避對信息真實(shí)性、合法性、合規(guī)性的審慎審核責(zé)任。無論內(nèi)容形式為文字、圖片、音視頻或其他類型，在發(fā)布、轉(zhuǎn)載、使用前均應(yīng)進(jìn)行核查，確保內(nèi)容不侵害他人名譽(yù)權(quán)、隱私權(quán)、著作權(quán)及其他合法權(quán)益。

這兩年，網(wǎng)信辦等部門也在不斷加強(qiáng)整治AI技術(shù)濫用。

根據(jù)2023年8月起施行的《生成式人工智能服務(wù)管理暫行辦法》和2025年11月正式實(shí)施的《網(wǎng)絡(luò)安全技術(shù)生成式人工智能服務(wù)安全基本要求》，提供和使用生成式人工智能服務(wù)，不得生成暴力、淫穢色情等內(nèi)容，還要對明顯誘導(dǎo)生成違法不良信息的問題拒絕回答。

今年4月10日公布的《人工智能擬人化互動服務(wù)管理暫行辦法》明確規(guī)定，提供擬人化互動服務(wù)時，不得傳播淫穢、色情、暴力等內(nèi)容，進(jìn)一步明確了安全評估和算法備案的相關(guān)要求，還對未成年人和老年人使用擬人化互動服務(wù)作出了相關(guān)規(guī)定。

AI“造黃”的出現(xiàn)表明，監(jiān)管部門以及各平臺還需不斷增強(qiáng)對AI技術(shù)濫用的警惕性，提升監(jiān)測能力、審核能力和應(yīng)對能力，通過日益完善的管理制度，讓AI黃色產(chǎn)業(yè)的灰色通道走不通。

盈利了，卻變質(zhì)了

2025年財報顯示，B站首次實(shí)現(xiàn)全年盈利，總營收303.5億元，同比增長13%，凈利潤11.9億元，扭虧為盈。其中廣告收入100.6億元，同比增長23%，連續(xù)12個季度保持雙位數(shù)增長，占總營收比重超過33%。在游戲業(yè)務(wù)增長乏力、增值服務(wù)增速放緩的背景下，廣告已成為B站增長的核心引擎。

然而盈利的代價正在被用戶感知。有分析指出，B站的廣告加載率僅約6%左右，遠(yuǎn)低于抖音的15%，不是B站不想提高，而是社區(qū)屬性決定了用戶對商業(yè)內(nèi)容的容忍度天然更低。隨著廣告庫存逐漸接近臨界值，B站不得不持續(xù)尋找新的商業(yè)觸點(diǎn)，而每一次探索都伴隨著社區(qū)氛圍的進(jìn)一步稀釋。

與此同時，UP主的變現(xiàn)困境始終未能得到根本改善。一位同時運(yùn)營B站和YouTube的AI創(chuàng)作者透露，同等播放量下，B站收入僅為YouTube的1/120。當(dāng)平臺廣告收入連年增長，中尾部UP主卻只能依靠商單勉強(qiáng)度日，社區(qū)生態(tài)的根基正在變得脆弱。

今年4月10日，B站正式在App端上線“播放頁暫停廣告”功能，用戶在手動暫停視頻時將有概率觸發(fā)播放器下方的彈窗廣告。消息一出，“B站變質(zhì)”的詞條迅速沖上熱搜第一。

從產(chǎn)品形態(tài)來看，B站的這次廣告調(diào)整并不激進(jìn)。暫停廣告在用戶手動暫停視頻時出現(xiàn)在播放器下方，非強(qiáng)制停留，不遮擋視頻主體，且用戶可點(diǎn)擊關(guān)閉。B站同時為UP主提供了關(guān)閉權(quán)限，UP主可自行決定是否屏蔽廣告。

用戶的反感早有積淀。近兩年B站站內(nèi)廣告密度持續(xù)提升，開屏廣告、首頁信息流廣告、播放器框下廣告、UP主推薦廣告層層遞進(jìn)，而暫停廣告意味著商業(yè)化觸點(diǎn)首次覆蓋至用戶主動觸發(fā)的行為場景——過去“暫停”是用戶自主行為，如今每一次停頓都可能成為商業(yè)曝光的機(jī)會。

更令用戶感到被冒犯的是B站的處理方式。B站將暫停廣告的開關(guān)權(quán)賦予UP主，卻將廣告收益與UP主創(chuàng)作激勵直接掛鉤，關(guān)閉廣告意味著創(chuàng)作者收益受損。這種設(shè)計被用戶普遍解讀為平臺在轉(zhuǎn)移矛盾——把商業(yè)化的壓力轉(zhuǎn)嫁到創(chuàng)作者與粉絲之間的對立上。

B站董事長陳睿曾在業(yè)績會上強(qiáng)調(diào)，未來的競爭策略一是要保持和強(qiáng)化優(yōu)質(zhì)內(nèi)容，二是要讓UP主獲得更多商業(yè)回報。但面對月活3.66億、日活1.13億的平臺體量，如何在增長與社區(qū)之間找到可持續(xù)的平衡點(diǎn)，始終沒有一個清晰的答案。

從會員爭議到“變質(zhì)”質(zhì)疑，B站在2026年開年以來連續(xù)進(jìn)行的商業(yè)化操作，已經(jīng)將“B站還是不是原來的B站”這個命題擺在了桌面上。

（內(nèi)容綜合自上海法制報、紅網(wǎng)、北京日報、新浪財經(jīng)等）