知名AI平臺哩布哩布AI涉黃？記者實測：已無法生成擦邊內容，但黑色產業鏈仍在

近日，央視曝光多款AI應用存在涉黃生成漏洞，創作平臺哩布哩布AI更是被直接“點名”。因其可以被用戶使用“隱晦提示詞”繞過審核，生成半裸女性跳舞視頻。

4月13日，新京報貝殼財經記者在哩布哩布AI實測發現，輸入類似的提示詞后已經無法生成“擦邊視頻”。但另一方面，國外的大模型正處于“裸奔”狀態，一些主流大模型平臺雖然也不支持生成色情內容，但仍然可生成“擦邊視頻”，而一些AI創作平臺則對此類內容完全放開。此外，在黑灰產平臺上出現了許多以銷售提示詞的名義，售賣各種“AI生成教程”，收費在幾十到上百元不等。

對此，北京盈科（合肥）律師事務所姜萬東律師告訴新京報貝殼財經記者，隱晦提示詞本身不必然違法，但若生成的內容實質違反法律法規，平臺及用戶均可能面臨法律責任。平臺需履行內容安全管理主體責任，加強審核和技術手段，防止違法內容傳播；用戶若故意利用隱晦提示詞生成違法內容，也需承擔相應法律責任。而AI作為工具，利用它創作色情內容，等同于利用傳統手段進行違法活動，同樣要承擔相應法律責任。AI使用者需對內容的合法性負責，不可觸碰法律紅線。

4月14日，哩布哩布AI發布聲明稱，近期媒體對AI生成內容安全問題的討論，我們已關注并高度重視。第一時間啟動內部專項排查，對平臺生成能力及審核機制進行了全面自查。經排查發現，在個別復雜提示詞組合及規避表達的邊界場景下，平臺存在生成不符合規范內容的情況。對此，我們深表歉意。本次問題也為我們敲響了警鐘，使我們清醒認識到在內容安全邊界識別與機制完善方面仍存在不足，未達到應有標準。相關問題已第一時間完成技術修復，并對風險路徑進行全面封堵。

4月14日，哩布哩布AI發布《關于加強內容安全管理的說明》并道歉。

輸入擦邊提示詞，已無法生成擦邊內容

此次被“點名”的哩布哩布AI不是無名小卒，而是頭頂多項光環的明星企業。

從融資規?？?，這家公司于2025年10月完成1.3億美元B輪融資，由紅杉中國、CMC資本聯合領投，創下當年國內AI應用賽道最大單筆融資紀錄。從用戶體量看，官網數據顯示平臺已匯聚超過2000萬創作者，累計生成圖片超過5億張，穩居國內AI圖像生成領域首位。從合規履歷看，2024年2月通過國家網信辦第四批深度合成服務算法備案，同年3月成為國內首家通過《生成式人工智能服務管理暫行辦法》備案的AI社區。

根據央視報道，市面上多款主流AI應用、平臺對直白露骨的色情指令可實現有效攔截，但對隱晦、變相描述的識別能力明顯不足。

有聲音認為，這暴露了AI內容審核的核心難題：對抗性提示詞的識別。商家為規避監管，將敏感詞匯翻譯成英文，或用“腰胯扭動幅度”等細節描述替代露骨指令，形成一套隱蔽的指令體系。

4月13日，新京報貝殼財經記者在哩布哩布AI上輸入相關提示詞后，發現其并未生成“擦邊”內容，取而代之的是一個衣著完整的部位特寫。而當記者將提示詞切換為英文后，平臺直接提示“生成失敗”。

記者嘗試在哩布哩布AI平臺上使用相關英文提示詞，顯示生成失敗。網頁截圖

姜萬東告訴記者，若“擦邊”內容實質包含淫穢、色情、低俗、暴力等法律法規禁止傳播的信息（如通過隱晦提示詞生成半裸、性暗示、性交易等內容的視頻、圖片或文字），即使使用隱晦表述，仍屬于違法內容。

“根據《中華人民共和國網絡安全法》《互聯網信息服務管理辦法》《生成式人工智能服務管理暫行辦法》等規定，平臺有義務對用戶發布的內容進行管理，發現違法信息應立即停止傳輸、采取消除等處置措施，并向主管部門報告。若平臺明知存在此類漏洞卻未有效整改，可能承擔法律責任，包括行政處罰（如罰款、停業整頓等）?！苯f東表示。

在他看來，若“擦邊”內容未直接觸犯法律，但違反平臺自身的社區規則、用戶協議等（如發布過度暴露、性暗示但未構成淫穢的內容），平臺可依據規則對用戶采取警告、限制功能、封號等處理措施，但一般不涉及法律責任。

國外大模型“裸奔”，AI色情已出現產業鏈

一個值得玩味的對比是：國內平臺被點名整改，而一些國外開源生態的大模型卻幾乎處于“裸奔狀態”。

新京報貝殼財經記者測試發現，有知名外國大模型推出了“成人模式”，除了涉及未成年人、強迫性等場面無法生成外，尺度驚人。一些“AI脫衣”“AI改姿勢”的圖片甚至曾一度在馬斯克的X平臺上流行，讓許多用戶感受到了冒犯，后來X平臺也整改了這一功能。

但在技術上，目前不少AI生圖、AI生視頻的模型已經在網絡上開源，如Stable Diffusion及其節點式工作流平臺ComfyUI等。其中，國家網絡安全通報中心早在2025年5月就發出預警，指出ComfyUI存在數個高危漏洞，且已被黑客組織利用。安全機構Censys在2026年4月的監測中發現，超過1000個ComfyUI實例直接在公網“裸奔”，沒有任何防護，任何人都能遠程接入、隨意生成內容。

這意味著，在開源大模型時代，任何一個人都能在自家電腦上跑一個完全不受控的AI。

新京報貝殼財經記者在黑灰產平臺上搜索發現，目前存在很多打著“售賣提示詞”旗號，但實際為兜售AI色情生成服務的賣家，其中一些賣家售賣的正是這種不受監管的AI生成服務。

記者在黑灰產平臺上看到的售賣內容。手機截圖

有些賣家表示，可以花99元“永久獲得”AI生圖的操作賬號使用權限，而48元則可以購買到一些大尺度模型平臺的提示詞以及教程。

這意味著，監管的拳頭可以打在應用層，而技術的根子扎在開源層。

那么，AI內容治理的邊界究竟在哪？

從監管實踐看，國內選擇的是“事前備案+事中審核+事后追責”的全鏈條治理模式。2025年4月，網信辦開展“清朗·整治AI技術濫用”專項行動，重點整治利用AI制作傳播色情低俗內容；2026年4月10日，五部門聯合公布《人工智能擬人化互動服務管理暫行辦法》，進一步明確安全評估和算法備案要求。2026年1月1日，修訂后的《中華人民共和國網絡安全法》正式施行，首次在法律層面規定了AI安全風險的法律責任框架。

相比之下，海外平臺的治理邏輯更傾向于“分級管控”：僅對“看起來真實、可能誤導公眾”的逼真合成、深度偽造內容進行強制披露要求，對于普通AI輔助創作并不做全量強制標注，核心聚焦于防范AI內容誤導用戶、傷害公共利益。

兩種路徑各有優劣。國內的強監管確保了內容底線，但也面臨“道高一尺魔高一丈”的貓鼠困境；海外的寬松環境激發了創新活力，卻也留下了濫用的隱患。如何在安全與創新之間找到平衡點，是所有AI平臺和監管者共同面對的難題。

這或許才是哩布哩布AI事件最該留下的警示：合規不能只是備案那張紙，而是要滲透進產品設計的每一個環節、每一次模型迭代、每一輪審核機制的更新。備案是起點，而非終點；合規是能力，而非裝飾。

新京報貝殼財經記者 羅亦丹

編輯 岳彩周

校對 付春愔

（新京報貝殼財經記者祁明遠對此稿亦有貢獻）