專訪全國政協(xié)委員郭媛媛：AI生成內(nèi)容更容易帶來“隱蔽式傷害”，建議將社會責(zé)任嵌入算法機(jī)制

每經(jīng)記者：張梓桐 每經(jīng)編輯：余婷婷

近年來，我國未成年人網(wǎng)絡(luò)保護(hù)制度體系持續(xù)完善，“六方協(xié)同機(jī)制”不斷健全，法律法規(guī)不斷與時俱進(jìn)。但伴隨生成式AI（人工智能）、智能體、多模態(tài)內(nèi)容快速普及，未成年人網(wǎng)絡(luò)空間出現(xiàn)情感依賴、AI不良內(nèi)容、極端情緒誘導(dǎo)、城鄉(xiāng)數(shù)字保護(hù)失衡等新型風(fēng)險。技術(shù)迭代速度快于規(guī)制完善與社會認(rèn)知的提升，讓傳統(tǒng)治理模式面臨不小挑戰(zhàn)。

全國政協(xié)委員、首都經(jīng)濟(jì)貿(mào)易大學(xué)特大城市經(jīng)濟(jì)社會發(fā)展研究院副院長郭媛媛 圖片來源：受訪者提供

2026年全國兩會期間，長期關(guān)注未成年人網(wǎng)絡(luò)保護(hù)議題的全國政協(xié)委員、首都經(jīng)濟(jì)貿(mào)易大學(xué)特大城市經(jīng)濟(jì)社會發(fā)展研究院副院長郭媛媛在接受《每日經(jīng)濟(jì)新聞》記者（以下簡稱NBD）專訪時指出，應(yīng)推進(jìn)社會責(zé)任嵌入算法底層機(jī)制，探索將規(guī)制技術(shù)處置的方向融入新的監(jiān)管模式；AI企業(yè)應(yīng)基于以人為本、以人文精神為基礎(chǔ)的技術(shù)發(fā)展倫理，在風(fēng)險提醒前置、未成年人保護(hù)優(yōu)先等方面加強發(fā)力；家庭教育應(yīng)進(jìn)一步強化人性化的溫情陪伴，避免孩子因沉迷數(shù)字化環(huán)境而被技術(shù)“異化”。

“未來，需要構(gòu)建適配AI時代、跨界融通、人機(jī)協(xié)同的保護(hù)生態(tài)；需要加強事前預(yù)警、事中阻斷、事后溯源，真正筑牢未成年人數(shù)字安全底線。”郭媛媛說。

新痛點：AI加速滲透，未成年人網(wǎng)絡(luò)保護(hù)進(jìn)入“技術(shù)風(fēng)險高發(fā)期”

NBD：過去一年，我國未成年人網(wǎng)絡(luò)保護(hù)整體成效顯著。與此同時，您觀察到了哪些最新、最突出的難點與挑戰(zhàn)？

郭媛媛：我國未成年人網(wǎng)絡(luò)保護(hù)工作一直走在前列，制度建設(shè)、平臺責(zé)任、社會協(xié)同都在快速跟進(jìn)。但人工智能全面普及后，風(fēng)險形態(tài)發(fā)生諸多變化，很多問題傳統(tǒng)監(jiān)管已經(jīng)不能全部覆蓋。

第一，AI生成內(nèi)容更容易帶來“隱蔽式傷害”。現(xiàn)在AI能快速生成動漫、視頻、音頻，形態(tài)更豐富、解讀更復(fù)雜、多義性更強。過去以文字為媒介、重線性思維邏輯，傳統(tǒng)管理或規(guī)制模式因此而建立，并形成了識別、管控的規(guī)范；現(xiàn)在是空間化、場景化、多模態(tài)內(nèi)容，尤其是AI幻象、合成技術(shù)真假難辨，以關(guān)鍵詞過濾的傳統(tǒng)方法很難有效處置。例如，在數(shù)字卡通、動畫中出現(xiàn)了一些不良內(nèi)容，模糊了正確的人生觀、價值觀，這些內(nèi)容借助智能用戶識別、流量推送，很可能抵達(dá)未成年人。

第二，算法流量優(yōu)先，帶來風(fēng)險“來不及監(jiān)管、來不及截斷”等問題。平臺追求流量最大化，不良信息、消極內(nèi)容甚至誘導(dǎo)自殺、極端情緒等可能借助算法快速擴(kuò)散。一旦發(fā)現(xiàn)滯后，易導(dǎo)致不良內(nèi)容溢出監(jiān)管范圍傳播。

第三，未成年人若習(xí)慣面向AI軟件“寄托情感”，可能加劇心理風(fēng)險。部分青少年在現(xiàn)實中缺少陪伴，遇到心理壓力、負(fù)面情緒，往往沒有第一時間找家長或老師，而是轉(zhuǎn)向AI、網(wǎng)絡(luò)社群。在流量機(jī)制的驅(qū)動下，極易進(jìn)入負(fù)面情緒漩渦。若得不到及時有效的疏解，則可能將孩子推向危險邊緣。

NBD：以上風(fēng)險如何防范？您如何看待平臺在其中的責(zé)任與作為？

郭媛媛：平臺是第一道關(guān)口。要強化價值導(dǎo)向，將社會價值進(jìn)一步嵌入數(shù)字內(nèi)容生產(chǎn)及算法推薦等底層機(jī)制。應(yīng)強化并用好技術(shù)管控手段，提升智能技術(shù)在數(shù)字內(nèi)容識別以及在負(fù)面極端情緒、不良內(nèi)容、風(fēng)險行為實時阻斷等方面的應(yīng)用。最后，法律法規(guī)要與時俱進(jìn)、強化適配，甚至要前瞻性制定、健全完善制度供給。

防沉迷與未成年人模式應(yīng)“管用、能用、好用”

NBD：目前青少年模式、防沉迷系統(tǒng)已全面普及，但不少家長反映“流于形式”。您認(rèn)為系統(tǒng)在落地過程中還存在哪些短板？

郭媛媛：我們正逐步進(jìn)入“人機(jī)共生”時代，保護(hù)體系更多依靠“人防”，有時捉襟見肘。現(xiàn)在青少年所遭遇的數(shù)字內(nèi)容風(fēng)險，很多是技術(shù)及其能量帶來的。例如算法精準(zhǔn)推送、數(shù)字內(nèi)容規(guī)模化生成帶來的問題，僅靠人工審核、人為管制顯然不夠。

當(dāng)前，主要存在以下短板：首先，青少年模式“防外不防內(nèi)”。例如設(shè)置有時長限制，但面向青少年的數(shù)字內(nèi)容質(zhì)量標(biāo)準(zhǔn)還需進(jìn)一步建立；主要屏蔽顯性違規(guī)，但對AI生成的軟色情、暴力暗示、價值觀扭曲等內(nèi)容識別率較低。

其次，人機(jī)協(xié)同機(jī)制需進(jìn)一步建立。AI可以7×24小時在線響應(yīng)、情緒引導(dǎo)、風(fēng)險預(yù)警，青少年保護(hù)體系應(yīng)進(jìn)一步用好AI能力。遇到孩子表達(dá)自殺、自傷傾向時，應(yīng)建立AI第一時間預(yù)警、人工立即介入并迅速聯(lián)動家長與救助渠道的機(jī)制。

最后，相關(guān)研究需要加緊推進(jìn)。多模態(tài)AI如何影響未成年人認(rèn)知？AI陪伴對心理發(fā)育是好是壞？算法繭房如何固化未成年人價值觀？這些問題需要相關(guān)專業(yè)研究更多、更快跟進(jìn)，為政策設(shè)計、平臺治理、家庭引導(dǎo)等提供更充分的學(xué)理支持。

NBD：有專家在基層調(diào)研時發(fā)現(xiàn)，農(nóng)村留守兒童數(shù)字保護(hù)問題更容易被忽視。您認(rèn)為如何縮小城鄉(xiāng)未成年人數(shù)字保護(hù)差距？

郭媛媛：首要的是補齊基礎(chǔ)設(shè)施與公共服務(wù)短板。應(yīng)將城鄉(xiāng)均衡發(fā)展理念進(jìn)一步落實到未成年人數(shù)字保護(hù)上，讓農(nóng)村孩子也能享受到優(yōu)質(zhì)、安全的數(shù)字應(yīng)用工具和相關(guān)素養(yǎng)教育。其次，還應(yīng)探索將青少年數(shù)字保護(hù)納入鄉(xiāng)鎮(zhèn)、村社、學(xué)校的協(xié)同責(zé)任。

NBD：很多家長反映“管不住、不會管”，家庭、學(xué)校在數(shù)字素養(yǎng)教育上該如何分工？

郭媛媛：家庭是不可替代的第一道防線。人工智能時代，孩子面對的是高能量、高沉浸的技術(shù)環(huán)境。父母需要投入足夠多的時間和溫情，來替代機(jī)器給予孩子更多陪伴。同時，學(xué)校也應(yīng)進(jìn)一步加強青少年系統(tǒng)數(shù)字素養(yǎng)教育，提升其信息辨別、情緒管理、安全用網(wǎng)以及風(fēng)險求助等能力，這些都需要重點培育并加強訓(xùn)練。