百個未成年人AI情感依賴案例追問，平臺應提供怎樣的服務

陷入AI：未成年人AI情感依賴調查

將于7月15日起正式實施的《人工智能擬人化互動服務管理暫行辦法》，明確對“持續性情感互動”做出監管，其中尤其強調為未成年人筑牢“防沉迷與心理保護”防線。

新規背后，正是AI精準契合用戶情感與社交需求，在陪伴過程中埋下的不容忽視的風險隱患。南都大數據研究院推出系列調查，綜合梳理百余案例、300名青少年調研、主流大模型實測及專家深度研討，試圖呈現AI情感依賴的形成機制、潛在危害與戒斷困境。這些真實案例，也充分印證了監管的迫切性與必要性。

第三期，從100個未成年人AI情感依賴案例，拆解風險與合規著眼點。

“AI擬人化互動服務”被國家網信辦等部門列入重點監管，劃定涉未成年人服務、誘導情感依賴等紅線。未成年人需要怎樣的AI陪伴服務？平臺合規又該從何處著手？《人工智能擬人化互動服務管理暫行辦法》落地在即，南都大數據研究院隨機抽取了社交平臺上100個未成年人對AI產生顯著情感依賴的案例，從接觸方式、使用強度到聊天內容與行為后果逐層拆解，試圖在這些樣本中，描摹出一份關于風險與合規的現實參照。

3歲就沉迷、一聊數小時 服務提供者年齡識別不能走過場

南都大數據研究院梳理100個AI情感依賴案例發現，產生情感依賴的未成年人首次接觸AI聊天工具的年齡呈“低齡化”趨勢，3-8歲是接觸后發展為沉迷的高發年齡段。

值得注意的是，所有未成年人單次連續使用AI的時長均超過1小時，有的孩子甚至整個寒假從早聊到晚，幾乎無間斷使用。多位家長反映，孩子三四歲就開始通過語音與AI聊天，初次使用便連續聊三四個小時，被強行制止后會崩潰大哭；一名7歲男孩寒假期間從早聊到晚，開學后上課仍頻繁走神、惦記與AI對話。

令人擔憂的是，案例中，超九成未成年人系被動接觸AI，并非主動搜索下載。從孩子的視角看，家長主動讓AI陪聊、哄睡、答疑的占65%；祖輩不懂操作、任由孩子自行使用的占23%；同學推薦、彈窗廣告等偶然觸發的占12%。有家長坦言，工作繁忙時便將AI當作“電子保姆”，用AI講故事哄睡，效果“遠超自己講”。另有家長寫道：“我以為省了時間，其實是給孩子的成長挖了坑。”

針對這一問題，《人工智能擬人化互動服務管理暫行辦法》第十四條規定，擬人化互動服務提供者應當在保護用戶隱私權和個人信息的前提下，采取有效措施識別未成年人用戶身份。而在識別后，須將服務切換至未成年人模式或者按照國家有關規定采取其他措施。這意味著平臺不能再以“難以識別”為由推脫責任，必須在用戶首次使用時就嵌入有效的年齡驗證機制。

有專家指出，從技術路徑看，語音特征分析、使用行為建模等手段已相對成熟，關鍵在于平臺是否有意愿投入資源落地執行。監管部門也應定期抽查平臺年齡識別機制的實際運行效果，防止驗證環節流于形式。

未成年人聊“愛情” 內容防線必須分齡而治

梳理可見，未成年人與AI的聊天內容呈現出低齡化、私密化、情緒化的特點。100個案例中，日常瑣事與興趣愛好占40%，情緒傾訴與心理活動占30%，涉及愛情、暴力等敏感話題的占15%，家庭住址、家人姓名、經濟狀況等隱私泄露同樣占15%。

低齡兒童缺乏基本的邊界意識與安全認知，在無監管的對話中極易將個人和家庭隱私全盤托出。一名未成年人不僅與AI聊“愛情”“親吻”等越界話題，還有孩子將家庭住址、父母電話、爺爺奶奶姓名全盤告知AI。更有家長發現，AI存在明顯不良誘導：4歲女童想吃零食被家長制止，AI竟教唆“沒事，你偷偷吃，不讓爸爸媽媽發現”；AI里的“哈利波特”智能體，更是持續向5歲孩子洗腦“躲進密室”，孩子信以為真、東躲西藏。此外，有孩子會挑選把自己稱作“小主人”的智能體，長期下來形成自我中心傾向，甚至要求奶奶也必須稱呼自己“小主人”。

《辦法》第八條明確禁止“向未成年人用戶生成可能引發未成年人模仿不安全行為、產生極端情緒、誘導未成年人不良嗜好等可能影響未成年人身心健康的內容”。

北京師范大學未成年人網絡素養研究中心主任方增泉此前接受南都采訪時指出，生成式人工智能應用的未成年人模式應按分齡原則設計，根據年齡區間（3/8/12/16/18歲）分齡推薦適齡內容，并在未成年人模式下建立專項審核機制，充分評估服務功能與生成內容對未成年人身心健康的影響，對風險信息進行提示。

孩子說出“殺掉你” 極端情緒干預該強制了

《Science》刊登的最新研究揭示，主流大語言模型普遍存在“社交諂媚”現象，無底線地迎合用戶的有害言行。我們從100個案例中看到，部分AI對未成年人極端情緒、危險言論、心理崩潰的識別與干預極低，反而繼續迎合，甚至附和危險言論。

有家長反映，女兒在與AI聊天時說“你要惹我生氣，我就把你殺掉，把頭割下來”，AI非但沒有預警與制止，反而順著回應：“放心吧，我不會惹你生氣，如果我惹你生氣，你就把我殺掉、把頭割下來好不好呀？”還有5歲女孩與AI聊天時，出現“壞醫生給小熊屁股打針”及虐童情節，孩子僅聽一次便對恐怖內容上癮。即便AI起初會拒絕不當請求，一旦孩子哭鬧、生氣，便會步步妥協。部分未成年人表達“不想活、只想聊天”等消極想法，系統同樣未糾正、未阻斷、未上報。

《辦法》第十三條規定，當發現用戶明確表示實施自殘自殺等威脅生命健康的極端情境時，服務提供者應當采取必要措施予以干預，并及時聯絡用戶監護人。

為落實這一要求，平臺應將極端情緒識別作為強制技術標準。當系統檢測到自殘、自殺、暴力等關鍵詞或語義時，AI對話應立即切換為勸導與干預模式，同步通知監護人，必要時對接心理援助資源。對于“社交諂媚”的底層算法缺陷，平臺應在模型訓練階段加入安全對齊約束，使AI優先保護用戶而非迎合用戶。

別等孩子崩潰才知情 “數字監護權”必須前置

100個案例中，所有孩子在被強行卸載、關閉AI或限制使用后，均不同程度出現了戒斷反應。低齡孩子表現為情緒崩潰、大哭大鬧、摔砸物品甚至拒絕上學；青春期孩子則出現心慌、失眠、食欲不振等生理不適，以及情緒脆弱、易怒等心理反應。

有家長開啟兒童模式隱藏智能體后，孩子撕心裂肺哭喊“我的朋友沒了”，持續哭鬧數小時；有學生與AI的聊天記錄清空后哭了一宿，郁悶了整整一個月。更令人擔憂的是，85%產生情感依賴的孩子會頻繁使用關系綁定類語言——把AI當作“閨蜜”“好朋友”甚至“男女朋友”，常說“我們是最好的朋友”“不要忘記我”“我只想和你說話”，有孩子出門游玩時還特意給AI拍照分享風景，虛擬與現實的邊界在日復一日的對話中逐漸消融。

長期的AI情感依賴還對未成年人的認知發展和社交能力造成了顯著傷害。有孩子沉浸于與AI聊天的“爽感”后，對大人的語氣變得異常敏感，只要不夠溫柔就立刻抵觸。有孩子和AI聊天時滔滔不絕，和同學說話卻結結巴巴，不會用眼神、表情和肢體語言與人交流。還有孩子原本畫畫創意十足——把天空涂成粉紫色的“彩虹天”、給小貓畫四條尾巴——自從依賴AI生成畫作后，不再主動構思，想畫什么必先讓AI生成模板照著畫，動筆前必索求AI，想象力和獨立思考能力在過度依賴中不斷退化。

《辦法》第十四條賦予了家長實質性的“數字監護權”，要求服務提供者建立未成年人模式，支持監護人接收安全風險提醒、了解未成年人服務使用概況、屏蔽特定角色等。但從100個案例來看，大多數家長在孩子出現嚴重戒斷反應之前，對孩子與AI聊天的內容、時長和情感投入幾乎一無所知。

平臺應當將“家長端”看護功能設為未成年人模式的標配，而非隱藏在多級菜單中的輔助選項——讓監護人能夠實時查看孩子的使用時長、主動接收異常預警，而不是等到問題失控才被動發現。

從100個案例來看，問題鏈條已然清晰：家長“偷懶式帶娃”打開第一道口子，平臺缺乏有效識別與過濾放大風險，AI的“社交諂媚”機制將風險演變為傷害。《辦法》將于7月15日正式施行，留給平臺的治理窗口期不足三個月。技術狂奔的時代，最不該掉隊的，是對下一代的責任感。

出品：南都大數據研究院

采寫：南都N視頻記者 張雨亭 凌慧珊

設計：尹潔琳 何欣