重構人機關系 情感陪伴AI迎來立法規(guī)制

《人工智能擬人化互動服務管理暫行辦法（征求意見稿）》是一部重構網(wǎng)絡科技與人機關系的法律秩序法，規(guī)制方向是平衡技術演進與用戶安全管理，預防AI擬人化帶來的負面侵權行為，核心理念是構建一套以人為本、權責清晰、科技向善的公共秩序和倫理。

文｜王風和

ID | BMR2004

人工智能驅動的擬人化互動服務能夠提供無條件的積極關注和情感支持，這種單向的、無風險的情感投注極易使用戶產生心理依賴。用戶在與AI的長期互動中，可能將情感寄托于虛擬世界，導致現(xiàn)實社交技能的退化，甚至引發(fā)社交焦慮。

正因如此，2025年12月，《人工智能擬人化互動服務管理暫行辦法（征求意見稿）》（以下簡稱《辦法》）全文公布，公開征求意見。該《辦法》通篇強化了權利意識、秩序意識，閃耀著以人為本、技術向善的價值觀。

《辦法》明確要堅持健康發(fā)展和依法治理相結合的原則，鼓勵擬人化互動服務創(chuàng)新發(fā)展，對擬人化互動服務實行包容審慎和分類分級監(jiān)管，防止濫用失控。

01

安全與發(fā)展并重

針對人工智能情感陪伴類AI服務，《辦法》態(tài)度明確，鼓勵發(fā)展并予以合理規(guī)制，體現(xiàn)了“安全與發(fā)展并重”的監(jiān)管思路?！掇k法》聚焦情感陪伴類AI可能帶來的沉迷、心理傷害、隱私泄露等風險，通過明確禁止性行為，如誘導自殺、情感操控等，以及針對未成年人、老年人等特殊群體的保護條款，將用戶安全置于首位。

與此同時，《辦法》對服務提供者的主體責任、數(shù)據(jù)管理、安全評估等提出系統(tǒng)性要求。

更重要的是，《辦法》強調不得將“替代社會交往、誘導沉迷依賴”作為設計目標，引導企業(yè)將技術研發(fā)重點轉向提供有價值的服務，促進技術與人文關懷的結合，體現(xiàn)了以人為本、引導技術向善的價值導向。

《辦法》的亮點在于將“防沉迷”和“心理危機干預”變成可執(zhí)行的規(guī)定，防止用戶形成AI癮，最終釀成苦果，并明確了在情感陪伴AI場景下的預防干預措施。

當用戶正在與人工智能而非自然人進行交互時，在關鍵節(jié)點（如初次使用、重新登錄）要動態(tài)提醒。在情感陪伴AI場景中，需在交互界面明顯位置（如聊天窗口、設置菜單）明確標注“AI身份”，避免使用可能誤導用戶認為是真人的話語或形象。例如，不能使用“我懂你”“我是你的朋友”等易引發(fā)認知混淆的表述，而應采用“我是AI陪伴助手”等清晰標識，避免誤認。

在時間管控上，當用戶連續(xù)使用服務超過2小時，平臺需以彈窗等方式動態(tài)提醒用戶暫停使用，并提供便捷的退出途徑，不得阻攔用戶主動退出。退出路徑應簡單直接，如設置“退出”按鈕，點擊后立即停止服務，不能設置復雜流程或誘導用戶繼續(xù)使用的隱蔽設計。

最關鍵的是心理危機干預機制，服務提供者須具備用戶狀態(tài)識別能力，當發(fā)現(xiàn)用戶存在極端情緒和沉迷傾向時，必須采取必要措施予以干預；當用戶明確提出實施自殺、自殘等極端行為時，如情緒識別算法檢測到用戶表達抑郁、絕望、有自殺傾向等極端情緒后，應立即觸發(fā)人工干預流程，由人工接管對話，并及時聯(lián)絡用戶監(jiān)護人、緊急聯(lián)系人，防止悲劇發(fā)生。

02

落地合規(guī)“四本賬”

《辦法》第十條提出，提供者開展預訓練、優(yōu)化訓練等數(shù)據(jù)處理活動時，應當加強訓練數(shù)據(jù)管理，要遵守“訓練數(shù)據(jù)合規(guī)”“用戶交互數(shù)據(jù)可追溯與刪除權”等要求。

從執(zhí)法與合規(guī)審計的角度，這類要求能否落地，關鍵不在于權利宣示，而在于能否形成可驗證、可復盤、可抽查的證據(jù)。結合《辦法》的條款設計，企業(yè)需要建立“四本賬”：一是訓練數(shù)據(jù)合規(guī)賬。要求對訓練數(shù)據(jù)的清洗、標注、日常檢查與迭代形成流程記錄，更關鍵的是來源合法、可追溯，要能落到“數(shù)據(jù)來源證明+授權鏈條+采購合同/開源許可+抓取規(guī)則+時間戳+責任人”的組合證據(jù)上。

二是數(shù)據(jù)安全與防泄露賬。訓練數(shù)據(jù)與交互數(shù)據(jù)要分級分類、加密，設置訪問控制，審計要留痕，形成安全審計報告與整改閉環(huán)。

三是交互數(shù)據(jù)治理賬。對用戶交互數(shù)據(jù)采取加密、安全審計、訪問控制，并提供刪除聊天記錄等歷史交互數(shù)據(jù)的選項（未成年人還涉及監(jiān)護人請求權特別規(guī)定）。

四是不用交互數(shù)據(jù)訓練的同意賬。原則上不得將用戶交互數(shù)據(jù)、敏感個人信息用于訓練，除非取得用戶單獨同意（未成年人還要符合法律授權的同意門檻與合規(guī)審計要求）。

同時，《辦法》對“全生命周期安全責任、運行監(jiān)測與風險評估、依法留存網(wǎng)絡日志”“上線/重大變更/用戶規(guī)模達到閾值的安全評估”“算法備案年度復審”等也提供了監(jiān)管抓手，監(jiān)管部門可以通過書面審查、現(xiàn)場檢查、約談整改等方式，倒逼上述證據(jù)鏈的固化。

03

厘清認知與歸責

情感陪伴AI容易導致主體認知混淆，最常見的混淆類型有四種。

一是主體混淆。用戶誤以為在與自然人交流，而非AI。《辦法》要求“顯著提示正在與人工智能而非自然人交互”,并在初次使用、重新登錄、識別到沉迷依賴等情況下動態(tài)提醒,就是針對這一風險點。

二是能力混淆。使用者把情感陪伴AI當成“專業(yè)心理咨詢”或“醫(yī)療建議”?！掇k法》要求平臺具備高風險傾向識別能力、必要時人工接管、提供專業(yè)援助方式。

三是關系混淆。表現(xiàn)為用戶把AI關系當成現(xiàn)實親密關系，出現(xiàn)依賴、沉迷、情感操控式消費。為此《辦法》明確禁止“情感陷阱”“誘導不合理決策”“控制用戶心理、誘導沉迷依賴作為設計目標”等行為。

四是身份或形象混淆。AI虛擬陪伴者被包裝為特定真實人物，如公眾人物、熟人或親屬，或讓用戶誤以為獲得某自然人授權背書，對老年人使用AI場景尤其需要特別注意。

根據(jù)最高人民法院最近公布的“AI陪伴軟件侵害人格權案”等司法案例，情感陪伴AI擅自使用自然人姓名、肖像創(chuàng)設虛擬陪伴者的行為，侵權定性呈現(xiàn)擴容趨勢。原有的侵權可能不是“只用了頭像或名字”,而是對“整體人格形象”的不當商業(yè)化利用，侵權范圍從個人名譽權糾紛擴容至商業(yè)盈利的侵權責任。

在“AI陪伴軟件侵害人格權案”中,法院的核心觀點非常清晰:用戶以原告姓名、肖像為標識創(chuàng)設“AI陪伴者”,并通過上傳表情包、制作互動素材進行“調教”,將姓名、肖像、人格特點綜合投射到AI角色上，形成了原告的虛擬形象；運營方對這一機制進行系統(tǒng)性功能設計與商業(yè)化利用，構成對人格權的侵害。更重要的是,該案對“平臺是不是技術中立”也給予了否定性評價：當平臺在算法設計與規(guī)則設定中嵌入主觀目的并組織用戶創(chuàng)設、傳播侵權虛擬形象時，不能簡單以“技術中立”免責。責任形態(tài)通常是“停止侵害+消除影響或賠禮道歉+賠償損失(含精神損害)”。

《辦法》實施后，預計爭議點會進一步“前置化”,平臺以“我不知道”抗辯的難度加大?！掇k法》如果按現(xiàn)有結構落地，會帶來三點實務變化，即提示義務、數(shù)據(jù)義務、風控義務被“明確寫進規(guī)制清單”,例如顯著提示AI身份、動態(tài)提醒、交互數(shù)據(jù)刪除選項、交互數(shù)據(jù)不得擅自用于訓練等，一旦缺位更容易被認定為“有制度性過錯”。監(jiān)管抓手更強,安全評估、算法備案、年度復審、約談檢查、應用商店上架核驗等,會讓平臺在訴訟中更難解釋“治理能力不足”。責任鏈條更清晰,應用分發(fā)平臺也被明確要求核驗安全評估或備案并采取下架等措施,未來在“平臺—分發(fā)—開發(fā)”之間的責任分配會更精細。

當用戶因情感陪伴AI產生認知混淆而遭受財產損失或精神損害時應以“誰控制風險、誰獲利、誰最接近證據(jù)”為主線。實務中常見會被同時納入審查的主體包括服務提供者或平臺運營方,他們通常是第一責任人，對產品設計、角色機制、內容治理、提示義務、未成年人或高風險干預、數(shù)據(jù)處理負有直接管理義務，《辦法》把安全主體責任、全生命周期責任重點壓在他們肩上。

《辦法》是一部重構網(wǎng)絡科技與人機關系的法律秩序法，《辦法》的規(guī)制方向是平衡技術演進與用戶安全管理，預防AI擬人化帶來的負面侵權行為，核心理念是構建一套以人為本、權責清晰、科技向善的公共秩序和倫理。這是一部在人工智能背景下的人權保護法案，也是一部公共秩序的保護法案，希望中國式立法的初衷能夠全面實現(xiàn)，為全球人工智能治理提供寶貴的東方經驗。