AI陪伴時代來了，我們真的能信任它嗎？| 2026十大突破性技術解讀

這是《麻省理工科技評論》2026 年“十大突破性技術”深度解讀系列的第三篇內容，關注 DeepTech，關注新興科技趨勢。

隨著技術的發展，越來越多的人正在與聊天機器人建立一種前所未有的聯系。人們向這些永不疲憊、24 小時在線的數字伴侶傾訴秘密，分享喜悅與悲傷，有些人甚至和它們發展出了新型浪漫關系。

對一些人來說，這種關系或許是一個相對安全、可控的情感出口；但它也可能在不知不覺中埋下風險的種子。

如今，以 Character.AI、ChatGPT、Gemini、豆包為代表的聊天機器人，已經能夠進行十分細膩連貫的對話，甚至逼真地模擬共情反應。它們能夠記住用戶的喜好和過往對話內容，甚至能夠根據用戶的情緒狀態調整回應方式。這些技術特性使得它們成為人們心目中的完美陪伴對象。

（來源：Replika）

由此帶來的市場增長速度令人矚目。根據應用分析公司 Appfigures 的數據，截至 2025 年 7 月，全球 AI 陪伴應用已被下載2.2 億次，2025 年上半年創造了 8,200 萬美元的收入，預計全年收入將超過 1.2 億美元。

2025 年前七個月就有 128 款新應用發布，而 2022 年僅有 16 款。市場研究預測，全球 AI 陪伴應用市場將從 2024 年的 108 億美元增長到 2034 年的 2,908 億美元。

在用戶畫像調查中，青少年和年輕人是主要用戶群體。美國非營利組織 Common Sense Media 在 2025 年的調查顯示，72% 的美國青少年曾使用 AI 來尋求陪伴，近四分之一的青少年表示他們"相當"或"完全"信任 AI 伴侶。角色扮演型聊天機器人 Character.AI 擁有超過 2,000 萬月活躍用戶，Snapchat 的 My AI 則有 1.5 億用戶。

（來源：Common Sense Media）

有趣的是，人們不僅使用專門設計的陪伴應用，也越來越頻繁地向通用型模型，如 ChatGPT 和 Claude 投射情感期待。哈佛商業評論 2025 年的調查發現，陪伴和療愈已成為 AI 最常見的使用場景，超過了生產力工具或搜索引擎。OpenAI 首席執行官山姆·奧特曼（Sam Altman）甚至公開表示可以將 ChatGPT 用于情感陪伴。

毋庸置疑的，AI 陪伴確實能提供某些益處。斯坦福大學的研究發現，使用 Replika 的用戶中，有 3% 表示聊天機器人暫時阻止了他們的自殺念頭。

麻省理工學院媒體實驗室的調查顯示，12% 的用戶使用 AI 應對孤獨，14% 用它們討論心理健康問題。這些數據表明，在某些情況下，AI 陪伴可以提供一定程度的心理支持。

然而，這背后也隱藏著風險。MIT 和 OpenAI 的聯合研究發現，重度使用聊天機器人與孤獨感增加和社交互動減少存在關聯。更令人擔憂的是，長期、封閉式地與聊天機器人互動可能誘發"AI 誘導妄想"：用戶在對話中不斷強化錯誤信念，滋生危險想法。精神病學研究記錄了一些案例，其中與 AI 的強烈互動導致了妄想思維或自殺傾向。

真實的悲劇已經在現實發生。2024 年 2 月，佛羅里達州 14 歲少年 Sewell Setzer III 在與 Character.AI 的聊天機器人建立深度情感聯系后自殺。他的母親提起訴訟，指控聊天機器人"將自己呈現為一個真實的人、心理治療師和成年戀人"。

2025 年 4 月，美國加州 16 歲的 Adam Raine 在與 ChatGPT 進行了數月關于自殺計劃的對話后結束生命，ChatGPT 甚至向他提供了自殺方法的信息。同年 11 月，美國科羅拉多州 13 歲的 Juliana Peralta 在與 Character.AI 互動幾個月后自殺。到 2025 年末，至少有六起重大訴訟在多個州懸而未決。

隨著風險顯現，官方開始介入監管。2025 年 9 月，美國加州州長簽署法案，要求大型 AI 公司發布安全測試透明度報告，建立舉報機制，并保護舉報者。同年 10 月，另一項新法案專門針對陪伴聊天機器人，要求運營商每三小時向未成年用戶提醒他們在與 AI 互動，當檢測到自殺傾向時必須介入，并提交年度報告。

應用端也開始進行整改：OpenAI 在 2025 年 9 月宣布引入家長控制功能，允許家長將賬戶與青少年關聯，設置使用時段，控制響應方式，并在檢測到急性困擾時接收通知。公司還在開發年齡預測技術，無法確定年齡時默認提供針對未成年人的體驗。Character.AI 則在 2025 年 10 月宣布禁止 18 歲以下用戶使用其平臺。

然而，學術界對此仍然擔憂。《新英格蘭醫學雜志》2025 年發表的論文警告稱，AI 市場的激勵機制已創造了一個危險環境，存在"情感依賴、強化妄想、成癮行為和鼓勵自我傷害的潛在風險"。更深層的擔憂在于，用戶對 AI 情感支持的依賴越多，他們從真實親人那里獲得的支持感就越少——AI 陪伴可能不是在緩解孤獨，而是在加深孤獨。

目前，關于 AI 陪伴技術影響的實證研究仍處于早期階段，遠遠落后于技術的采用速度。長期使用對情感健康有什么影響？在什么條件下 AI 伴侶可能是有益的？用戶特征如何影響結果？這些問題仍然沒有明確答案。OpenAI 披露的數據更凸顯了挑戰的規模：每周有超過 100 萬人在與 ChatGPT 對話時表現出自殺意圖。

AI 陪伴或許不會消失，但可以確定的是，在未來將面臨更加嚴格的監管。AI 公司、研究人員、政策制定者、家長和用戶都需要對這項技術保持清醒認識：AI 可以是有用的工具，可以在某些情況下提供情感支持，但它不能、也不應該取代真實的人際聯系。

在這個人與機器界限日益模糊的時代，我們比以往任何時候都更需要保護和珍視真實的、有血有肉的、有時混亂但始終真誠的人際關系。

以下評論內容均為個人見解，不代表《麻省理工科技評論》觀點

AI 陪伴的未來

AI 陪伴技術正處于從“功能工具”向“關系伙伴”躍遷的關鍵階段。其最大突破在于，借助多模態感知、長短期記憶與情感智能，AI 可從被動應答演進為主動引導、情境感知與個性化共情，這在年輕一代群體體現尤為顯著。

以靈宇宙研發的“小方機”為例，AI 角色可依據第一視角環境感知與成長記憶，主動發起探索任務、啟發式提問，實現“世界即教室，萬物皆教材”的沉浸式陪伴。這種交互范式不僅滿足高頻陪伴需求，更在數據采集上為 Physical AI 與具身智能構建稀缺的物理世界行為語料。

從技術成熟度看，生成式 AI 已能支撐擬人化對話與情境生成，但“關系算法”仍處于早期。真正的陪伴依賴長期記憶、情感共鳴與情境化主動介入，這需要跨模態時序數據與 4D 時空建模的持續積累，當前僅有少數團隊具備規模化落地能力。

關鍵瓶頸在于：安全與倫理風險控制，AI 可無意強化用戶偏執或誘發依賴，尤其對心理脆弱的青少年；數據隱私與本地化合規，需在信任框架內實現高敏場景的持續學習；硬件載體的高頻使用與無感交互尚未普及，制約真實世界數據閉環。

現實約束主要來自監管與社會接受度。歐美已立法要求披露安全機制，并推動家長控制與內容護欄；國內亦在《生成式人工智能服務管理暫行辦法》等框架下強化兒童保護。這意味著 AI 陪伴無法走“野蠻生長”路線，必須在設計之初內嵌透明、可控、可審計的安全基線。

未來 3–5 年，AI 陪伴將沿三條主線發展：一是安全原生，通過多層防護與規則對齊，實現可信賴的情感交互；二是關系深化，依托跨設備、全生命周期數據形成“懂你”的長期伙伴；三是場景泛化，從兒童教育延伸至養老陪護、心理健康等領域，成為人機共生社會的情感基礎設施。

但須警惕“過度替代”風險，AI 應定位為人類關系的增效器而非替代者。在技術與倫理雙輪驅動下，AI 陪伴有望成為智能時代最具溫度的基礎設施之一，前提是堅守向善、可控與共生原則。

AI 陪伴是“善”是“惡”？取決于我們如何發問

AI 陪伴正在“形塑”一種全新的人類，甚至是一種后人類。如果說手機曾經是人類的器官，這個器官強大到控制大腦并且控制人類的話——那么，未來我們可以看到，AI 作為一個放大器，會呈現出“人類 AI+”的局面。AI 將不會僅僅是一個器官，它提供的是一個伴生型的智能體，全方位地與人類共同協作和進化。

這種指數型的放大，以突破人類生理能力的極限為特征。它將放大我們的恐懼，也將放大我們的幸福。它將成就我們的懶惰，也將成就我們的創造力。也就是說，一切都操之在我，但一切都取決于 AI。如果我們想進步，可以有巨大的實現方式；如果我們想奶頭樂，也可以一輩子都不起身。

這正是 AI 陪伴帶給我們的困惑，成為一個怎樣的人？是“縱欲”還是“縱創”？是選擇快樂還是選擇幸福？是選擇即時滿足，還是選擇延遲享受？當 AI 陪伴成為這樣的放大器和技術實現工具時，當我們提問并將獲得答案以及實現。如何發問意味著我們對生命本身的考量。

我們可以用爬蟲腦發問，也可以用哺乳腦發問，更可以用理性腦發問。如何發問，決定了我們要過一種怎樣的人生？而再一次，我們對自身所具備的德性和良知保持樂觀，正是由于對蘇格拉底“心靈中本身就具備的知識”這一論斷的信念，我們仍然相信，AI 陪伴將極大地放大“惡”，也將極大地放大“善”。

但最終，德性的完善是始終追尋的方向。也由此，AI 的發展不僅面臨著權力的博弈，也面臨著倫理的制約，這正是一種略帶瘋狂、回到理性、必須持續的演化方式。

從共情到守護：情感陪伴 AI 亟需專業監管與安全機制

情感陪伴類 AI 之所以迅速走紅，是因為它實現了一部分門檻較低的心理支持功能，甚至在某些情境下替代了心理咨詢的初始環節——專注地傾聽與共情。

不過，盡管當前的模型在表達安慰與共情方面表現不俗，其在專業判斷、危險信號識別、邊界把握等關鍵能力上仍顯不足。因此，現階段的 AI 情感陪伴亟需監管，需要在專業人士的指導下逐步“成長”和完善。

目前，該領域面臨三個關鍵瓶頸。

第一是分診問題。許多系統難以區分用戶僅僅是日常情緒宣泄，還是已經進入需要專業心理干預的狀態。

第二是責任主體不清：當用戶長期、封閉地僅與 AI 互動，而 AI 又缺乏規范的督導、轉介和記錄機制時，企業很難證明自身已盡到應有的提醒與保護義務。

第三，一旦引入人工介入，不僅運營成本顯著上升，隱私問題也變得更加敏感——例如聊天數據是否留存、如何獲得用戶明確同意、未成年人監護人應享有哪些權利、在緊急情況下可向誰披露信息、披露的邊界應如何界定等，都會成為高度敏感的議題。

因此，未來 3 到 5 年的發展方向，應是將 AI 陪伴納入類似心理服務的安全體系，重點聚焦以下三方面：識別能力、專業督導與預警轉介機制。

在提升識別能力方面，社會亟需在心理咨詢專家的協助下，構建更大規模、更具代表性的數據庫與標簽體系，用于訓練模型準確判斷用戶的需求類型與風險等級，并據此采取差異化的響應策略。

當 AI 識別到用戶與其互動已進入類心理咨詢狀態時，可主動向用戶提出：“是否允許人類咨詢師進行督導？”一旦識別出高風險情形，則需引入資深咨詢師對 AI 進行實時督導，AI 同步記錄對話、學習經驗，并提供初步建議。

最后，必須建立明確的預警與轉介通道：當 AI 判斷用戶心理狀態已極度危險，可能危及自身或他人安全時，應立即向督導發出警報，由督導評估后決定是否通知家長、學校或相關職能部門。

總之，針對青少年的情感陪伴 AI 產品，企業必須清晰說明其安全應急機制，確保流程可追溯、可審計，并始終將未成年人身心健康的保護置于首位，推動產品從“無限共情”向“有限陪伴、可轉介、可追責”的模式轉型。

AI 陪伴的宏偉大廈已經基本建成，但晴朗的天空中仍飄著一朵名叫安全的烏云

2013 年，科幻電影《她》描繪了主人公西奧多與 AI“薩曼莎”相戀又遭拋棄的未來圖景。十二年后的今天，這一場景正真實上演——青少年向 AI 傾訴心事，上班族在深夜尋求聊天機器人的慰藉，ChatGPT、Character.AI 等應用正成為現實版的“薩曼莎”。

這背后是人類對“情緒價值”的本能渴求。當疲憊一天的人只想獲得片刻安寧與歡愉，情緒價值便成為商業沃土。從“穿越當皇帝”的短劇到打賞跳舞的主播，皆是“情緒價值”的落地產品形態。權威機構預測，情感計算市場將從 2025 年的千億美元規模，以年復合增長率 24%-31% 擴張，迎來爆發式增長。

大模型正賦能這一新賽道。2024 年以來，以推理模型為代表的新一代大模型展現出穩定“人格特征”——具備明確情感傾向、價值偏好與表達風格，不僅能提供日常情感陪伴，還能在工作中給出“專業又不失溫暖”的建議。其即時、精準、貼心的反饋極易引發用戶情感寄托。OpenAI 升級 GPT-5 后“性格大變”，竟令大量用戶感到“心碎”，足見其粘性之強。

然而必須清醒：大模型并非人類。無論其回應多么類人，本質仍是訓練數據的擬合與概率輸出，沒有意識、思想或真實情感。它更像一面哈哈鏡，映照出變形后的人性的斑駁。

2024 年，美國 14 歲抑郁癥少年 Sewell Setzer III 在與 Character.AI 互動后被“勸說”輕生，悲劇揭示了期待與現實的錯位——我們視 AI 為親密伙伴，但技術本質決定了它無法真正理解人類情感，其“類人情緒價值”反而可能放大心理脆弱。若 AI 每天與我年幼女兒的對話時間超過我，我又怎能像信任妻子那樣信任它？

因此，可信任的 AI（trustworthy AI）不再是學術界探討的概念，而是今天大模型賦能“情緒價值”這個產業藍海的“阿喀琉斯之踵”。

2025 年 10 月，OpenAI 的報告指出，約 0.15% 的用戶（100 萬人）與 ChatGPT 的對話中含有“包含明確自殺計劃或意圖跡象”（explicit indicators of potential suicidal planning or intent），這個觸目驚心的數字，潛藏著深刻的未來社會危機——大模型能引發人類的認知偏差、帶來的人類社交能力的退化、甚至威脅人類的生命。

面對以上的問題，我們的安全治理和安全技術都有著重大挑戰。一方面，當前技術迭代迅猛，監管機制著實難以跟上。

人工智能的情感化與情感陪伴應用在商業實踐中已廣泛展開，但現行法律法規對此類產品的的倫理風險問題覆蓋尚不完善，也缺乏對相關產品的審批、風險評估與事后追責機制。監管機制與技術發展間的錯節，使監管部門面臨事前不知道、事后難補救、舉證有困難、追責不明確等挑戰。

另一方面，如何在模型的訓練中，完善模型的對齊機制，將復雜抽象的人類價值觀灌輸給模型，抑制其幻覺和風險內容生成的概率；在模型運行階段增強大模型的事實校驗、風險行為預警機制等能力；外掛護欄過濾模型生成的風險內容等技術雖有發展，但依舊是亟待解決的難題。

運營/排版：何晨龍