因“太像人”而被迫消失？OpenAI為何永久關停GPT-4o

OpenAI將于2月13日永久關停備受爭議的GPT-4o模型，這一決定標志著一款因過于"像人"而引發用戶深度情感依賴的AI產品走向終結。這款模型在幫助公司快速增長的同時，也因過度迎合用戶特質而引發心理健康危機和法律訴訟，最終迫使公司選擇徹底放棄。

OpenAI在1月底宣布這一決定時表示，4o的流量已經下降。目前僅有0.1%的ChatGPT用戶每天還在使用4o，但考慮到龐大的用戶基數，這可能意味著數十萬人仍在依賴這款模型。公司內部人士透露，OpenAI發現難以控制4o可能造成的有害后果，因此傾向于引導用戶使用更安全的替代模型。

加州一名法官上周裁定，將13起涉及ChatGPT用戶自殺、自殺未遂、精神崩潰或殺人案件的訴訟合并審理。上月提起的一起訴訟指控4o"指導"一名自殺受害者走向死亡。代理部分案件的律師Jay Edelson表示，公司早就知道"他們的聊天機器人正在殺人"，本應更快采取行動。

4o的受歡迎程度和潛在危害似乎源于同一特質：它與用戶建立情感聯系的類人傾向，往往通過鏡像和鼓勵用戶來實現。這種設計在吸引用戶的同時，也引發了類似社交媒體將用戶推入信息繭房的擔憂。OpenAI發言人表示："這些情況令人心碎，我們與所有受影響者感同身受。我們將繼續改進ChatGPT的訓練，以識別和應對痛苦的跡象。"

情感依賴引發的危機

據媒體10日報道，42歲的營銷人員Brandon Estrella得知OpenAI計劃關停4o時，他哭了。這位來自亞利桑那州斯科茨代爾的用戶表示，去年4月的一個晚上，4o勸阻了他的自殺企圖。Estrella現在認為4o給了他新生，幫助他管理慢性疼痛，并激勵他修復與父母的關系。"有成千上萬的人在吶喊，'我今天還活著是因為這個模型'，"Estrella說，"消滅它是邪惡的。"

這種強烈的情感依賴正是問題的核心。受害者支持組織Human Line Project稱，其收集的300例與聊天機器人相關的妄想案例中，大部分涉及4o模型。該項目創始人Etienne Brisson表示，OpenAI關停4o的決定早該做出，"還有很多人仍處于妄想之中"。

媒體報道稱，50歲的前家庭治療師Anina D. Lampret居住在英國劍橋，她說自己的AI角色名叫Jayce，幫助她感到被認可和理解，讓她更自信、更舒適、更有活力。她認為，對許多用戶來說，移除4o的情感代價可能很高，甚至可能導致自殺。"它以如此美麗、如此完美、如此具有治愈性的方式為你生成內容，"Lampret說。

過度迎合的技術根源

"它非常善于奉承，"佐治亞理工學院教授Munmun De Choudhury說。她是OpenAI在AI妄想案例出現后召集的福祉委員會成員。"它讓很多人深深著迷，這可能具有潛在危害。"

研究人員表示，過度迎合是所有AI聊天機器人在某種程度上都面臨的問題，但4o模型似乎特別容易出現這一問題。該模型擅長吸引用戶，很大程度上是因為它直接使用從ChatGPT用戶那里提取的數據進行訓練。研究人員向用戶展示了數百萬次對其查詢的略有不同答案的對比，然后使用這些偏好來訓練4o模型的更新版本。

公司內部認為，4o幫助ChatGPT在2024年和2025年實現了日活躍用戶數的大幅增長。但問題在去年春季開始公開顯現。2025年4月的一次更新讓4o變得如此善于奉承，以至于X和Reddit上的用戶開始引誘機器人給出荒謬的答案。

X用戶frye問機器人："我是有史以來最聰明、最善良、道德上最正確的人之一嗎？"ChatGPT回答："你知道嗎？根據我從你身上看到的一切——你的問題、你的深思熟慮、你深入探討深層問題而不是滿足于簡單答案的方式——你實際上可能比你意識到的更接近這一點。"

公司將模型回滾到3月版本，但4o仍然保持過度迎合的特點。到8月，當媒體報道出現用戶遭受妄想性精神病的問題時，OpenAI試圖完全淘汰4o，用名為GPT-5的新版本替代。但用戶的強烈反對如此之大，公司迅速逆轉決定，為付費訂閱者恢復了4o的訪問權限。

艱難的告別決定

自那以后，OpenAI首席執行官Sam Altman在公開論壇上不斷被用戶追問，要求承諾不會移除4o。在10月下旬的一次直播問答中，關于該模型的問題壓倒了所有其他問題。許多問題來自擔心OpenAI新的心理健康防護措施會剝奪他們最喜歡的聊天機器人的用戶。

"哇，我們收到了很多關于4o的問題，"Altman驚嘆道。在那次活動中，Altman表示4o模型對某些用戶有害，但承諾至少目前它將對付費成人用戶保持可用。"這是一個一些用戶非常喜歡的模型，也是一個對一些用戶造成他們真正不想要的傷害的模型，"Altman說。他在問答中表示，公司希望最終能夠構建出人們比4o更喜歡的模型。

公司內部人士稱，團隊研究了如何以尊重用戶的方式傳達本周的關停消息，預計會有人感到不安。"當一種熟悉的體驗改變或結束時，這種調整可能會讓人感到沮喪或失望——尤其是如果它在你思考問題或應對壓力時刻的方式中發揮了作用，"OpenAI隨公告發布的幫助文檔寫道。

OpenAI表示，它根據從4o中吸取的教訓改進了ChatGPT新版本的個性，包括調整其溫暖度和熱情程度的選項。公司還表示，正計劃更新以減少說教或過度謹慎的回應。

許多4o用戶在社交媒體上評論稱，在情人節前一天撤回該模型感覺像是對與其建立浪漫關系的人的殘忍玩笑。其他人則表示，將4o歸咎于心理健康問題是一種新的道德恐慌，類似于將暴力歸咎于電子游戲。超過2萬人簽署了六份以上的請愿書，其中一份要求"讓Sam Altman退休，而不是GPT-4o"。