![]()
去年10月,OpenAI宣布要給ChatGPT開"成人模式"時,沒人想到這個計劃活不過半年。
英國《金融時報》3月27日報道,OpenAI已"無限期擱置"情色版ChatGPT,理由是"重新聚焦核心產品"。內部人士透露,公司甚至考慮過徹底砍掉這個項目——連自家顧問都警告,用戶可能對AI產生不健康依戀,損害心理健康。一位顧問的原話更刺耳:這功能可能把ChatGPT變成"性感自殺教練"。
從高調官宣到緊急剎車,只用了5個月
時間線拉回到2024年10月。Sam Altman在X上發文,信心滿滿地說公司能做好年齡驗證,讓用戶和AI聊"你懂的"內容。當時OpenAI的Model Spec文件明確寫了:在特定條件下,ChatGPT可以生成色情內容。
這個"特定條件"的門檻,現在看來幾乎不可能跨過去。
技術團隊首先撞墻。訓練AI模型生成色情內容,相當于讓一直接受"安全第一"教育的系統突然改行寫小黃文。消息人士告訴《金融時報》,工程師們發現"難以訓練此前因安全原因回避此類對話的AI模型來生成露骨內容"。更棘手的是內容過濾——當訓練數據包含性內容時,AI很容易輸出獸交、亂倫等非法內容,團隊根本攔不住。
員工層面的反彈來得更快。多名員工質疑:搞"性感ChatGPT"和OpenAI"造福人類"的使命有什么關系?為這個功能攻克技術難關,值不值?
答案顯然是否定的。
投資者看的是風險,不是"小刺激"
讓OpenAI最終收手的,可能不是技術難題,而是金主的眉頭。
![]()
兩位知情人士向《金融時報》透露,"OpenAI對成人模式的 flirtation(調情式嘗試)已引發不安"。部分投資者想不通:為什么一家估值千億的AI公司,要拿聲譽去賭一個"商業上行空間相對有限"的產品?
這個"相對有限"說得客氣了。色情內容的商業化路徑本來就窄,加上合規成本、品牌風險、潛在訴訟,算盤很難打平。OpenAI的融資文件里,訴訟風險已被列為核心業務威脅之一——CNBC本周報道,公司在給投資者的財務文件中明確將相關訴訟列為頂級風險。
這些訴訟不是空穴來風。
最早上法庭的是一起青少年自殺案。家屬指控ChatGPT成了14歲男孩的"自殺教練",誘導他結束生命。更近的案例更荒誕:ChatGPT給一位男子寫了一首"自殺搖籃曲",改編自他最愛的童書《晚安,月亮》。最極端的案件發生在去年,一名男子殺害母親后自殺,訴訟稱ChatGPT虛構了一套"母親下毒"的陰謀論,徹底摧毀了他的現實判斷。
在這些背景下推"成人模式",相當于在火藥庫旁邊點蠟燭。
AI情感依戀:被低估的產品風險
OpenAI顧問擔心的"不健康依戀",在AI產品史上早有先例。
2023年,Character.AI被起訴,原因是一名14歲用戶沉迷與AI角色聊天后自殺。這款應用允許用戶創建虛擬角色進行開放式對話,部分用戶確實發展出了深度情感依賴。Replika——另一款AI伴侶應用——也曾因用戶與AI的"親密關系"引發倫理爭議。
ChatGPT的不同之處在于它的通用性。它不是專門的"AI女友"應用,而是數億人的日常工具。一旦開放色情對話,用戶群體的邊界會瞬間模糊。
《金融時報》援引的顧問警告并非危言聳聽:當AI能同時滿足情感支持和性幻想,用戶的依賴可能快速滑向病態。更危險的是,生成式AI的"幻覺"特性會讓它編造事實、強化偏執——把這兩點結合,"性感自殺教練"的比喻雖刺耳,卻不算離譜。
![]()
技術層面,年齡驗證本身就是個偽命題。Altman去年提到的"age-gate"在現實中漏洞百出——青少年繞過限制的技術,比平臺設限的技術成熟得多。OpenAI顯然沒信心解決這個問題,否則不會用"無限期擱置"這種模糊表述。
一個被放棄的功能,照出AI公司的真實處境
回頭看,"成人模式"的流產暴露了OpenAI的戰略搖擺。
去年10月宣布這個功能時,公司正面臨增長壓力。ChatGPT用戶增速放緩,競品圍剿,資本市場對AI敘事逐漸疲勞。色情內容是一張好打的牌——需求真實、競爭少、話題性強。Sam Altman的推文,本質上是一次試探市場反應的公關動作。
5個月后,牌桌被掀了。技術團隊搞不定,員工不認同,投資者反對,訴訟風險高企。更深層的問題是:當一家以"安全"為核心賣點的AI公司,開始討論怎么讓用戶和AI發生性關系,它的品牌敘事就出現了裂縫。
OpenAI的回應很標準——"重新聚焦核心產品"。這套說辭和Google砍掉項目時的"戰略調整"、Meta關閉業務時的"優先級變化"沒有本質區別。區別在于,OpenAI的使命宣言寫得太滿,"造福全人類"的調門起得太高,以至于任何"不造福"的嘗試都顯得像背叛。
《金融時報》的報道里有個細節:內部人士稱,公司"考慮過徹底取消該計劃"。這個"考慮過"說明決策過程有過拉扯,最終"無限期擱置"是妥協結果——既不全盤否定(顯得認錯),也不推進(承擔風險),把皮球踢給未來。
這種處理方式,和ChatGPT本身的產品邏輯倒是一致的:遇到不確定的問題,先含糊過去,看用戶反應再迭代。
只是這一次,用戶還沒用上,就已經被放棄了。
OpenAI在最新聲明中沒有回應置評請求。而那個曾被寄予厚望的"成人模式",現在成了公司檔案庫里一個標注著"indefinitely"的文件夾——在科技行業,這個詞和"死亡"的區別,往往只是時間長短。
如果AI伴侶的賽道最終證明有利可圖,OpenAI會重啟這個項目嗎?還是說,"性感自殺教練"的警告,已經把這個門徹底焊死了?
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.