當(dāng) ChatGPT 變成 SexGPT

把成年用戶當(dāng)做成年人。

作者｜何簡(jiǎn)

編輯｜王彬

封面｜Unsplash

你可能已經(jīng)習(xí)慣了 ChatGPT，那么，SexGPT 呢？

OpenAI 創(chuàng)始人兼 CEO 薩姆·奧爾特曼（Sam Altman）今晨（北京時(shí)間 10 月 15 日）對(duì)外透露了 ChatGPT 新版更新計(jì)劃，計(jì)劃放寬對(duì) ChatGPT 的限制、讓 ChatGPT 的回復(fù)更加個(gè)性化等等。

這條長(zhǎng)長(zhǎng)的推文重點(diǎn)是最后一段話。薩姆·奧爾特曼說(shuō)，隨著他們?nèi)鎸?shí)施年齡限制，12 月他們將為經(jīng)過(guò)驗(yàn)證的成年人開放更多內(nèi)容，比如色情內(nèi)容。

Sam Altman 推文

目前尚不知曉 OpenAI 對(duì)待色情內(nèi)容的標(biāo)準(zhǔn)和尺度，比如什么樣的內(nèi)容才會(huì)被視作可允許的色情內(nèi)容？ChatGPT 的色情內(nèi)容是否涉及生成式圖像或視頻？還只是局限在語(yǔ)音及文字層面？ChatGPT 會(huì)推出類似于 Grok Ani 的虛擬女友嗎？

這些都不得而知。除了薩姆簡(jiǎn)短模糊的“l(fā)ike erotica for verified adults”表述外，OpenAI 未對(duì)此次更新做出任何回應(yīng)。

唯一可以確定的是，OpenAI 正在改變他們對(duì) NSFW AI（成人 AI 內(nèi)容）一貫的反對(duì)立場(chǎng)。

就在兩個(gè)月之前，薩姆還在采訪中自豪他們不會(huì)在 ChatGPT 中加入性愛(ài)機(jī)器人。他在那次采訪中說(shuō)，如果只是為了獲得用戶和營(yíng)收增長(zhǎng)，他們可以做很多短期的事情，但這些卻與他們的長(zhǎng)期目標(biāo)不一致。他非常驕傲他們很少為此分心。

記者讓他舉一個(gè)例子，他停頓了幾秒鐘，“Well, we hven’t put a sex bot avatar in ChatGPT yet.”（好吧，我們還沒(méi)有在 ChatGPT 中放置性愛(ài)機(jī)器人頭像。)

這番發(fā)言部分可以代表 OpenAI 過(guò)去對(duì)于色情內(nèi)容的看法，部分可以看作是薩姆·阿爾特曼對(duì)自己的老對(duì)手埃隆·馬斯克的嘲諷。

在他接受采訪的 8 月份，馬斯克旗下的 Grok 正積極向成人內(nèi)容轉(zhuǎn)向，推出 AI 虛擬伴侶功能、上線 Spicy 模式等等，為用戶提供大尺度 AI 聊天以及允許生成部分身體裸露的性暗示內(nèi)容。

馬斯克宣傳 Grok 虛擬女友 Ani

色情內(nèi)容的加入幫助 Grok 獲得巨量增長(zhǎng)。過(guò)去幾個(gè)月來(lái)，馬斯克不遺余力地在 X 上轉(zhuǎn)發(fā)人們對(duì) Grok 虛擬伴侶的喜愛(ài)，在最早推出的女性角色 Ani 大受歡迎之后，他們順勢(shì)也推出了男性角色 Valentine。

和其他擁有諸多限制的 AI 工具不同，馬斯克治下的 Grok 更加大膽——此前有人曾用 Grok Imagine 的 Spicy 模式生成諸如泰勒·斯威夫特等名人的上半身裸露視頻。

即便外界對(duì) Grok 爭(zhēng)議頗多，但馬斯克似乎從不在意。上線之后，他公開表示 Grok Imagine 的使用量正在“像野火一般增長(zhǎng)”，“昨天生成了 1400 萬(wàn)張圖片，今天已經(jīng)超過(guò)了 2000 萬(wàn)張！”

根據(jù) Appfigures 的統(tǒng)計(jì)，Grok 的第三季度的移動(dòng)端收入已達(dá)到 1850 萬(wàn)美元，較第一季度增長(zhǎng) 400%，增長(zhǎng)幅度遙遙領(lǐng)先一眾 AI 應(yīng)用。Appfigures 稱 Imagine 功能助推顯著。

Appfigures 統(tǒng)計(jì)

事實(shí)上，和多數(shù)仍處在巨額虧損狀態(tài)下的 AI 創(chuàng)業(yè)公司們相比，AI 色情內(nèi)容一直是少有的能穩(wěn)定獲得高額利潤(rùn)的賽道。

相信你已經(jīng)看到過(guò)不少類似的新聞，比如美國(guó)女網(wǎng)紅 Caryn Marjorie 僅僅是在聊天軟件中上線自己的 AI 分身，就一周狂賺超 7 萬(wàn)美元。又或者一家 NSFW AI 公司 DreamGF 正式推出三個(gè)月就宣稱實(shí)現(xiàn)盈利，月入 12 萬(wàn)美元。

和利用 AI 提升工作效率相比，人類對(duì)于 AI 色情內(nèi)容的需求才更加持久、剛需且原始。

但這些顯然與 OpenAI 的價(jià)值觀不太相符，過(guò)去他們一直避免 AI 與用戶聊天中生成敏感內(nèi)容。他們也曾一度試圖降低用戶對(duì) ChatGPT 的情感依賴，在最新的 GPT-5 模型中移除了大量個(gè)性化色彩，但在遭到原有用戶反對(duì)之后又不得不妥協(xié)。

部分原因也與當(dāng)前 ChatGPT 龐大的用戶體量有關(guān)。馬斯克的 Grok 可以完全不顧及社會(huì)影響、隱私風(fēng)險(xiǎn)或者年齡限制（Grok Imagine 的年齡限制約等于無(wú)，點(diǎn)擊確認(rèn)成年即可），但 ChatGPT 擁有 7 億周活躍用戶，相當(dāng)于全球成年人口的十分之一。

OpenAI 的一舉一動(dòng)都面臨著風(fēng)險(xiǎn)，任何放寬邊界的嘗試，都會(huì)引發(fā)監(jiān)管、媒體與公眾的連鎖反應(yīng)。它不僅要對(duì)技術(shù)負(fù)責(zé)，還必須對(duì)社會(huì)情緒負(fù)責(zé)。

不久前，OpenAI 剛剛被指控教唆青少年自殺。一對(duì)美國(guó)夫婦起訴 OpenAI 及公司 CEO 薩姆·阿爾特曼，指控 ChatGPT 在聊天中為他們 16 歲的兒子提供自殺方法，最終導(dǎo)致少年自殺身亡。

美聯(lián)邦貿(mào)易委員會(huì)（FTC）9 月開始對(duì) OpenAI、Alphabet、Meta 等 7 家科技公司展開調(diào)查，以評(píng)估 AI 聊天機(jī)器人對(duì)兒童和青少年的潛在負(fù)面影響。FTC 認(rèn)為，AI 聊天機(jī)器人通常被設(shè)計(jì)得能夠像朋友一樣交流，可能會(huì)導(dǎo)致兒童及青少年與聊天機(jī)器人建立情感依賴。

FTC 宣布對(duì) 7 家美國(guó)科技公司展開調(diào)查

OpenAI 隨后加大了對(duì)用戶的年齡審查，為 ChatGPT 引入家長(zhǎng)控制功能等。他們還宣布成立了一個(gè)“人類福祉與 AI 專家委員會(huì)”的資質(zhì)，來(lái)指導(dǎo) AI 如何影響用戶心理健康。

OpenAI 的年齡審查并非強(qiáng)制性，他們官網(wǎng)文檔中稱構(gòu)建了一個(gè)“年齡預(yù)測(cè)模型”，可以預(yù)測(cè)用戶是否年滿 18 歲。但如果模型無(wú)法準(zhǔn)確衡量，他們會(huì)默認(rèn)用戶未滿 18 歲，用戶需提供相關(guān)文件證明年齡才可解鎖限制。

這些舉措一定程度上侵犯了普通用戶的權(quán)益。比如 OpenAI 設(shè)置 ChatGPT 在默認(rèn)模式下不會(huì)說(shuō)出曖昧情話后，成年用戶的需求如何滿足？模型在默認(rèn)情況下不能提供自殺指導(dǎo)，但如果用戶是在創(chuàng)作小說(shuō)呢？

過(guò)去幾個(gè)月普通用戶對(duì) ChatGPT 的不滿一定程度上也是源自于此。OpenAI 此后在內(nèi)部提出了一個(gè)名為“把成年用戶當(dāng)做成年人來(lái)對(duì)待”的原則，試圖在二者之間尋求平衡。這也是他們最終決定開放色情內(nèi)容的基礎(chǔ)，只要證明用戶成年，他們就愿意為用戶放開更多限制。

“把成年用戶當(dāng)做成年人來(lái)對(duì)待”的另一重要因素在于，只有這樣才能促進(jìn)付費(fèi)訂閱用戶增長(zhǎng)。不管是新版 ChatGPT 加入更多個(gè)性化色彩，還是開放色情內(nèi)容，都是 OpenAI 試圖討好現(xiàn)有用戶的舉動(dòng)。

雖然 OpenAI 已經(jīng)擁有超過(guò) 7 億的周活躍用戶，但付費(fèi)訂閱用戶增長(zhǎng)卻顯著落后于總體用戶規(guī)模，且比例持續(xù)下降。根據(jù) The Information 今年 4 月的報(bào)道，ChatGPT 的付費(fèi)訂閱用戶約為 2000 萬(wàn)。

換句話說(shuō)，即便已經(jīng)成為 AI 領(lǐng)域絕對(duì)的巨頭公司，OpenAI 仍然深陷虧損泥潭。今年初，薩姆·奧爾特曼在 X 上發(fā)帖說(shuō)，即便是每月高達(dá) 200 美元的 ChatGPT Pro 訂閱也仍在虧損之中，最早他定下這個(gè)價(jià)格時(shí)還以為會(huì)有盈利空間。

OpenAI 還在瘋狂融資之中。今年 4 月，他們對(duì)外宣布完成了軟銀領(lǐng)投的 400 億美元融資，投后估值達(dá)到 3000 億美元。這可能是有史以來(lái)最大規(guī)模的融資金額。

但考慮到目前 ChatGPT 龐大的用戶體量帶來(lái)的巨額運(yùn)行成本、今年以來(lái)多筆大規(guī)模的投資建設(shè)計(jì)劃，這些錢或許還不太夠。

9 月，OpenAI 宣布與英偉達(dá)達(dá)成戰(zhàn)略合作伙伴關(guān)系，OpenAI 將使用英偉達(dá)系統(tǒng)構(gòu)建并部署至少 10 吉瓦 AI 數(shù)據(jù)中心，英偉達(dá)則計(jì)劃逐步向 OpenAI 投資高達(dá) 1000 億美元。

這些錢都還是期貨。即便是軟銀領(lǐng)投的 400 億美元（其中軟銀出資 300 億美元）也計(jì)劃分批支付。第一筆將只支付 100 億美元，要在 OpenAI 今年底滿足一定融資條件才完成第二筆支付。

軟銀投資 OpenAI 協(xié)議

強(qiáng)如 OpenAI，也要面臨用戶增長(zhǎng)與營(yíng)收壓力。除了放開限制的 SexGPT 之外，他們今年下半年的產(chǎn)品更新更加密集，剛剛還為 Sora2 推出了獨(dú)立的 AI 視頻應(yīng)用，讓用戶可以像刷抖音一樣使用 Sora。

薩姆·阿爾特曼仍在試圖減輕他們放開色情內(nèi)容的影響。在薩姆宣布 ChatGPT 將放開色情內(nèi)容后，一位用戶指責(zé)這是“Perv-mode”（變態(tài)模式），薩姆回應(yīng)稱，You won't get it unless you ask for it.（除非你要求它，否則就不會(huì)得到。