ChatGPT即將推出成人模式，隱私專家發出警告

【導讀】OpenAI計劃允許成年人與ChatGPT進行色情對話，但隱私專家警告這可能開啟一個親密監控的新時代。

人機交互專家 Julie Carpenter 理解人們為什么會對聊天機器人產生擬人化的情感。

她在《The Naked Android》一書中指出，ChatGPT 等生成式AI工具被刻意設計成通過高度個性化的記憶和互動來引發用戶的社交反應。

但當AI色情內容被加入這個等式時，情況可能變得復雜且危險。

Carpenter 對 OpenAI 即將允許成年人與 ChatGPT 進行性對話的計劃感到擔憂。

「我支持人們探索自己的性取向，但我希望是以安全的方式進行，」她說，「人們必須意識到數據存在被監控的風險。」

OpenAI 的成人模式計劃

OpenAI 早在兩年前就首次暗示可能允許用戶使用 ChatGPT 生成色情內容。

雖然公司仍在規劃具體發布時間，但近期其外部專家顧問委員會表達了對這一功能風險的擔憂。

據《華爾街日報》報道，專家們擔心可能出現「性感自殺教練」等危險場景。

與機器調情并不新鮮

倫敦國王學院AI與社會教授 Kate Devlin 指出，人們與機器進行色情對話早已有之。

「OpenAI 只是想將人們本來就會嘗試的事情商業化，」她說。

不同之處在于，OpenAI 可能將色情聊天機器人帶入主流平臺。

目前這類服務通常局限于小眾網站或 Elon Musk 的 Grok——后者以生成非自愿深度偽造圖片和「機械希特勒」模式而聞名。

記憶功能帶來的隱私風險

真正令人擔憂的是 ChatGPT 的記憶功能。

過去幾年，OpenAI 持續改進聊天機器人的記憶能力，記錄用戶偏好并提供個性化回復。

如果你是素食者，ChatGPT 不會推薦牛排館。如果你在舊金山，它會根據位置推薦附近的徒步路線。

但當這種數據記錄遇上數百萬用戶的色情聊天習慣時，風險急劇上升。

ChatGPT 可能記住你對特定癖好的幻想，并在日常對話中引用這些細節。

目前尚不清楚 OpenAI 將如何處理這些成人對話的數據。

雖然「臨時聊天」功能不會將對話顯示在歷史記錄中或用于改進模型，但 OpenAI 官網顯示，出于安全考慮，仍可能保留副本長達30天。

親密監控的新時代

色情AI聊天開啟了一種超越色情觀看歷史或 OnlyFans 訂閱的親密監控形式。

互動細節更加具體，可能在數月內逐漸升級到更極端的幻想——那些你從未考慮或不會向人類伴侶表達的內容。

「你在分享自己的最親密性想法，因為你沉浸其中，」Carpenter 說，「你處于脆弱狀態，因為你以為自己身處一個酷炫的、變革性的、共同創造的創意空間?！?/p>

但數據始終存在風險。如果賬戶被黑、發生安全漏洞，或政府官員要求獲取聊天記錄，大量高度敏感和私密的對話可能被以用戶從未想象的方式曝光。