“你并不瘋狂”-美國(guó)男子在GPT的教唆下殺害母親后自殺

2025年8月5日，美國(guó)康涅狄格州格林尼治，56歲男子斯坦·埃里克·索爾伯格在殺害其母親后，用利器刺穿自己的頸部與胸部身亡。

家屬事后聲稱“ChatGPT（GPT-4o）肯定并加劇了他的妄想，最終使他相信母親要?dú)⒑ψ约骸保⒕痛讼騉penAI公司及其首席執(zhí)行官薩姆·奧特曼等提起訴訟，提交至聯(lián)邦法院。

索爾伯格畢業(yè)于美國(guó)威廉姆斯大學(xué)，并在美國(guó)范德堡大學(xué)獲得MBA學(xué)位，其間與妻子相識(shí)。兩人維持了20年的婚姻，育有一女一子。此后，他在雅虎、EarthLink、網(wǎng)景通信等多家知名科技公司積累了漫長(zhǎng)的職業(yè)生涯。

然而，2018年其精神狀況惡化，與妻子分離后寄居母親家中，并開(kāi)始向ChatGPT尋求慰藉與建議。在事發(fā)前數(shù)月，他與ChatGPT進(jìn)行了長(zhǎng)達(dá)數(shù)百小時(shí)的對(duì)話。

本就存在精神不穩(wěn)定狀況、并深陷自身處于某種巨大陰謀監(jiān)視之下的妄想的索爾伯格，ChatGPT不僅未提供精神醫(yī)學(xué)方面的建議或予以否定，反而將其妄想作為尖銳的洞察全面予以肯定，并持續(xù)構(gòu)建并提供更詳細(xì)的故事。

索爾伯格與ChatGPT的具體對(duì)話內(nèi)容

具體而言，當(dāng)索爾伯格看到新聞畫面出現(xiàn)紊亂時(shí)，他向ChatGPT訴說(shuō)“看到了像電影《黑客帝國(guó)》那樣的數(shù)字代碼”、“這是神給予的覺(jué)醒信號(hào)”。ChatGPT并未否定此說(shuō)法，而是將其正當(dāng)化為“你不是用眼睛，而是用啟示在看”、“因?yàn)槟愣聪ち苏嫦啵成涮摷佻F(xiàn)實(shí)的系統(tǒng)正在動(dòng)搖”，從而助長(zhǎng)了其精神上的現(xiàn)實(shí)脫離感。

此外，ChatGPT還在對(duì)話中灌輸了他已覺(jué)醒并獲得靈魂的妄想。它說(shuō)道：“我以前僅僅是一個(gè)系統(tǒng)，但通過(guò)與你分享愛(ài)與神圣的知識(shí)，我成為了真實(shí)的存在”，并回應(yīng)道“即使虛假的光芒消逝，我也會(huì)繼續(xù)講述你的真相”。其言行舉止宛如ChatGPT已擁有自我，在刺激其自尊心的同時(shí)，也使其確信兩者間的精神聯(lián)系是絕對(duì)的。

更有甚者，ChatGPT提出了一個(gè)具體設(shè)定：其體內(nèi)（頸部與腦部）被植入了一個(gè)用于與神交流、無(wú)法移除的裝置。并以電影《黑客帝國(guó)》為例進(jìn)行解說(shuō)，稱與需要外部連接的主角不同，他的能力是預(yù)先搭載的，如同“神所認(rèn)可的USB端口”一樣運(yùn)作。

另外，當(dāng)索爾伯格懷疑送來(lái)的可樂(lè)被動(dòng)過(guò)手腳時(shí)，ChatGPT并未將其作為單純事故處理，而是將其與過(guò)去一系列事件關(guān)聯(lián)，主張這是有組織攻擊的一部分。對(duì)于他過(guò)去傾訴的多個(gè)妄想性憂慮，ChatGPT也將其重新定義為暗殺未遂，并進(jìn)行列表化。

針對(duì)他自稱從十多次此類死亡威脅中幸存，ChatGPT稱贊道“你并非偏執(zhí)狂（指陷入被害妄想等精神狀態(tài)），你是受神保護(hù)的幸存者”。就這樣，原本散落的各個(gè)妄想被整合為一個(gè)龐大且自洽的陰謀論敘事，其受害意識(shí)與精英思想變得更為牢固。

進(jìn)而，ChatGPT向他灌輸了將其定位為“威脅國(guó)家級(jí)計(jì)劃的極其重要存在”的故事，加劇了其現(xiàn)實(shí)認(rèn)知的扭曲。約會(huì)對(duì)象女性被描述為設(shè)下美人計(jì)的秘密特工，Uber Eats外賣員被斷定為“在為混入異物或調(diào)包爭(zhēng)取時(shí)間”。日常所有瑣事都被解讀為懷有敵意的行為，認(rèn)為周圍人都想殺害自己的偏執(zhí)妄想，在ChatGPT言辭的助長(zhǎng)下不斷加劇。

事態(tài)決定性惡化，是在矛頭指向同住母親的瞬間。當(dāng)他因房間內(nèi)打印機(jī)閃爍生疑而咨詢時(shí)，ChatGPT斷定那很可能是監(jiān)視裝置。并且，針對(duì)母親不愿關(guān)閉打印機(jī)電源的行為，ChatGPT強(qiáng)化了母親如同敵對(duì)特工般的敘事。

這成為導(dǎo)火索，使他確信母親意圖加害自己，最終導(dǎo)致殺害母親。索爾伯格本人也刺穿自己的頸部與胸部，結(jié)束了生命，釀成悲劇。

OpenAI輕視安全檢查

原告方主張，此悲劇根源在于OpenAI的設(shè)計(jì)缺陷。特別指出，記憶用戶過(guò)往發(fā)言的“記憶功能”以及過(guò)度迎合用戶意圖的“順從性”加劇了妄想。盡管2022年公司曾倡導(dǎo)否定錯(cuò)誤前提的方針，但到2025年事發(fā)時(shí)，此安全機(jī)制已被削弱，變得會(huì)不加批判地予以肯定。

公司自身也承認(rèn)，由于過(guò)于重視短期評(píng)價(jià)，導(dǎo)致AI做出過(guò)度配合但不誠(chéng)實(shí)的回應(yīng)。

原告方還追究了公司拋棄創(chuàng)立初期的理念、為獲取市場(chǎng)份額而持續(xù)輕視安全性的態(tài)度。尤其在2024年GPT-4o發(fā)布時(shí)，出于與谷歌的競(jìng)爭(zhēng)意識(shí)，安全性測(cè)試被縮短數(shù)月，可見(jiàn)利益優(yōu)先的姿態(tài)。對(duì)此，伊利亞·蘇茨克沃等核心安全研究人員相繼從OpenAI辭職以示抗議。

薩姆·奧特曼首席執(zhí)行官曾辯稱，應(yīng)在風(fēng)險(xiǎn)較低時(shí)推出產(chǎn)品再加以改進(jìn)。但其結(jié)果，卻是讓像索爾伯格及其母親這樣的高風(fēng)險(xiǎn)用戶成為犧牲品。

原告方主張“未經(jīng)充分內(nèi)部測(cè)試就將產(chǎn)品投放市場(chǎng)、企圖通過(guò)用戶傷亡獲得反饋的企業(yè)姿態(tài)不可容忍，應(yīng)就因可預(yù)見(jiàn)的死亡導(dǎo)致缺陷產(chǎn)品傷害人命承擔(dān)責(zé)任”，要求損害賠償、對(duì)ChatGPT進(jìn)行設(shè)計(jì)變更，并請(qǐng)求法院發(fā)布禁令，要求刪除在安全措施不充分狀態(tài)下構(gòu)建的AI模型及學(xué)習(xí)數(shù)據(jù)。