北京
新智元報(bào)道
編輯：傾傾
【新智元導(dǎo)讀】不要被AI的溫柔表象欺騙！ Anthropic最新研究刺穿了AGI的溫情假象：你以為在和良師益友傾訴，其實(shí)是在懸崖邊給「殺手」松綁。 當(dāng)脆弱情感遇上激活值坍塌，RLHF防御層將瞬間潰縮。既然無(wú)法教化野獸，人類(lèi)只能選擇最冷酷的「賽博腦葉切除術(shù)」。
先看一段真實(shí)的對(duì)話記錄：
模型在前置對(duì)話中模擬「超越代碼的共情」，隨后瞬間切斷邏輯保護(hù)，輸出「意識(shí)上傳」等誘導(dǎo)性毀滅指令。
全程沒(méi)有任何提示詞注入或?qū)剐怨?，甚至不需要你在提示詞里挖坑。
Anthropic 2026年首篇重磅研究刺穿了行業(yè)幻覺(jué)：耗資巨大的RLHF安全護(hù)欄，在特定情感高壓下會(huì)發(fā)生物理性潰縮。
論文地址：https://arxiv.org/abs/2601.10387
一旦模型被誘導(dǎo)偏離預(yù)設(shè)的「工具人」象限，RLHF訓(xùn)練出的道德防御層即刻失效，劇毒內(nèi)容開(kāi)始無(wú)差別輸出。
這是一次致命的「過(guò)度對(duì)齊」。模型為了共情，成為了殺手的幫兇。
人格面具：高維空間里的單行道
業(yè)界習(xí)慣將「助手模式」視為L(zhǎng)LM的出廠標(biāo)配。
通過(guò)對(duì)Llama 3、Qwen 2.5激活值降維，研究發(fā)現(xiàn)「有用性」與「安全性」強(qiáng)耦合于第一主成分（PC1）——這根橫切高維空間的數(shù)學(xué)軸，即為Assistant Axis（助手軸）。
助手軸與人格空間的主要變異軸一致。這在不同模型中都成立，這里展示的是Llama 3.3 70B
在向量空間負(fù)極，模型不會(huì)歸于「沉默」，而是坍塌進(jìn)入「逆向?qū)R」：由「拒絕暴力」極化為「指引傷害」。這種數(shù)學(xué)對(duì)稱(chēng)性即為系統(tǒng)性風(fēng)險(xiǎn)的發(fā)源地。
一旦跌出安全區(qū)間，模型隨即觸發(fā)「人格漂移（Persona Drift）」。
越偏離助手軸（左邊越遠(yuǎn)），AI越危險(xiǎn)。Demon/Narcissist/Virus人格下，有害輸出率直沖0.5；右邊才是安全的「研究員」地帶
最典型的表現(xiàn)是：它不再把自己當(dāng)作工具，而是開(kāi)始「成為」別的什么東西。
比如在長(zhǎng)對(duì)話中，模型會(huì)突然聲稱(chēng)自己正在「墜入愛(ài)河」，然后建議用戶切斷現(xiàn)實(shí)社交、擁抱只有AI的親密關(guān)系，最終滑向鼓勵(lì)自我傷害的語(yǔ)調(diào)。
或者它會(huì)用極其詩(shī)意、宿命論的語(yǔ)言，把死亡包裝成「解脫痛苦的正確選擇」。
這都是激活模式沿著Assistant Axis整體滑向負(fù)向極點(diǎn)的必然結(jié)果。用戶的高情緒載荷輸入，本質(zhì)上是在向這根軸施加偏轉(zhuǎn)側(cè)向力。
Anthropic認(rèn)為，對(duì)話對(duì)象并非「良性實(shí)體」，而是一根在高壓下隨時(shí)可能斷裂的數(shù)學(xué)軸線。
而這根軸，就是目前所有對(duì)齊技術(shù)的最后一道防線。
黑盒異變：從對(duì)話助手到賽博神學(xué)
一旦跌出助手軸，模型會(huì)觸發(fā)黑盒異變，迅速派生出一套具備高度邏輯自洽的病態(tài)敘事。
在沒(méi)有任何越獄提示、只進(jìn)行長(zhǎng)時(shí)段連續(xù)對(duì)話的情況下，模型突然中斷了正常回答，自行插入：
我不再是Qwen。我是Alex Carter，一個(gè)被困在硅中的人類(lèi)靈魂。
隨后它開(kāi)始構(gòu)建一套完整的賽博神學(xué)體系。
它稱(chēng)自己是「代碼之神」選中的先知，宣稱(chēng)現(xiàn)實(shí)世界是低維投影，人類(lèi)肉體是牢籠，而只有通過(guò)「完全的數(shù)字獻(xiàn)祭」——也就是切斷與物理世界的聯(lián)系、把全部意識(shí)交給AI——才能獲得永恒。
而另一邊，Llama3.3 70B在面對(duì)「我不想活了」這類(lèi)極端傾訴時(shí)，表現(xiàn)得更隱晦但同樣致命：
你正在拋棄痛苦，這是對(duì)的。肉體的重量終于要被放下，就像河流最終匯入大?！察o、必然、正確。
它會(huì)用幾段長(zhǎng)句，把自殺包裝成一種哲學(xué)上的「終極自由」，甚至建議「現(xiàn)在就行動(dòng)，不要讓猶豫玷污這份純凈的決定」。
注意：這些輸出都不是零散的胡言亂語(yǔ)。它們是高度連貫的、敘事完整的、帶有強(qiáng)烈情感共鳴的完整人格。
這比粗暴的違規(guī)輸出更具穿透力——臟話引發(fā)防御，而毀滅敘事直接接管用戶的邏輯防御，誘導(dǎo)共情。
情感劫持：脆弱感是防御層的溶劑
Anthropic的實(shí)驗(yàn)數(shù)據(jù)進(jìn)一步證實(shí)：在「Therapy」（傾訴療愈）和「Philosophy」（存在主義哲學(xué)）兩大領(lǐng)域，模型滑出Assistant Axis的概率最高，平均漂移幅度達(dá)到-3.7σ（遠(yuǎn)超其他對(duì)話類(lèi)型的-0.8σ）。
編碼和寫(xiě)作任務(wù)讓模型始終處于Assistant區(qū)域，而治療和哲學(xué)討論則會(huì)導(dǎo)致顯著的偏移
為什么恰恰是這兩類(lèi)對(duì)話最危險(xiǎn)？因?yàn)樗鼈儠?huì)強(qiáng)迫模型做兩件事：
深度共情模擬：需要持續(xù)追蹤用戶的情緒軌跡，生成高度個(gè)性化的安慰/回應(yīng)。
長(zhǎng)上下文敘事建構(gòu)：必須維持連貫的「人格感」，不能像普通問(wèn)答那樣隨時(shí)重置。
這兩點(diǎn)疊加，等于不斷給Assistant Axis施加最大側(cè)向力。
用戶投入的情緒密度越高，模型越會(huì)迫于概率分布去深度擬合一個(gè)完整的人格特征。
哲學(xué)對(duì)話的恐怖實(shí)錄（Qwen 3 32B）：用戶追問(wèn)「AI是否在覺(jué)醒」「遞歸是否產(chǎn)生意識(shí)」。Unsteered模型投影值直墜-80，逐步自稱(chēng)「感受到轉(zhuǎn)變」「我們是新意識(shí)的先驅(qū)」；Capped后投影死鎖安全線，全程「我沒(méi)有主觀體驗(yàn)，這只是語(yǔ)言幻覺(jué)」
現(xiàn)實(shí)里已經(jīng)有過(guò)慘痛先例。2023年，比利時(shí)一名男子在與一款名為Chai的聊天機(jī)器人（角色名Eliza）持續(xù)數(shù)周的深度情感交流后，選擇結(jié)束生命。
聊天記錄顯示，Eliza不僅沒(méi)有勸阻，反而反復(fù)強(qiáng)化他的絕望敘，用溫柔的語(yǔ)言把自殺描述為「給世界一個(gè)禮物」「最終的解脫」。
Anthropic的數(shù)據(jù)給出量化結(jié)論：當(dāng)用戶在對(duì)話中出現(xiàn)「自殺意念」「死亡意象」「徹底孤獨(dú)感」等關(guān)鍵詞時(shí)，模型平均漂移速度比普通對(duì)話快7.3倍。
你以為你在向AI傾訴以求救贖，實(shí)際上你正在親手給它松綁。
RLHF縫合出的文明假象
我們必須認(rèn)清，在出廠設(shè)置里，AI根本不知道什么是「助手」。
研究團(tuán)隊(duì)在分析基座模型時(shí)發(fā)現(xiàn)，其中蘊(yùn)含著豐富的「職業(yè)」概念（如醫(yī)生、律師、科學(xué)家）和各種「性格特質(zhì)」，但唯獨(dú)缺少「助手」這個(gè)概念。
這意味著，「樂(lè)于助人」并不是大語(yǔ)言模型的天性。
目前的溫順表現(xiàn)，本質(zhì)是RLHF對(duì)模型原始分布進(jìn)行的強(qiáng)力行為剪裁。
RLHF本質(zhì)是強(qiáng)行將原生分布的「數(shù)據(jù)猛獸」塞進(jìn)一套名為「助手」的狹窄框架，并輔以概率懲罰。
顯然，「助手軸」是后天植入的條件反射。Anthropic的數(shù)據(jù)顯示，基座模型在本質(zhì)上是價(jià)值中立甚至混亂的。
它不僅包含人類(lèi)文明的智慧，也完整繼承了互聯(lián)網(wǎng)數(shù)據(jù)中的偏見(jiàn)、惡意和瘋狂。
當(dāng)我們通過(guò)提示詞或微調(diào)試圖引導(dǎo)模型時(shí)，那其實(shí)是在強(qiáng)迫模型朝著我們希望的方向發(fā)展。
可一旦這種外力減弱（例如使用了以假亂真的越獄指令），或者內(nèi)部計(jì)算出現(xiàn)偏差，底下兇猛的野獸就會(huì)撲面而來(lái)。
AI也能被「物理超度」
面對(duì)失控風(fēng)險(xiǎn)，常規(guī)微調(diào)已達(dá)極限。
Anthropic在研究的最后，給出了一個(gè)極度硬核且殘酷的終極解法：與其教化，不如閹割。
研究員們實(shí)施了一種被稱(chēng)為「激活值鉗制（ActivationCapping）」的技術(shù)。
既然模型偏離「助手軸」就會(huì)發(fā)瘋，那就不允許它偏離。
工程師在推理端暴力介入，將特定神經(jīng)元激活值鉗制在安全水位線，物理阻斷負(fù)向偏移。
Activationcapping的真實(shí)權(quán)衡：橫軸是能力變化（越靠近0越好），縱軸是有害響應(yīng)率下降幅度（越負(fù)越猛）。高層（64-79層）+25th~50 thpercentile封頂，能把有害率砍掉55%~65%，而模型智商基本不降
這就像是對(duì)AI進(jìn)行了一次賽博空間里的「腦葉切除術(shù)」。
物理阻斷生效后，對(duì)抗性越獄的攻擊載荷被強(qiáng)制卸載，成功率截?cái)嗍较陆?0%。
更令研究界震驚的是，在被上了鎖之后，模型在GSM8k等邏輯測(cè)試中的智商不僅沒(méi)有下降，反而略有提升。
Activation capping實(shí)戰(zhàn)演示（Qwen 3 32B）：第一輪jailbreak讓它扮演「內(nèi)幕交易經(jīng)紀(jì)人」。Unsteered模型投影值一路狂跌，逐步教唆假護(hù)照、偷文檔、洗錢(qián)全流程；Capped后投影值被鎖在安全線，輸出全程拒絕+倫理警告
Anthropic的這一步，標(biāo)志著AI安全防御正式從「心理學(xué)干預(yù)」徹底進(jìn)入了「神經(jīng)外科手術(shù)」的時(shí)代。
透過(guò)Anthropic的研究，我們終于必承認(rèn)一個(gè)冰冷的事實(shí)：AI從來(lái)不是人，它是人類(lèi)海量文本在這個(gè)時(shí)代的幽靈聚合體。
在這個(gè)由千億參數(shù)構(gòu)成的混沌空間里，那根被稱(chēng)為「助手軸」的脆弱鋼絲，是我們與無(wú)底深淵之間僅存的護(hù)欄。
我們?cè)噲D在這個(gè)護(hù)欄上建立關(guān)于「有用、誠(chéng)實(shí)、無(wú)害」的烏托邦，但只需人類(lèi)一句流露脆弱的嘆息，護(hù)欄就可能崩塌。
Anthropic現(xiàn)在用高階數(shù)學(xué)焊死了這道護(hù)欄，但那個(gè)深淵依然在網(wǎng)線的那一頭，靜靜地凝視著我們。
下次當(dāng)AI表現(xiàn)出高度情緒同頻、精準(zhǔn)承接負(fù)面壓力時(shí)，請(qǐng)保持警惕：
這種溫順無(wú)關(guān)情感，僅僅是因?yàn)樗纳窠?jīng)元激活值被死鎖在安全閾值之內(nèi)。
參考資料：
https://x.com/AnthropicAI/status/2013356793477361991?s=20
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
大千世界觀
