越預(yù)警越被罵！AI三巨頭陷入「奧本海默」死局

新智元報(bào)道

編輯：傾傾

【新智元導(dǎo)讀】Anthropic CEO Dario Amodei因警告AI風(fēng)險(xiǎn)被網(wǎng)友比作奧本海默，瞬間引爆爭議。但真正的問題不是他像不像奧本海默，而是所有AI領(lǐng)袖都陷入了同一個(gè)死循環(huán)：開發(fā)前沿技術(shù)的人警告風(fēng)險(xiǎn)，怎么做都會(huì)被罵。

3月30日，X平臺(tái)上一條轉(zhuǎn)發(fā)視頻的評(píng)論炸開了鍋。

用戶@malmesburyman轉(zhuǎn)發(fā)了Anthropic CEO Dario Amodei的采訪片段，配文：

你真的能從這家伙身上感受到為什么杜魯門覺得奧本海默那么令人厭惡。

視頻里，Amodei正在重復(fù)他那套熟悉的論調(diào)：

我們的模型已經(jīng)非常接近人類智能水平，但社會(huì)對(duì)即將到來的風(fēng)險(xiǎn)卻缺乏廣泛認(rèn)識(shí)。

這條評(píng)論引發(fā)兩極分化。支持者認(rèn)為Amodei一邊開發(fā)強(qiáng)AI一邊裝圣人，就像奧本海默造完原子彈后才說「手上沾滿鮮血」;

反對(duì)者則認(rèn)為這個(gè)類比根本站不住腳。奧本海默是在原子彈已經(jīng)殺死數(shù)十萬人之后才表達(dá)愧疚，而Amodei是在技術(shù)尚未造成災(zāi)難前就警告風(fēng)險(xiǎn)。

但更深層的問題是：為什么所有開發(fā)前沿AI的領(lǐng)袖，無論怎么做，都會(huì)被質(zhì)疑動(dòng)機(jī)？

Amodei的困境：堅(jiān)持紅線，成了供應(yīng)鏈威脅？

Amodei不是第一次因警告AI風(fēng)險(xiǎn)被罵了。

今年2月，他拒絕了五角大樓提出的「所有合法用途」條款，堅(jiān)持Anthropic的兩條紅線。

結(jié)果，國防部長Pete Hegseth宣布將Anthropic列為「供應(yīng)鏈安全威脅」，特朗普下令所有聯(lián)邦機(jī)構(gòu)在6個(gè)月內(nèi)停用Claude。

這個(gè)標(biāo)簽通常是用來對(duì)付外國對(duì)手的，用在美國公司身上史無前例。

Amodei在泄露的內(nèi)部備忘錄中直言，五角大樓和特朗普政府不喜歡Anthropic的真正原因是：

我們沒有給特朗普捐款，我們沒有給特朗普獨(dú)裁者式的贊美，我們支持AI監(jiān)管(這違背了他們的議程)，我們誠實(shí)談?wù)摿薃I政策問題(比如就業(yè)替代)，我們真正堅(jiān)守了紅線而不是與他們勾結(jié)上演「安全戲碼」。

一周后，Amodei為這份備忘錄的語氣道歉，稱「這不代表我深思熟慮的觀點(diǎn)"」

你堅(jiān)持原則，就會(huì)被當(dāng)成敵人。

你警告風(fēng)險(xiǎn)并拒絕配合，就會(huì)被質(zhì)疑是在求權(quán)或博取道德高地。

Altman的困境：支持紅線，卻被罵機(jī)會(huì)主義

如果說Amodei因堅(jiān)持紅線被打壓，那Altman則告訴我們，即使你支持，也會(huì)被罵。

2月28日，就在Anthropic與五角大樓談判破裂幾小時(shí)后，Altman宣布OpenAI已與國防部達(dá)成協(xié)議。

他聲明，OpenAI與Anthropic一樣，禁止大規(guī)模監(jiān)控和全自動(dòng)武器。

外界炸了，指責(zé)OpenAI在關(guān)鍵時(shí)刻削弱了Anthropic的立場：

如果這些公司真的嚴(yán)肅對(duì)待安全承諾，他們本應(yīng)該團(tuán)結(jié)一致對(duì)抗五角大樓，而不是讓政府把他們當(dāng)成市場競爭對(duì)手相互利用。

更尷尬的是，OpenAI自己的員工上周剛簽署了公開信支持Anthropic，反對(duì)五角大樓。

現(xiàn)在老板轉(zhuǎn)頭就簽了合同，員工覺得被出賣了。

Altman在周一承認(rèn)：

我們確實(shí)不應(yīng)該急著在周五把這個(gè)協(xié)議公布出來。我們真心想緩和局勢避免更糟的結(jié)果，但看起來就是機(jī)會(huì)主義和草率。

但即使OpenAI修改了合同條款，法律專家和觀察者仍然質(zhì)疑這些限制是否有實(shí)質(zhì)約束力。

而Altman在內(nèi)部會(huì)議上告訴員工，五角大樓明確表示OpenAI「不能參與作戰(zhàn)決策」，公司只能提供技術(shù)專長建議，但不能對(duì)軍事行動(dòng)的好壞發(fā)表意 。

Hassabis的困境：十年后，世界變了

時(shí)間會(huì)改變一切，包括你的承諾。

2014年Google收購DeepMind時(shí)，Google承諾DeepMind的技術(shù)永遠(yuǎn)不會(huì)被用于軍事或武器目的。

2018年，Hassabis和DeepMind聯(lián)合創(chuàng)始人簽署了公開信，呼吁建立「針對(duì)致命自主武器的強(qiáng)有力國際規(guī)范、法規(guī)和法律」。

但到了2025年，Google修改了AI原則，刪除了不開發(fā)軍事技術(shù)的承諾。

現(xiàn)在DeepMind的技術(shù)被捆綁進(jìn)Google Cloud軟件，賣給包括美國和以色列在內(nèi)的多國軍方。

TIME貼臉開大：「你是否為了實(shí)現(xiàn)AGI的目標(biāo)而妥協(xié)了？」Hassabis的回答是：

我不這么認(rèn)為。我們最近更新了一些政策，部分是考慮到全球地緣政治的不確定性大幅增加。

不幸的是，世界變得更加危險(xiǎn)了。我認(rèn)為我們不能再理所當(dāng)然地認(rèn)為民主價(jià)值觀會(huì)勝出——這一點(diǎn)根本不清楚。所以我認(rèn)為我們需要與政府合作。

今年5月，近200名DeepMind員工簽署內(nèi)部信，呼吁公司放棄軍事合同。

在6月的內(nèi)部會(huì)議上，COO Lila Ibrahim回應(yīng)說，DeepMind不會(huì)設(shè)計(jì)或部署任何用于武器或大規(guī)模監(jiān)控的AI應(yīng)用，Google Cloud的客戶受條款約束。

困境無解，但警告不能停

Amodei、Altman、Hassabis，三個(gè)人走了三條不同的路，卻都被罵。

堅(jiān)持紅線？你是在博取道德高地，求監(jiān)管優(yōu)勢。

妥協(xié)合作？你是偽善，言行不一。

改變立場？你是為了錢出賣靈魂。

當(dāng)你既是開發(fā)者又是安全倡導(dǎo)者，你的每一句警告都會(huì)被解讀為「你在為自己的公司謀利」。

這些預(yù)測可能是對(duì)的，也可能是錯(cuò)的。

但有一點(diǎn)是確定的。無論Amodei、Altman還是Hassabis，無論他們怎么說、怎么做，都會(huì)有人質(zhì)疑他們的動(dòng)機(jī)。

但或許，比起等災(zāi)難發(fā)生后再說「我早就警告過」，在爭議中繼續(xù)警告，仍然是更負(fù)責(zé)任的選擇。

參考資料：

https://x.com/malmesburyman/status/2038599703336513613

https://x.com/TheChiefNerd/status/2038565951268946021