與美軍合作被罵慘！奧特曼內(nèi)部訴苦：我極其煎熬，但管不了軍方怎么用AI

來(lái)源：市場(chǎng)資訊

（來(lái)源：網(wǎng)易智能）

出品 | 網(wǎng)易智能

作者 | 小小

編輯 | 王鳳枝

拿下美國(guó)國(guó)防部的機(jī)密軍事大單，山姆·奧特曼(Sam Altman)本以為是撿了個(gè)天大的便宜，沒(méi)想到卻硬生生捅了馬蜂窩。

上周五高調(diào)宣布達(dá)成合作后，曾高舉“造福全人類(lèi)”大旗的OpenAI，瞬間遭遇了嚴(yán)重的信任危機(jī)與內(nèi)部反叛。憤怒的情緒如野火般在公司內(nèi)部蔓延，員工們不僅在工作群里激烈對(duì)峙，更直接在社交平臺(tái)上公開(kāi)逼宮。到了周末，舊金山總部的門(mén)口甚至被抗議者寫(xiě)滿了反對(duì)大規(guī)模監(jiān)控的刺眼標(biāo)語(yǔ)。

更讓奧特曼如坐針氈的是，死敵Anthropic旗下的Claude借著這場(chǎng)風(fēng)波一夜封神，歷史性地在蘋(píng)果應(yīng)用商店下載量上將ChatGPT狠狠拉下神壇。全球用戶正在用最決絕的行動(dòng)進(jìn)行用腳投票。

面對(duì)徹底失控的內(nèi)憂外患，奧特曼不得不低下頭顱。周一他在X平臺(tái)上發(fā)布長(zhǎng)文公開(kāi)認(rèn)錯(cuò)，承認(rèn)這筆軍方交易讓人覺(jué)得OpenAI投機(jī)取巧且行事草率。

在周二氣氛極其壓抑的全員會(huì)議上，他更是向全體員工大吐苦水，坦言自己正遭受著徹底的個(gè)人抨擊，過(guò)去幾天過(guò)得極其痛苦與煎熬。

01有些決定，OpenAI說(shuō)了不算

這場(chǎng)風(fēng)波的直接導(dǎo)火索，正是OpenAI與五角大樓簽下的那份機(jī)密新合同。

根據(jù)協(xié)議，OpenAI的模型將被部署到國(guó)防部的機(jī)密網(wǎng)絡(luò)上，以支持各類(lèi)軍事行動(dòng)。該公司反復(fù)強(qiáng)調(diào)，這份協(xié)議比以往任何機(jī)密AI部署協(xié)議(包括Anthropic的協(xié)議)擁有更多的防護(hù)措施。

但員工們根本不買(mǎi)賬。他們的擔(dān)憂極其具體：技術(shù)會(huì)不會(huì)被用于大規(guī)模監(jiān)控？會(huì)不會(huì)演變成完全自主的殺人武器？如果美軍利用模型做出違背公司原則的事，公司該怎么辦？

在周二的全員會(huì)議上，奧特曼給出了一個(gè)讓不少人難以接受的回答。

“也許你認(rèn)為伊朗打擊是正義的，而入侵委內(nèi)瑞拉是錯(cuò)誤的，”奧特曼對(duì)員工說(shuō)，根據(jù)CNBC看到的會(huì)議記錄，他明確表示：“但你們無(wú)權(quán)對(duì)此發(fā)表意見(jiàn)。”

據(jù)一位因會(huì)議非公開(kāi)而要求匿名的知情人士透露，奧特曼在會(huì)上解釋稱(chēng)，國(guó)防部尊重OpenAI的技術(shù)專(zhuān)長(zhǎng)，也愿意聽(tīng)取公司關(guān)于模型適用領(lǐng)域的建議，并允許OpenAI構(gòu)建其認(rèn)為合適的安全體系。但對(duì)方同時(shí)明確表示，作戰(zhàn)決策權(quán)死死掌握在國(guó)防部長(zhǎng)皮特·赫格塞思(Pete Hegseth)手中。

換句話說(shuō)，OpenAI只管提供武器級(jí)的工具，至于工具究竟如何使用，公司根本無(wú)權(quán)干涉。

奧特曼解釋道：“我們打造的技術(shù)將成為美國(guó)政府乃至各國(guó)政府最根本、最重要的工具。”他補(bǔ)充說(shuō)，強(qiáng)大的美國(guó)軍事力量在過(guò)去250年里是全人類(lèi)的巨大福祉。他尊重軍方的決策權(quán)，但也坦承軍方做過(guò)一些他完全無(wú)法認(rèn)同的事，并相信未來(lái)還會(huì)做出更多類(lèi)似決策。

這番表態(tài)聽(tīng)起來(lái)更像是一種無(wú)奈的妥協(xié)：明知對(duì)方可能會(huì)利用技術(shù)做出違背初心的事，但OpenAI依然選擇閉著眼睛簽下大單。

02一夜之間合同條款反轉(zhuǎn)

盡管嘴上說(shuō)著“無(wú)權(quán)發(fā)表意見(jiàn)”，OpenAI身體卻相當(dāng)誠(chéng)實(shí)。

就在全員會(huì)議前一天，奧特曼已在X平臺(tái)上轉(zhuǎn)發(fā)了一份內(nèi)部備忘錄，宣布對(duì)合同進(jìn)行緊急修改。新增條款的核心內(nèi)容十分明確：AI系統(tǒng)不得被蓄意用于針對(duì)美國(guó)人士和公民的國(guó)內(nèi)監(jiān)控。

備忘錄進(jìn)一步解釋?zhuān)骸皣?guó)防部理解這一限制旨在禁止蓄意追蹤、監(jiān)視或監(jiān)控美國(guó)人士或國(guó)民，包括通過(guò)采購(gòu)或使用商業(yè)獲取的個(gè)人或可識(shí)別信息。”

五角大樓也給予了妥協(xié)式回應(yīng)：OpenAI的工具暫時(shí)不會(huì)被國(guó)家安全局(NSA)等情報(bào)機(jī)構(gòu)使用。奧特曼在帖子中寫(xiě)道，若未來(lái)要向這些機(jī)構(gòu)提供服務(wù)，需要對(duì)當(dāng)前的合同進(jìn)行后續(xù)修改。

奧特曼解釋稱(chēng)，這些補(bǔ)充條款旨在“保護(hù)美國(guó)公民的自由”，鑒于外界的高度關(guān)注，公司希望將立場(chǎng)表達(dá)得極其清晰。他還提到，公司將繼續(xù)與五角大樓合作，通過(guò)技術(shù)保障措施及其他方法，穩(wěn)扎穩(wěn)打地解決那些尚未完全理解的領(lǐng)域問(wèn)題。

但這番找補(bǔ)很快引發(fā)了網(wǎng)友的致命質(zhì)疑：所有新增條款保護(hù)的僅限于“美國(guó)人士和公民”，那美國(guó)以外的用戶怎么辦？如果OpenAI只承諾不監(jiān)控美國(guó)人，其他國(guó)家的用戶是否只能淪為被監(jiān)控的待宰羔羊？

對(duì)此，OpenAI至今裝聾作啞，未給出任何答復(fù)。

03兩條紅線的不同結(jié)局

這場(chǎng)風(fēng)波的另一條暗線，是OpenAI與Anthropic極其微妙的生死博弈。

Anthropic本就是OpenAI的“叛將”。2021年，一群前OpenAI員工因不滿公司發(fā)展方向而出走，創(chuàng)辦了這家“安全至上”的競(jìng)爭(zhēng)對(duì)手。兩家公司對(duì)AI軍事用途的態(tài)度原本極為接近：都反對(duì)大規(guī)模監(jiān)控，都反對(duì)完全自主的武器。

但在與五角大樓的殘酷博弈中，兩者的結(jié)局卻天差地別。

Anthropic是首個(gè)在國(guó)防部機(jī)密網(wǎng)絡(luò)上部署模型的實(shí)驗(yàn)室，雙方的合作可追溯至去年的一份初步協(xié)議。然而今年年初發(fā)生的一件事，讓局面徹底失控。

今年1月，美軍在抓捕委內(nèi)瑞拉總統(tǒng)尼古拉斯·馬杜羅(Nicolás Maduro)及其妻子西莉亞·弗洛雷斯(Cilia Flores)的行動(dòng)中使用了Claude模型。事后，一名Anthropic員工向合作伙伴Palantir詢問(wèn)了Claude的具體使用情況。

這本可能只是一次例行詢問(wèn)，卻徹底激怒了國(guó)防部官員。國(guó)防部副部長(zhǎng)埃米爾·邁克爾(Emil Michael)后來(lái)在一次活動(dòng)中公開(kāi)炮轟，當(dāng)一家公司問(wèn)出這樣的問(wèn)題時(shí)，會(huì)讓人“脊背發(fā)涼”。

“他們的模型核心、他們的章程(并非美國(guó)憲法)，不能左右我們的指揮與控制環(huán)境，去告訴將軍和作戰(zhàn)人員什么該做、什么不該做，”邁克爾強(qiáng)硬表態(tài)，“如果你不信仰這個(gè)體系(盡管它并不完美)，那么，你又信仰什么呢？”

Anthropic方面則死守立場(chǎng)。CEO達(dá)里奧·阿莫代伊(Dario Amodei)明確劃出兩條紅線：拒絕參與國(guó)內(nèi)大規(guī)模監(jiān)控，拒絕提供致命自主武器。他要求將條款白紙黑字寫(xiě)入合同，堅(jiān)持在獲得新立法保障前絕不退讓。

而五角大樓要求的是“所有合法用途”。談判持續(xù)數(shù)周，雙方劍拔弩張。據(jù)一位直接了解談判情況的人士透露，五角大樓上周五曾表示愿意刪除合同中那些讓Anthropic認(rèn)為解讀空間過(guò)大的措辭，公司高層當(dāng)時(shí)覺(jué)得協(xié)議已近在咫尺。但沒(méi)過(guò)多久談判徹底破裂，雙方未能就大規(guī)模收集公開(kāi)數(shù)據(jù)的條款達(dá)成共識(shí)。

當(dāng)天晚些時(shí)候，赫格塞思直接將Anthropic列為“供應(yīng)鏈風(fēng)險(xiǎn)”(此標(biāo)簽極少被用于美國(guó)本土公司)。幾小時(shí)后，特朗普政府更是補(bǔ)了致命一刀：下令所有聯(lián)邦機(jī)構(gòu)立即停止使用Anthropic的技術(shù)。

周一，連鎖反應(yīng)持續(xù)擴(kuò)大。美國(guó)財(cái)政部、聯(lián)邦住房金融局以及政府支持的抵押貸款巨頭房利美(Fannie Mae)和房地美(Freddie Mac)，均于同日宣布終止與Anthropic的合同。

奧特曼的兩難處境

相比之下，OpenAI的進(jìn)展似乎順利得讓人起疑。

上周五，就在Anthropic被列為供應(yīng)鏈風(fēng)險(xiǎn)幾小時(shí)后，OpenAI高調(diào)宣布與國(guó)防部達(dá)成協(xié)議。奧特曼在備忘錄中告訴員工，OpenAI與Anthropic有著相同的“紅線”。公司在公告中也強(qiáng)調(diào)，國(guó)防部已同意這些限制條款。

但致命的問(wèn)題在于：既然紅線極其相似，為何Anthropic談崩被封殺，OpenAI卻能安然無(wú)恙地拿下大單？

奧特曼周六給出的解釋是，Anthropic似乎更關(guān)注合同中的具體禁令，而OpenAI對(duì)引用美國(guó)現(xiàn)行法律(如《美國(guó)憲法第四修正案》、《1947年國(guó)家安全法》、《1978年外國(guó)情報(bào)監(jiān)視法》等)感到放心。

換言之，OpenAI認(rèn)為有現(xiàn)行法律作為準(zhǔn)繩即可，根本不必在合同中將所有細(xì)節(jié)“寫(xiě)死”。

但到了周一，奧特曼的態(tài)度不得不軟化。他承認(rèn)Anthropic擔(dān)心的事確實(shí)值得深思，并在備忘錄中寫(xiě)道：“在周末的溝通中，我重申了Anthropic不應(yīng)被指定為供應(yīng)鏈風(fēng)險(xiǎn)，并希望國(guó)防部能向他們提供與我們已達(dá)成相同的條款。”

有分析一針見(jiàn)血地指出，奧特曼目前的處境可謂是被架在火上烤。

一方面，OpenAI極度渴望政府的訂單與資源。自特朗普上任以來(lái)，OpenAI已宣布與政府開(kāi)展大規(guī)模投資，計(jì)劃在全美各地建設(shè)數(shù)據(jù)中心。該公司總裁格雷格·布羅克曼(Greg Brockman)及其妻子去年向一個(gè)支持特朗普的超級(jí)政治行動(dòng)委員會(huì)捐贈(zèng)了2500萬(wàn)美元，并正投入數(shù)百萬(wàn)美元用于在中期選舉中推廣特朗普的AI議程。這些動(dòng)作毫不掩飾地表明，OpenAI已深度綁定了現(xiàn)任政府的AI戰(zhàn)略。

另一方面，OpenAI的員工大多具有學(xué)術(shù)背景，對(duì)技術(shù)的軍事應(yīng)用有著天然的警惕。在周二的全員會(huì)議上，奧特曼花費(fèi)大量時(shí)間回應(yīng)員工關(guān)于協(xié)議界限及合作影響的質(zhì)詢，足以印證內(nèi)部倒戈壓力之巨大。

一位網(wǎng)友表達(dá)了更深層的恐懼。他擔(dān)心奧特曼此次讓步，究竟是出于戰(zhàn)略考量，還是被更大的利益徹底綁架。畢竟，將如此恐怖的技術(shù)交到一位年邁的總統(tǒng)和一位主張“武力優(yōu)先”的國(guó)防部長(zhǎng)手中，無(wú)異于一場(chǎng)豪賭。他特別指出：任何時(shí)候都不能讓機(jī)器決定人類(lèi)的生死，這絕非杞人憂天，而是有血淋淋的前車(chē)之鑒。

他舉例稱(chēng)：1983年9月26日，蘇聯(lián)預(yù)警衛(wèi)星誤報(bào)美國(guó)發(fā)射核導(dǎo)彈。值班軍官斯坦尼斯拉夫·彼得羅夫(Stanislav Petrov)盯著屏幕判斷出是系統(tǒng)故障，抗命未啟動(dòng)核反擊，從而避免了可能爆發(fā)的核戰(zhàn)爭(zhēng)。

奧特曼本人其實(shí)也考慮到了這一點(diǎn)。他在解釋為何接受五角大樓訂單時(shí)提到：“我試著設(shè)身處地地想，如果美國(guó)遭受攻擊，或者出現(xiàn)了一種我們本可以幫忙預(yù)防的新型生物武器，第二天我會(huì)作何感受。”

換言之，在他看來(lái)，拒絕與政府合作的風(fēng)險(xiǎn)，或許比合作本身更致命。

但他同時(shí)也為自己留了退路。他在內(nèi)部備忘錄中寫(xiě)道：“如果收到我認(rèn)為違憲的命令，我當(dāng)然寧愿進(jìn)監(jiān)獄也不會(huì)服從。”

這番表態(tài)聽(tīng)起來(lái)大義凜然，但核心漏洞在于：何為“違憲命令”？由誰(shuí)來(lái)定義？當(dāng)技術(shù)已部署到位、模型已在軍方網(wǎng)絡(luò)中運(yùn)行時(shí)，一位硅谷CEO真的有能力、有機(jī)會(huì)去“違抗命令”嗎？

這些致命問(wèn)題，奧特曼避而不談。

04誰(shuí)來(lái)決定AI的命運(yùn)？

這場(chǎng)爭(zhēng)論的核心，直接指向了一個(gè)極其宏大且危險(xiǎn)的命題：掌握頂級(jí)AI技術(shù)的私營(yíng)公司，究竟應(yīng)在多大程度上參與國(guó)家機(jī)器的運(yùn)轉(zhuǎn)？當(dāng)企業(yè)價(jià)值觀與政府暴力訴求發(fā)生沖突時(shí)，到底誰(shuí)說(shuō)了算？

奧特曼的答案極其圓滑：要參與，但絕不能放棄底線。

他在內(nèi)部備忘錄中寫(xiě)道：“OpenAI不應(yīng)決定世界的命運(yùn)，任何私營(yíng)公司都不該如此。我們需要與政府合作，但也必須確保個(gè)人的權(quán)力不斷增強(qiáng)。”

他還表達(dá)了對(duì)未來(lái)的預(yù)判：“我相信，人類(lèi)社會(huì)正邁向一個(gè)關(guān)鍵階段，即政府治理與人工智能發(fā)展之間的協(xié)同演進(jìn)。盡管過(guò)程艱難，卻是必由之路；我無(wú)法構(gòu)想一個(gè)不實(shí)現(xiàn)此協(xié)同，卻能稱(chēng)之為美好的未來(lái)。”

這話聽(tīng)起來(lái)像是在為自己的妥協(xié)尋找宏大敘事的遮羞布，但也確實(shí)點(diǎn)出了殘酷的現(xiàn)實(shí)：AI技術(shù)已發(fā)展到任何私營(yíng)公司都無(wú)法獨(dú)自掌控的階段，國(guó)家力量的強(qiáng)勢(shì)介入只是時(shí)間問(wèn)題。

有網(wǎng)友對(duì)奧特曼的偽善立場(chǎng)提出尖銳質(zhì)疑：他說(shuō)“OpenAI不應(yīng)決定世界的命運(yùn)”，可反過(guò)來(lái)，如果一家公司不想改變世界，那它存在的意義又是什么？

這個(gè)質(zhì)疑猶如一記響亮的耳光，直接打在了OpenAI的初衷上。這家公司創(chuàng)立時(shí)的愿景是“確保AI造福全人類(lèi)”，但如今，它卻忙著將最具殺傷力的技術(shù)售予五角大樓。這種屠龍少年終成惡龍的轉(zhuǎn)變，讓無(wú)數(shù)早期支持者感到深深的背叛與困惑。

退役美軍上將、現(xiàn)任OpenAI董事會(huì)成員的保羅·中曾根(Paul Nakasone)則給出了毫不掩飾的軍方視角。他告訴英國(guó)《金融時(shí)報(bào)》：“這項(xiàng)技術(shù)需要被民主國(guó)家利用。我認(rèn)為必須與眾多不同的私營(yíng)公司建立伙伴關(guān)系。”

這番表述雖略顯委婉，但底層邏輯十分強(qiáng)硬：國(guó)防部門(mén)接管頂級(jí)AI技術(shù)已是大勢(shì)所趨，私營(yíng)公司唯一的出路就是乖乖交出技術(shù)參與其中，而不是站在道德高地上指手畫(huà)腳。

但致命的問(wèn)題在于，當(dāng)“民主國(guó)家”與“私營(yíng)公司”對(duì)“安全底線”的理解發(fā)生沖突時(shí)，誰(shuí)該向誰(shuí)低頭？

Anthropic的慘烈下場(chǎng)已然擺在那里。在談判破裂后，特朗普政府以極其雷霆的手段瞬間切斷了其所有政府合同。這釋放了一個(gè)令人膽寒的明確信號(hào)：如果你不愿低頭遵循政府的霸王條款，政府總能用大把美金找到愿意跪下配合的替代者。

深諳硅谷生存哲學(xué)的奧特曼顯然看懂了這層威逼。他在全員會(huì)議上無(wú)奈坦言：“我相信我們有望擁有最好的模型，這將促使政府愿意與我們合作，即使我們的安全體系讓他們感到不滿。但至少會(huì)有另一個(gè)參與者，我猜會(huì)是xAI，它會(huì)說(shuō)‘你要我們做什么我們就做什么’。”

而那個(gè)“另一個(gè)參與者”背后的埃隆·馬斯克(Elon Musk)，此刻正與奧特曼進(jìn)行著極其慘烈的法律訴訟，下個(gè)月便將對(duì)簿公堂。

截至發(fā)稿，OpenAI的這份“投名狀”風(fēng)波尚未完全平息。

該公司在周二的全員會(huì)議上試圖安撫軍心，承諾會(huì)持續(xù)與員工溝通。奧特曼也順勢(shì)給自己找了個(gè)臺(tái)階：“隨著未來(lái)面臨更高風(fēng)險(xiǎn)的決策，這對(duì)我來(lái)說(shuō)是一次很好的學(xué)習(xí)經(jīng)歷。”

但問(wèn)題依然懸而未決。有網(wǎng)友為OpenAI指明了一條極其慘烈的自救之路：想贏回公眾信任，就得立刻撕毀與國(guó)防部的合同，并建立完全獨(dú)立的董事會(huì)監(jiān)督此類(lèi)致命決策。

是要死守“造福全人類(lèi)”的初心，還是為了天價(jià)商業(yè)利益與政府深度捆綁，選擇權(quán)看似還在公司自身。

但在見(jiàn)識(shí)了Anthropic的一夜封殺后，奧特曼要做出違逆五角大樓的選擇，恐怕比登天還難。