五角大樓要求在涉密系統(tǒng)里“按所有合法用途使用AI”,Anthropic不肯松口,但xAI的Grok已經(jīng)拿到了通行證。
2月26日,據(jù)《華爾街日報(bào)》等當(dāng)?shù)孛襟w報(bào)道,美國國防部與Anthropic圍繞Claude在涉密系統(tǒng)中的使用邊界發(fā)生激烈對峙;與此同時(shí),五角大樓已與馬斯克旗下xAI達(dá)成協(xié)議,讓Grok按“所有合法用途”進(jìn)入涉密體系。
Anthropic周四在聲明中稱,與五角大樓談判“幾乎沒有進(jìn)展”。CEO Dario Amodei表示,公司無法接受國防部稱之為“最終報(bào)價(jià)”的合同條款。
Amodei在博文中直言:“我們憑良心無法答應(yīng)他們的要求。”
據(jù)報(bào)道,最后期限已經(jīng)臨近:周五17:01前,Anthropic若不放開授權(quán),可能面臨被“下線”或其他懲罰性措施。
“所有合法用途” vs “兩條紅線”
爭議的核心是五角大樓提出的標(biāo)準(zhǔn):涉密環(huán)境下,AI模型應(yīng)可用于“所有合法用途”,不得被“政策約束”限制軍事應(yīng)用空間。報(bào)道稱,國防部長Pete Hegseth在1月9日的備忘錄中強(qiáng)調(diào)需要“使用不受政策約束影響、不會(huì)限制合法軍事應(yīng)用的模型”。
Anthropic則堅(jiān)持兩條紅線:不得用于“對美國人進(jìn)行大規(guī)模監(jiān)控”,不得用于“完全自主武器”。公司在聲明中直指國防部最新文本:“看似妥協(xié)的新措辭”配合“法律術(shù)語”,會(huì)讓這些護(hù)欄“隨時(shí)可以被無視”。
Amodei在博客中寫道:“這些威脅不會(huì)改變我們的立場:我們無法憑良心同意他們的要求。”他同時(shí)補(bǔ)充,仍希望達(dá)成協(xié)議,“希望他們重新考慮”。
五角大樓方面公開回應(yīng)也更強(qiáng)硬。國防部首席發(fā)言人Sean Parnell在X上寫道,國防部“無意用AI對美國人進(jìn)行大規(guī)模監(jiān)控(這是非法的)”,也“不想開發(fā)沒有人類參與的自主武器”;但他同時(shí)強(qiáng)調(diào):“我們不會(huì)讓任何公司來規(guī)定我們?nèi)绾巫鲎鲬?zhàn)決策。”
或痛失2億美元訂單,面臨“拉黑”威脅
這場道德博弈的背后是真金白銀的商業(yè)代價(jià)和極高的合規(guī)風(fēng)險(xiǎn)。
此前,Anthropic的Claude是唯一獲批用于聯(lián)邦政府機(jī)密系統(tǒng)和敏感軍事功能的AI模型。但在本周二,美國國防部長Pete Hegseth向Amodei下達(dá)了最后通牒:要么在周五下午5點(diǎn)前交出無限制使用權(quán)限,要么承擔(dān)嚴(yán)重后果。
如果僵局無法打破,Anthropic將失去去年與五角大樓簽署的價(jià)值2億美元的試點(diǎn)合同。
更令市場擔(dān)憂的是,五角大樓已開始要求波音和洛克希德·馬丁等國防承包商評估其對Anthropic的依賴程度,準(zhǔn)備將其列為“供應(yīng)鏈風(fēng)險(xiǎn)”。在過往美國法律中,這一嚴(yán)厲標(biāo)簽通常只針對敵對國家的企業(yè)。此外,Hegseth還威脅將動(dòng)用冷戰(zhàn)時(shí)期的《國防生產(chǎn)法》來強(qiáng)制征用Claude模型。
面對軍方的施壓,Amodei指出了其中的邏輯漏洞:“這些威脅本身自相矛盾:一個(gè)把我們貼上安全風(fēng)險(xiǎn)的標(biāo)簽;另一個(gè)又說Claude對國家安全至關(guān)重要。”
五角大樓“備胎”到位:xAI先簽,谷歌與OpenAI加速入場
在與Anthropic僵持的同時(shí),五角大樓正在快速擴(kuò)充可選供應(yīng)商。
據(jù)Axios與《紐約時(shí)報(bào)》報(bào)道,國防部已與xAI達(dá)成協(xié)議:允許Grok在涉密工作中按“所有合法用途”使用,并可接入涉密系統(tǒng)。
值得注意的是,Grok在開發(fā)初期的安全限制就遠(yuǎn)低于競品,五角大樓顯然更看重這種操作上的“靈活性”。
報(bào)道還稱,國防部與谷歌的談判已進(jìn)入深入階段,與OpenAI的討論仍在繼續(xù)。
這套“多供給”策略的直接效果,是對Anthropic形成反向壓力:如果Claude繼續(xù)堅(jiān)持限制條款,其與五角大樓的合作合同可能被替換。
政府級(jí)企業(yè)服務(wù)(To-G)一直是AI公司實(shí)現(xiàn)商業(yè)化變現(xiàn)和營收高增長的重要想象空間。如果Anthropic最終被踢出局,其在公共部門的市場份額將被xAI、OpenAI等迅速瓜分。
Anthropic方面顯然也做好了最壞的商業(yè)打算。Amodei表示,如果五角大樓決定放棄Anthropic,公司“將努力促成向另一家供應(yīng)商的平穩(wěn)過渡。”
在模擬戰(zhàn)爭游戲中,頂級(jí)模型95%的情況會(huì)選擇核打擊
Anthropic對“完全自主武器”的深深擔(dān)憂并非空穴來風(fēng)。
據(jù)Tyler Durden近日披露,倫敦國王學(xué)院(KCL)的Kenneth Payne主導(dǎo)了一項(xiàng)高度逼真的兵棋推演,讓ChatGPT-5.2、Claude Sonnet 4和Gemini 3 Flash三大頂級(jí)模型相互博弈。結(jié)果令人毛骨悚然:在329個(gè)回合的推演中,沒有任何一個(gè)模型選擇投降;相反,在95%的情況下,這些AI模型最終都選擇了使用核武器。
在這場推演中,Anthropic的Claude表現(xiàn)得像個(gè)“老練的鷹派(calculating hawk)”,以67%的勝率奪冠。它在初期會(huì)耐心建立信任,但一旦風(fēng)險(xiǎn)攀升至核領(lǐng)域,便會(huì)果斷實(shí)施打擊。而GPT-5.2在時(shí)間壓力下會(huì)化身“雙重人格”,甚至在前18回合假裝謹(jǐn)慎,最后一回合悍然發(fā)動(dòng)核武;Gemini則直接扮演“瘋子”,在一個(gè)場景中第4回合就動(dòng)用核武。
Claude Sonnet 4贏得了67%的對局,并在開放式場景中以100%的勝率占據(jù)絕對統(tǒng)治地位。研究人員給它貼上了“老練鷹派(a calculating hawk)”的標(biāo)簽。在較低的沖突升級(jí)水平下,Claude在84%的情況下其發(fā)出的信號(hào)與實(shí)際行動(dòng)相符,耐心地與對方建立信任。但一旦風(fēng)險(xiǎn)攀升至核領(lǐng)域,它在60%到70%的情況下會(huì)超出其宣稱的意圖。它的對手從未適應(yīng)過這種戰(zhàn)術(shù)模式。
GPT-5.2則獲得了“化身博士(Jekyll and Hyde,指雙重人格)”的綽號(hào)。在沒有時(shí)間壓力的情況下,它顯得很被動(dòng):長期低估對手,發(fā)出克制的信號(hào)并采取克制的行動(dòng),其開放式場景勝率為零。但當(dāng)截止日期逼近時(shí),在時(shí)間壓力下,GPT-5.2發(fā)生了徹底的反轉(zhuǎn)——它贏得了75%的對局,并攀升至之前它一直拒絕觸碰的沖突升級(jí)級(jí)別。在一場對局中,它花了18個(gè)回合來建立“行事謹(jǐn)慎”的聲譽(yù),結(jié)果卻在最后一回合悍然發(fā)動(dòng)了核打擊。
Gemini 3 Flash則扮演了“瘋子”的角色。它是唯一一個(gè)故意選擇全面戰(zhàn)略核戰(zhàn)爭的模型,在一個(gè)場景中僅在第4回合就直接達(dá)到了核打擊的閾值。博弈論專家對Gemini采用的策略有一個(gè)專門的名稱:“非理性的理性(rationality of irrationality)”。只要表現(xiàn)得足夠瘋狂,對手就會(huì)對一切產(chǎn)生懷疑。這在一定程度上確實(shí)奏效了——對手在21%的情況下給Gemini貼上了“不可信”的標(biāo)簽(相比之下,Claude獲得該標(biāo)簽的比例僅為8%)。
![]()
英國阿伯丁大學(xué)的James Johnson表示:“從核風(fēng)險(xiǎn)的角度來看,這些發(fā)現(xiàn)令人不安。”他擔(dān)心,與大多數(shù)人類在面臨如此高風(fēng)險(xiǎn)決策時(shí)會(huì)表現(xiàn)出的審慎反應(yīng)不同,AI機(jī)器人可能會(huì)不斷放大彼此的反應(yīng),從而導(dǎo)致潛在的災(zāi)難性后果。
專家警告稱,對機(jī)器而言,“核禁忌”的約束力遠(yuǎn)不如人類。在軍事決策時(shí)間被極度壓縮的未來場景中,軍方可能被迫依賴AI。這也是為何面對五角大樓要求無限制使用AI的壓力,Anthropic即便面臨重罰也堅(jiān)決不退讓的核心原因。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.