嚴防武器化！Anthropic模型Mythos能力超頂尖黑客

美國政府正推進讓Anthropic一款強力新模型Mythos以特定版本進入主要聯(lián)邦機構，但前提是先把網(wǎng)絡安全防護措施搭建到位，以降低該工具可能顯著放大網(wǎng)絡攻擊風險的擔憂。

據(jù)彭博，白宮管理和預算辦公室（OMB）聯(lián)邦首席信息官Gregory Barbaccia在周二發(fā)給內閣部門官員的郵件中稱，OMB正在設置保護措施，使各機構能夠開始使用這款“嚴密管控”的AI工具。

Mythos迄今僅向少數(shù)科技公司、金融機構等有限群體開放，Anthropic此前明確表示，此舉旨在防范黑客將該模型的能力武器化。這一嚴格管控背景下，OMB推動政府機構接入Mythos的舉動引發(fā)外界對潛在風險的高度關注。

對市場而言，這一動向凸顯政府在加速采用先進AI與控制“攻防兩用”能力外溢風險之間的拉扯。投資者將關注聯(lián)邦機構對高能力模型的潛在需求窗口，以及由此帶來的網(wǎng)絡安全風險評估與防護投入的再定價。

Barbaccia在主題為"Mythos Model Access"（Mythos模型訪問權限）的郵件中寫道：

該郵件并未明確各機構能否最終獲得Mythos訪問權限，亦未給出具體時間節(jié)點或使用方式。郵件僅告知各機構技術與網(wǎng)絡安全負責人，相關細節(jié)將在"未來數(shù)周"內跟進披露。

一位白宮官員在回應彭博詢問時表示，政府將繼續(xù)與AI公司合作，確保其模型有助于修復關鍵軟件漏洞，但未就具體事宜作出回答。

Mythos之所以受到嚴格管控，根源在于其遠超尋常的網(wǎng)絡安全攻防能力。

Anthropic內部測試人員發(fā)現(xiàn)，該模型能夠挖掘出通常只有頂尖黑客才能發(fā)現(xiàn)的關鍵漏洞，這令公司高層對其可能構成國家安全風險深感憂慮，并由此促成了對該模型的有限發(fā)布。

在向有限群體正式發(fā)布Mythos之前，Anthropic已向美國政府多個部門的高級官員進行了全面能力簡報，內容涵蓋該模型在網(wǎng)絡攻防兩個方向的應用場景。

參與簡報的機構包括網(wǎng)絡安全和基礎設施安全局（CISA）以及AI標準與創(chuàng)新中心（CAISIT）等。該人士表示，Anthropic此后持續(xù)與政府就該模型引發(fā)的安全問題保持合作。

迄今獲得Mythos訪問權限的機構，均被要求以評估自身網(wǎng)絡安全風險為使用目的。這一定向開放策略，折射出Anthropic在商業(yè)推廣與風險管控之間的審慎取舍。

值得關注的是，OMB此番推進Mythos部署，發(fā)生在Anthropic與特朗普政府公開交鋒、法律糾紛持續(xù)的背景之下。

五角大樓今年以一項通常針對外國對手的授權，將Anthropic認定為供應鏈威脅，起因在于雙方在人工智能安全保障問題上存在分歧。

上月，Anthropic以此舉可能導致其損失數(shù)十億美元營收為由提起訴訟，并獲得法院裁定，暫時阻止了政府對該技術的使用禁令。

在摩擦未息的同時，白宮此次主動推進Mythos的機構部署，表明政府對Anthropic工具的戰(zhàn)略興趣并未因此動搖。Barbaccia的郵件收件人涵蓋國防部、財政部、商務部、國土安全部、司法部及國務院等多個重量級機構。

白宮官員表示，政府將繼續(xù)與AI公司合作，確保其模型有助于修復關鍵軟件漏洞。目前，Anthropic和政府均未披露哪些聯(lián)邦機構已獲得Mythos的早期訪問權限。