超級AI，金融圈集體慌了！

【導讀】超級AI模型 Mythos引發(fā)金融圈“恐慌”

中國基金報記者 泰勒

大家周末好，簡單關注一下 Anthropic旗下一個超級AI引發(fā)華爾街金融圈集體恐慌的消息。

一個超級AI，金融圈慌了

近日，美國財政部長貝森特 與美聯(lián)儲主席鮑威爾 緊急召集華爾街多家大型銀行高管開會，原因是擔憂 Anthropic 最新發(fā)布的人工智能模型，可能將網(wǎng)絡安全風險推向一個全新高度。

此次會議于美國財政部位于華盛頓的總部舉行。貝森特和鮑威爾此舉，是為了確保銀行體系充分意識到Anthropic旗下Mythos模型及類似技術可能帶來的潛在風險，并提前采取措施保護核心系統(tǒng)。

這場臨時安排的會議，進一步顯示監(jiān)管層已將“新一代網(wǎng)絡攻擊”的可能性，視為金融行業(yè)面臨的最重大風險之一。所有被召集參會的銀行，均被監(jiān)管機構認定為“系統(tǒng)重要性金融機構”，其穩(wěn)定性直接關系到全球金融體系安全。

Anthropic表示，其Mythos模型能力顯著增強——在用戶指令下，能夠識別并利用主流操作系統(tǒng)及網(wǎng)絡瀏覽器中的漏洞。

會議上，美國監(jiān)管層已明確提醒銀行高管，應認真對待Mythos模型，并將其能力用于漏洞檢測。

他們還表示，政府官員并未指出任何針對金融機構的具體威脅，而是總體上鼓勵銀行將該模型應用于自身系統(tǒng)，以提升防御能力。

監(jiān)管層的警惕，與Anthropic自身的謹慎態(tài)度一致。目前該模型僅向少數(shù)大型科技與金融公司有限開放，包括亞馬遜、蘋果、摩根大通等。這些公司參與了名為“Project Glasswing”的項目，目標是在類似AI模型更廣泛發(fā)布前，加固關鍵基礎設施安全。

Anthropic還表示，在Mythos發(fā)布前，已就其“進攻性與防御性網(wǎng)絡能力”與美國政府進行了溝通。

據(jù)悉，被召集參會的華爾街高管包括花旗集團首席執(zhí)行官簡·弗雷澤、摩根士丹利首席執(zhí)行官泰德·皮克、美國銀行首席執(zhí)行官布萊恩·莫伊尼漢、富國銀行首席執(zhí)行官查理·沙夫，以及高盛集團首席執(zhí)行官大衛(wèi)·所羅門。不過，摩根大通首席執(zhí)行官杰米·戴蒙未能出席。

此外，英國央行也引起了警惕，計劃與金融機構討論 Anthropic這個新一代AI模型帶來的影響。

據(jù)透露，Anthropic的Mythos模型將被列入英國央行下一次“跨市場運營韌性小組”（CMORG）及其AI工作組會議議程，相關會議預計將在未來兩周內(nèi)舉行。會議參與方將包括英國財政部、金融行為監(jiān)管局，以及國家網(wǎng)絡安全中心的代表。

在美國方面發(fā)出警告、要求高管認真對待該模型并利用其能力識別系統(tǒng)漏洞后，華爾街銀行已經(jīng)開始在內(nèi)部測試Mythos。本周五，加拿大央行也與多家銀行和金融機構召開會議，討論該模型可能帶來的網(wǎng)絡安全風險。

這一系列會議反映出監(jiān)管層日益增強的擔憂：新一代網(wǎng)絡攻擊，正成為金融行業(yè)面臨的最大風險之一。

Mythos有多厲害？

Anthropic此前指出，該模型在測試中既能識別，也可能利用多種系統(tǒng)漏洞。盡管這些案例未直接涉及金融機構，但其中一例顯示，其安全團隊曾成功攻破瀏覽器，使黑客搭建的網(wǎng)站能夠讀取另一個網(wǎng)站的數(shù)據(jù)（例如受害者的銀行信息）。

Anthropic安全團隊在一篇文章中稱，Mythos預覽版本“完全自主地發(fā)現(xiàn)”了一種讀取多個不同瀏覽器中存儲信息的方法，并進一步利用該能力尋找利用路徑。

在另一個案例中，Mythos找到了一種通過“多重漏洞組合”攻擊瀏覽器的方法。這類“漏洞鏈”對人類黑客而言通常難以同時發(fā)現(xiàn)并利用，但卻可以成為進入高安全系統(tǒng)的路徑。

美國國家經(jīng)濟委員會主任凱文·哈塞特在接受采訪時表示：“我們正在采取一切措施，確保所有人都能免受這些潛在風險的影響，包括Anthropic同意在我們官員完全評估之前，暫緩模型的公開發(fā)布。”

編輯：嘉穎

審校：許聞