美國危險AI公司不敢發布，英國專家稱真實威脅

財政、銀行及安全部門官員將探討“克勞德·神話”系統對金融體系構成的風險，英國央行對針對金融機構的網絡攻擊日益感到擔憂。

英國央行即將向倫敦金融城的高管發出警告，提示一款新型人工智能模型可能帶來的風險。外界擔憂，該模型可能會侵入金融系統并造成嚴重破壞。

官方人員將與頂級銀行及保險公司負責人會面，共同探討如何應對由美國人工智能企業安斯羅普公司推出的新系統“克勞德·神話”所構成的威脅。

這家位于硅谷的科技企業認為，該工具目前過于危險，不宜向公眾發布。此前，這款人工智能以遠超人類的速度，發現了計算機系統中隱藏的漏洞。

關于這款新型人工智能能力的披露，已經引起了美國監管層的高度警覺。美國財政部長斯科特·貝森特與美聯儲主席杰羅姆·鮑威爾于本周緊急召集華爾街銀行高管，召開了一場危機應對會議。

據英國《每日電訊報》了解，英國央行風險管理負責人鄧肯·麥金農將在未來兩周內主持“跨市場運營韌性小組”會議，專門討論這一新型人工智能威脅。

英國財政部、金融行為監管局以及國家網絡安全中心的官員也將出席此次會議。在此之前，外界普遍擔憂該人工智能模型可能會突破金融系統的信息技術安全防線。

安斯羅普公司于本周早些時候發布了“神話”系統的相關信息。該公司表示，這款人工智能已經在主流網絡瀏覽器和操作系統中發現了數以千計的安全漏洞，這些漏洞可能會讓用戶面臨黑客攻擊的風險。

英國人工智能安全研究所的政府網絡專家目前正在對“神話”系統進行測試，以協助開發相應的防御機制。

英國國家網絡安全中心前負責人基蘭·馬丁指出：“盡管目前關于‘神話’系統存在許多情緒化的討論和炒作，但它帶來的安全隱患是真實存在的，必須加以解決。”

他進一步解釋稱：“發現并修復漏洞的時間表正在被大幅壓縮，從過去的數天、數月甚至數年，縮短到了現在的幾秒、幾分鐘和幾小時。”

馬丁補充表示，目前仍有許多措施可以用來鞏固防御體系。從某種程度上看，這實際上也是一個修復互聯網大量隱藏漏洞的絕佳契機。

安斯羅普公司證實，英國人工智能安全研究所的研究人員已經開始對這款人工智能機器人進行壓力測試。該研究所是由里希·蘇納克政府發起、由納稅人資金支持的實驗室。

在這些最新的人工智能工具向公眾發布之前，該公司已經允許英國安全專家提前獲取訪問權限，以便進行“部署前測試”，從而排查潛在的缺陷或意料之外的功能。

英國人工智能安全研究所由英國政府通訊總部前首席人工智能官亞當·博蒙特領導。此前，該機構已經對包括谷歌和開放人工智能公司在內的多家企業的人工智能應用程序進行了安全審查。

安斯羅普公司已經與蘋果、微軟和亞馬遜等科技巨頭簽署了合作協議，共同測試“神話”系統。這項被稱為“格拉斯溫計劃”的合作，旨在幫助這些企業修補自身軟件中的安全漏洞。

英國改革黨議員丹尼·克魯格已致信蘭開斯特公爵領地事務大臣達倫·瓊斯。他在信中敦促政府與安斯羅普公司展開合作，并詢問政府是否愿意主動參與“格拉斯溫計劃”。

索福斯網絡安全公司的專家唐·史密斯坦言：“我認為每個人都有理由感到擔憂。我自己很擔憂，我的同事們也同樣感到擔憂。”

近年來，英國央行的官員們不斷加強對人工智能和網絡安全風險的監控，并將其視為威脅金融穩定的首要潛在因素。

在2024年和2025年期間，英國央行開展了一項“壓力測試”。該測試模擬了針對支付系統的網絡攻擊，旨在觀察金融機構將如何應對大規模的系統癱瘓。

英國央行金融政策委員會成員莉茲·奧克斯在去年的一次演講中，就曾對類似安斯羅普公司新模型所表現出的風險發出過警告。她當時指出，人工智能可能會增強惡意攻擊者對金融機構發動網絡攻擊的能力。

行業組織英國金融協會的代表大衛·羅表示，該機構已經注意到了新聞媒體關于安斯羅普公司人工智能最新進展的報道，目前正在與各成員機構就此進行溝通。

英國政府的一位發言人回應稱，官方高度重視前沿人工智能帶來的安全隱患。英國在該領域擁有世界領先的專業知識，并與全球科技領軍企業保持著持續的接觸。

該發言人強調：“為了在不斷演變的威脅中保持領先，企業應立即采取行動加強網絡防御。這包括遵循既定的網絡安全最佳實踐、獲取網絡基本安全認證，并確保能夠快速發布補丁以應對新的漏洞。”