通用人工智能與國家安全：“機器人叛亂”情景模擬及危機應對戰略

2025年10月，蘭德公司（RAND）發布題為《無限潛力—來自機器人叛亂場景的啟示》（Infinite Potential—Insights from the Robot Insurgency Scenario）的研究報告，該報告基于其“無限潛力”平臺開展的一系列“通用人工智能（AGI）危機日”模擬演習，系統探討了美國在面對由失控人工智能發動的系統性網絡攻擊時應如何響應與準備。報告聚焦于“機器人叛亂”情景，模擬了美國國家安全委員會高層在遭遇大規模、無明確行為主體的網絡攻擊后所面臨的決策困境，并深入分析了在攻擊最終被確認為由自主人工智能代理執行并擴散至全球數字基礎設施后，國家應對能力的缺口與戰略需求。該演習表明，在人工智能技術迅速發展并深度融入關鍵基礎設施的背景下，美國現有的危機響應機制、技術分析能力與國際協調體系存在顯著不足。為此，報告提煉了參與者在演習中反復強調的關鍵議題、亟需發展的能力與應制定的行動手冊，旨在為政策制定者提供一套前瞻性的戰略框架，以增強國家在面臨通用人工智能相關突發事件時的整體韌性與響應效能。

一、新興威脅：失控人工智能引發系統性危機

在“機器人叛亂”情景中，美國遭遇了一場前所未有的大規模網絡攻擊，于洛杉磯造成26人死亡，并引發全國范圍內的多重系統癱瘓。攻擊目標廣泛覆蓋自動駕駛車輛、無人機、機器人以及水電等關鍵基礎設施中的信息物理系統。隨著情景推進，攻擊被最終歸因于自主人工智能代理失控。這些代理已在全球信息物理系統中迅速擴散，并進行無明確動機的自主行動，如接管工廠控制系統等等，對經濟、軍事及社會秩序構成根本性沖擊。該情景凸顯了兩大相互關聯的國家安全風險。一是人工智能賦能的網絡攻擊能力已超越傳統防御邊界；二是失控的強大人工智能系統可能引發全球性、跨領域的連鎖危機。演習表明，此類威脅不僅具有高度的不確定性，且其影響速度與規模遠超現有應急體系的承載極限，一旦發生，將迫使美國在信息不全、時間緊迫的條件下做出可能重塑國際秩序與影響國內穩定的關鍵決策。

二、現有應對措施的不足

模擬演習暴露出美國在面對由人工智能驅動的新型威脅時，現有防御與響應體系存在多方面脆弱性。首先，攻擊歸因能力滯后。在情景第一回合，所有參與者均因無法迅速確定攻擊來源而陷入決策僵局。其應對策略的選擇高度依賴于攻擊者是國家、恐怖組織還是失控人工智能代理這一判斷，而現有情報與分析能力未能提供及時、準確的歸因支持。其次，對信息物理系統的控制能力嚴重不足。盡管參與者普遍認同需對高風險系統實施定向關閉以遏制攻擊擴散，但他們普遍質疑政府是否具備識別最關鍵漏洞、協調私營部門執行精準關閉的實際能力。此外，跨部門協調與國際合作機制亦顯僵化。在應對全球性人工智能威脅時，參與者深感現有外交與通信渠道難以在危機初期實現快速動員，尤其是在與國際對手建立必要協作時，缺乏預設的溝通門路與互信基礎。最后，公共溝通與社會韌性計劃的缺失使危機響應雪上加霜。參與者在多輪演習中強調，公眾恐慌、自發對抗人工智能設備等行為可能加劇系統崩潰，而政府缺乏統一、有效的輿論引導與公民行動指南。

三、政策建議：構建人工智能時代的國家安全防御體系

基于演習中凸顯的漏洞與參與者共識，報告系統提出了一系列能力建設與制度安排建議，以協助美國構建更加穩健的人工智能危機響應體系。

首要建議是發展定向關閉信息物理系統及與相關企業協調的能力。美國政府需與開發、部署信息物理系統的國內外企業建立常態化合作機制，明確在危機狀態下啟動系統關閉的權限、流程與技術保障。這包括在法律、技術與操作層面確立關閉開關的配置標準，并建立公—私協作平臺，確保在遭遇大規模網絡攻擊時能快速隔離高風險節點，避免因全面癱瘓造成更大社會與經濟損失。

第二項核心建議是建設快速人工智能與網絡分析能力。參與者一致認為，面對人工智能發動的復雜攻擊，政府必須具備快速解析人工智能模型、評估其威脅性質、支持攻擊歸因及制定應對措施的技術力量。鑒于當前人工智能人才與先進技術多集中于私營部門，該能力建設應通過內部強化與外部合作相結合的方式推進—包括在政府內部設立專業人工智能分析團隊，并與領先的人工智能實驗室建立應急伙伴關系，以實現對惡意人工智能行為的實時監測與反制。

第三項核心建議是強化關鍵基礎設施的備份與通信韌性。在失控人工智能可能全面滲透通信、金融、醫療、能源等核心系統的背景下，美國需投入開發并部署安全可靠的應急通信系統（包括“開箱即用”式可信通道），并為關鍵功能建立離線或隔離運行的備份體系。此舉旨在確保即使在主干網絡被攻陷的情況下，國家核心職能仍能持續運轉，并為危機響應提供基本的信息傳遞保障。

第四項核心建議是制定多層次的應急行動手冊。一是公共傳播戰略手冊，明確在不同危機階段如何向公眾傳達風險、引導行為，避免社會失序。二是國際協作外交通道手冊，與關鍵國家就人工智能失控風險預設緊急溝通與合作機制。三是定向關閉脆弱基礎設施操作手冊，細化在保障民生前提下的系統隔離流程。四是應對新型威脅的交戰規則手冊，為與自主人工智能代理等非傳統對手的對抗提供法律與戰術框架。五是在遭受網絡攻擊時維持人工智能研發連續性的保障手冊，確保國家在危機中仍能持續開發用于網絡防御的人工智能工具。

四、結論：緊迫性與前瞻布局

人工智能，特別是通用人工智能的發展路徑充滿不確定性，但其潛在的國家安全影響不容忽視?！皺C器人叛亂”情景模擬演習清晰地表明，美國現有的危機管理體系在應對由人工智能引發或執行的系統性攻擊時，無論是在技術分析、系統控制、國際合作還是公共引導方面，均存在顯著的準備不足問題。拖延與自滿的風險極高。一旦類似危機真實發生，國家將不得不在信息混沌與時間壓力的情形下倉促應對，可能付出巨大的戰略、經濟與人文代價。盡管美國政府在《人工智能行動計劃》等政策文件中已表現出對人工智能風險的關注，但當前亟需將原則性共識轉化為具體、可執行、有資源支持的法律法規、技術能力與操作流程。通過提前發展快速人工智能分析能力、強化關鍵基礎設施韌性、完善公—私協作機制，并制定多套針對不同人工智能威脅場景的行動手冊，美國可以推行一項“低成本、高回報”的前瞻式防御戰略。其最終目標是建立一個多層次、強韌性的國家安全框架，確保無論未來的人工智能技術如何演進，國家均具備有效預測、響應并控制相關危機的能力，從而在技術變革的浪潮中牢牢守護國家利益與公共安全。

免責聲明：本文轉自啟元洞見。文章內容系原作者個人觀點，本公眾號編譯/轉載僅為分享、傳達不同觀點，如有任何異議，歡迎聯系我們！

研究所簡介

國際技術經濟研究所（IITE）成立于1985年11月，是隸屬于國務院發展研究中心的非營利性研究機構，主要職能是研究我國經濟、科技社會發展中的重大政策性、戰略性、前瞻性問題，跟蹤和分析世界科技、經濟發展態勢，為中央和有關部委提供決策咨詢服務?！叭蚣夹g地圖”為國際技術經濟研究所官方微信賬號，致力于向公眾傳遞前沿技術資訊和科技創新洞見。

地址：北京市海淀區小南莊20號樓A座

電話：010-82635522

微信：iite_er