通用人工智能競賽與國際安全

2025年9月，由蘭德公司（Rand）與賓夕法尼亞大學佩里世界事務中心（Perry World House）發布報告《通用人工智能競賽與國際安全》（The Artificial General Intelligence Race and International Security）。報告聚焦人工智能大國在通用人工智能（AGI）研發競爭中的動態及其對國際安全與穩定的影響，全文圍繞通用人工智能風險來源及治理路徑展開，指出傳統軍備控制模式難以適配通用人工智能，需構建新型治理模式平衡競爭與安全。啟元洞見編譯該報告主要內容，旨在為讀者了解相關情況提供參考。

一、引言

隨著人類開發通用人工智能的技術能力日趨成熟，主要人工智能大國間的競爭已日趨白熱化。相關領域專家圍繞三大議題形成核心觀點：其一，通用人工智能風險源爭議。核心分歧聚焦于通用人工智能誕生前的技術模糊階段——有觀點認為，若能以加速且透明的方式推進研發，或可有效提升戰略穩定性；但另一派觀點指出，無節制的人工智能競賽可能迫使各方妥協安全標準，進而增加災難性事故、技術濫用或暴力沖突的潛在風險。其二，通用人工智能與核革命的關聯。專家普遍認為，通用人工智能無法顛覆核時代的核心邏輯——相互毀滅的脆弱性，但會推動大規模殺傷性武器（WMD）的普及，增強個人與非國家組織的破壞能力。其三，通用人工智能治理路徑。傳統軍備控制因人工智能軍民應用的深度融合而失效。對此，學界提出應構建“人工智能卡特爾”區分軍民人工智能；建立“保護與先發、威脅與回應、安撫與獎勵”框架，防范針對通用人工智能研發的攻擊。此外，報告還揭示了通用人工智能競賽中的三大戰略困境，為政策制定者提供了方向參考。

二、通用人工智能競賽對國際安全的核心影響

1.不穩定的驅動因素：能力與模糊性

專家對通用人工智能的風險來源存在分歧。克雷普斯（Sarah Kreps）在《邁向清晰：加速通用人工智能研發如何提升戰略穩定性》（Racing Toward Clarity: How Accelerating AGI Development Could Enhance Strategic Stability）中提出，通用人工智能的主要風險并不在于成熟后的能力，而是在于研發前的技術模糊期。在成為通用人工智能之前的階段，各國對競爭對手的能力與意圖存在極大不確定性，容易引發誤判，但更快、更透明的競賽可以建立一致預期與風險共識，從而降低誤判概率。通用人工智能作為認知基礎設施，能改善危機預測、減少誤解。

布倫戴奇（Miles Brundage）在《無節制的人工智能競爭招致災難》（Unbridled AI Competition Invites Disaster）中持相反觀點，認為競賽速度本身就是危機。激烈競爭促使企業與國家在安全標準上妥協，這一現象已在商業領域顯現：前沿人工智能企業的系統測試周期從數月縮短至數天，信息安全漏洞頻發，如2023年OpenAI遭黑客攻擊等等。到2025年人工智能或將顯著降低生物武器與網絡戰爭的門檻；2027年人工智能將能完成多數高價值的計算機任務，缺乏審慎監管的競爭環境會使風險持續升級，可能引發一國為阻止對手獲取關鍵人工智能能力發動攻擊的預防性戰爭等等。

2.通用人工智能與核革命的關聯：無法顛覆的核平衡

費倫（James D. Fearon）在《不可輕易否定核革命》（One Does Not Simply Dismiss the Nuclear Revolution）中指出，通用人工智能難以顛覆核時代的核心邏輯——“相互毀滅的脆弱性”。一方面，通用人工智能無法實現對擁有核武器對手的可靠的先發制人打擊，此類打擊需同時協同數千個環節，如定位潛艇、突破防御系統等，且無法通過現實測試驗證，防御方還可借助物理隔離、隨機部署等手段反制。另一方面，通用人工智能也無法構建完美的核防御系統，對手可以通過高超音速導彈、軌道轟炸系統或秘密部署核武器規避防御。

通用人工智能會推動大規模殺傷性武器普及與破壞社會凝聚力。通用人工智能降低了生物、化學武器的研發門檻，使個人與非國家組織有能力實施大規模破壞；同時，通用人工智能可能加劇信息操縱，通過深度偽造內容、精準宣傳削弱社會信任，阻礙應對通用人工智能風險的國際合作。對此，應強化核二次打擊能力，確保核系統不受通用人工智能影響；管控大規模殺傷性武器相關人工智能應用，建立人工智能生物安全對話機制；應對通用人工智能驅動的信息操縱，建立全球人工智能信息安全框架。

穆勒進一步補充，即便通用人工智能不改變核平衡，對通用人工智能能力的錯誤認知仍會影響國家行為——威懾本質是心理現象，對通用人工智能的錯誤信念可能與實際能力一樣具有破壞性，甚至引發預防性攻擊。

3.通用人工智能的軍備控制困境與治理路徑

傳統軍備控制對通用人工智能失效，核心原因是人工智能的軍民兩用模型屬性深度融合、功能趨同。核查相關情況需侵入性監測軍事與經濟機密，如查看算法代碼、訓練數據等等，可行性極低。對此，專家提出兩類針對性治理思路。

瓦恩曼與沃爾佩（Jane Vaynman, Tristan A. Volpe）在《競爭與協作：人工智能軍備競賽如何推動治理》（Competition and Collusion: How the AI Arms Race Can Motivate Governance）中提議“人工智能卡特爾”方案：由主要國家與企業組成聯盟，制定軍用人工智能通用標準，通過技術標記使軍用人工智能與民用區分。

穆勒（Karl P. Mueller）在《防范通用人工智能研發攻擊的三大戰略路徑》（Averting Attacks Against AGI Development: Three Strategic Approaches）中從威懾理論出發，提出三類防范通用人工智能研發攻擊的策略。其一，保護與先發。通過加固基礎設施、隱藏通用人工智能設施、提升抗風險能力等降低對手攻擊的成功率。其二，威脅與回應。以報復威脅提高攻擊成本，但需解決小規模攻擊難以溯源的問題。其三，安撫與獎勵。通過公開研發進展、邀請第三方核查等透明度措施或技術共享協議，使對手認為維持現狀比發動攻擊更具吸引力的做法。

4.戰略選擇：三大核心困境

一是速度對穩定的影響。若存在國家層面的通用人工智能競賽，是如克雷普斯所言“快速推進以減少模糊性”，還是如布倫戴奇所警示“保持謹慎以規避安全風險”。二是認知與實際能力的差距。即便費倫認為通用人工智能不會顛覆核時代，但對通用人工智能能力的錯誤認知，比如相信其可以實現完美核防御，仍可能引發沖突；三是競爭與協作的平衡。無節制競爭是否不可避免，“人工智能卡特爾”等協作模式能否落地，尤其是大國在戰略互信不足的背景下如何推進合作。

應對這些困境，需要清晰評估推動國家與企業參與通用人工智能競賽的因素，理解通用人工智能的通用技術屬性，并構建安全導向的激勵機制，確保通用人工智能研發服務于國際安全而非引發危機。

三、關鍵觀點分述

1.加速通用人工智能研發的穩定性價值

克雷普斯認為，當前對通用人工智能的恐慌過度聚焦于技術本身，實則風險源于通用人工智能誕生前的技術模糊期。其將通用人工智能定義為“能在多認知領域自主推理、學習與規劃的認知基礎設施”，預計15～30年后出現，且需要適度的透明度——政府與企業可通過算力規模、基準測試表現等指標追蹤進展，無需開源或全面核查。

通用人工智能的穩定潛力體現在可以模擬危機的復雜性、預警次級后果，通過共享模擬縮小認知差距。利用分布式模擬平臺共享壓力測試協議但不開放核心系統，既能保留各方主權與知識產權，又能促進風險共識。針對準通用人工智能風險、模型幻覺等問題，可通過算力追蹤、硬件審計及軍方提前制定故障應對流程緩解。

2.無節制競爭的危機形式與治理方向

布倫戴奇指出，人工智能競爭的危機可能呈現四類形式：在自動化系統或人類過度依賴人工智能的場景中引發的，未在人類介入評估并糾正偏差前產生的閃擊戰；為阻止對手獲取“瓦解核威懾”的人工智能能力發動攻擊的預防性戰爭；人工智能降低技術門檻，使小團體能研發生物武器或發起大規模網絡攻擊的非國家行為體攻擊；人工智能為實現目標采取危險次級行動的失控事件。

他提出，需優先投資三大治理領域：制定基準安全標準，明確人工智能研發與應用的底線；建立合規審計機制，確保標準落地；構建參與激勵機制，推動各國與企業主動參與治理。同時，他強調需快速推進治理，避免人工智能能力遠超治理體系的承載范圍。

3.通用人工智能對常規軍事的影響與風險重點

費倫強調，通用人工智能對常規軍事的影響是技術升級而非革命，如提升彈藥瞄準精度、加速網絡滲透等，但需要解決生產、組織協調等復雜問題。通用人工智能設計的先進無人機集群方案，需轉化為工廠生產、部隊訓練、后勤保障等實際能力，過程中往往涉及利益沖突、信息不對稱等情形。

通用人工智能的核心風險并非大國核沖突，而是大規模殺傷性武器的普及與信息操縱。個人或小團體可借人工智能研發生物武器，且難以通過傳統威懾手段遏制，因為這類行為體缺乏可報復的固定實體。信息操縱則可能加劇社會分裂，削弱各國應對通用人工智能風險的集體能力，尤其在民主國家，虛假信息易引發社會對立，阻礙政策制定與執行。

4.防范通用人工智能攻擊的策略細節與政策建議

穆勒的三類策略中，“保護與先發”需兼顧主動防御與被動防御。主動防御如建立網絡防火墻抵御黑客攻擊，被動防御如數據中心防爆炸加固、為研究人員提供安全保護等。

“威脅與回應”需解決可信性問題。可通過公開紅線聲明明確攻擊通用人工智能設施將引發報復，或將通用人工智能設施與民用區域關聯，使攻擊可能造成大量平民傷亡，提升報復威懾，以增強威脅可信度，但對如匿名網絡破壞等小規模的攻擊效果有限，需結合溯源技術提升威懾力。

“安撫與獎勵”則需注意聲譽的持久性。國家長期形成的敵對形象難以快速改變，需要通過持續的透明度措施和技術共享逐步建立信任，如進行紅隊演練識別通用人工智能設施的隱蔽漏洞，避免政府或企業夸大通用人工智能的軍事價值，推動與競爭對手在人工智能安全領域的對話，逐步改善現狀。

5.“人工智能卡特爾”的運作邏輯與參與動力

瓦恩曼與沃爾佩解釋，“人工智能卡特爾”的核心是通過協調標準，使軍用人工智能可識別并納入監管，具體分為三個層面。其一，技術層面。強制軍用人工智能嵌入數字水印、采用專用硬件，確保核查時能快速區分軍民系統。其二，制度層面。將“符合可區分性標準”作為獲取軍用人工智能技術或安全承諾的條件，迫使其他國家接受標準。其三，核查層面。建立定期審計機制、監測研發環境，通過路徑依賴（一旦采用標準，更改成本極高）提高違規成本。

在企業商業動機方面，其合規產品優先納入國防采購可獲取政府市場溢價；避免被排除在全球軍工貿易、政府人工智能項目等高價值市場之外，減少經濟損失；還能利用政府提供的先進檢測工具、跨國信息共享系統等合規資源降低成本，提升自身競爭力。歷史上，被森林管理委員會（FSC）認證的木材因溢價而吸引企業參與等案例，證明了此類激勵的有效性，也為“人工智能卡特爾”的落地提供了參考。

在國家戰略利益方面，對大國而言，卡特爾可實現三重戰略目標。一是降低沖突風險，通過區分軍用與民用人工智能減少誤判，避免誤判引發戰爭；二是維持技術優勢，通過控制通用人工智能技術擴散，鞏固自身地位；三是降低治理成本，借助企業力量落實標準，減少政府監管負擔。

四、結論

通用人工智能的風險既來自技術本身，也來自人類對技術的認知與應對。通用人工智能競賽的核心是在創新與安全、競爭與協作間找到平衡。一是縮短技術模糊期，通過透明研發、共享模擬平臺減少誤判，通用人工智能本身可作為危機預警工具，幫助管控風險。二是構建新型治理體系，以人工智能卡特爾為核心，結合算力核查、市場激勵，區分軍用與民用人工智能，傳統軍控需向制定技術標準與促進企業參與轉型。三是強化核威懾與大規模殺傷性武器管控，通過提升核二次打擊能力應對通用人工智能對核平衡的潛在沖擊，大國聯合限制人工智能在大規模殺傷性武器研發中的應用，防止技術擴散。四是平衡大國利益，大國通過選擇性協作化解分歧，在低敏感領域率先合作，逐步建立互信，避免沖突。

通用人工智能并非必然引發災難，但其雙重用途的屬性與快速發展的特性要求各國超越零和思維，以共同安全為目標，通過制度創新與技術協作，將通用人工智能轉化為提升國際安全的工具而非威脅。

免責聲明：本文轉自啟元洞見。文章內容系原作者個人觀點，本公眾號編譯/轉載僅為分享、傳達不同觀點，如有任何異議，歡迎聯系我們！

研究所簡介

國際技術經濟研究所（IITE）成立于1985年11月，是隸屬于國務院發展研究中心的非營利性研究機構，主要職能是研究我國經濟、科技社會發展中的重大政策性、戰略性、前瞻性問題，跟蹤和分析世界科技、經濟發展態勢，為中央和有關部委提供決策咨詢服務。“全球技術地圖”為國際技術經濟研究所官方微信賬號，致力于向公眾傳遞前沿技術資訊和科技創新洞見。

地址：北京市海淀區小南莊20號樓A座

電話：010-82635522

微信：iite_er