軍事人工智能的應用、風險挑戰及治理建議

人工智能正深刻變革軍事領域，并對國際和平與安全產生深遠的影響。軍事領域負責任人工智能峰會（REAIM）與《負責任地使用軍事人工智能與自主性政治宣言》等倡議，把軍事人工智能的討論從致命自主武器系統（LAWS）拓展到了更廣泛的人工智能軍事影響，提升了國際關注度。2025年7月，聯合國裁軍研究所（UNIDIR）發布文章《軍事領域的人工智能及其對國際和平與安全的影響》（Artificial Intelligence in the Military Domain and its Implications for International Peace and Security），分析了人工智能在軍事領域的應用及其面臨的挑戰，并針對性地提出了對策建議。

一、軍事領域人工智能的應用機遇

人工智能在軍事領域有諸多的應用場景，可作為“力量倍增器”提升多項軍事任務的效能，除武器系統外，還包括多個方面：

（一）指揮與控制

人工智能決策支持工具可協助指揮官進行任務規劃、目標分析和行動方案制定。例如，算法能夠分析戰場數據識別高價值目標，或根據預設參數優化任務計劃。人工智能驅動的指揮控制系統還能快速匯集并處理大規模實時數據，顯著提升決策速度和質量。同時，此類系統有助于強化對國際人道法的遵守，通過整合比例性等法律評估，為指揮官提供減少附帶傷害的建議，推動數據驅動下的最佳決策。

（二）信息與情報

在情報、監視與偵察（ISR）中，人工智能能夠高效分析海量傳感器數據、衛星圖像和通信流量，識別模式、發現異常并預警潛在威脅。機器學習可自動化處理數據，發現人類分析師可能忽略的關鍵信息。同時，人工智能在信息管理中發揮重要作用，能融合多源數據并將相關情報精準分發至前線部隊，從“大數據”中提煉可操作信息，顯著增強態勢感知。

（三）高級自主性

在物理空間，人工智能可顯著提升無人系統的自主性，使其能夠在通信受限或無法實時監控的環境中自主執行任務。即便在人類保留最終開火權的武器系統中，人工智能通過提供更高水平的自主控制，仍能帶來作戰優勢。在數字空間，人工智能則被用于網絡安全、增強網絡進攻能力，以及支持認知戰和信息戰等任務。

（四）后勤與支持

人工智能在軍事后勤中作用突出，可提升行動的持續性和靈活性。其應用涵蓋設備預測性維護、供應鏈與運輸管理、人員與物資部署優化等。例如，算法可實現補給路線智能規劃，或基于需求預測精準分配備件，從而提高部隊戰備水平。

（五）訓練與模擬

人工智能驅動的系統廣泛用于軍事訓練，包括智能輔導系統、戰爭推演模擬器和虛擬現實訓練平臺。這些系統可在合成環境中動態優化場景并提供即時反饋。依托情報數據和歷史行動經驗，人工智能不僅能模擬逼真的敵方行為，還能通過分析績效數據改進訓練方案，從而提升訓練效率并降低成本。

（六）其他組織與支持功能

軍隊可在各類行政與支援任務中引入人工智能，如人員管理、醫療保障、財務和采購等。盡管這些應用與直接作戰無關，但對軍隊的整體動員能力至關重要，也可能成為敵方攻擊的重要目標。

二、軍事人工智能面臨的挑戰

（一）技術挑戰

一是數據問題。人工智能算法依賴大量高質量訓練數據，但軍事場景中相關數據往往稀缺、不完整或存在偏見，可能導致系統輸出結果出現不可預測的錯誤，甚至違反國際人道法。數據偏見可能源于性別、種族等因素，導致目標識別錯誤，且難以在后期完全糾正。

二是黑箱問題。多數人工智能模型具有“黑箱”特性，其決策過程難以被人類理解，削弱系統的可信度評估，并增加國際人道法違規調查的復雜性。盡管可解釋人工智能技術正在發展，但其在復雜軍事系統中的落地仍具挑戰。

三是測試與評估。傳統的軍事裝備采購的序貫測試，適用于確定性系統。然而，人工智能系統具備適應性，其性能會隨數據變化而動態調整，因而需要持續評估和迭代的法律審查。此外，性能具有強烈的情境依賴性，在某一作戰環境中表現良好的系統，在另一環境中未必可靠，且系統集成可能引入新的故障或漏洞。

四是網絡安全。人工智能系統容易受到網絡攻擊，如數據投毒、對抗樣本攻擊、模型提取等，可能導致性能退化、敏感數據泄露或核心模型信息被竊取。尤其在對抗性環境中部署時，系統必須具備抗欺騙和抗操縱能力，但相關防護技術仍不夠成熟。

五是人為因素。操作人員可能由于認知偏差而誤用或誤解人工智能輸出結果，如出現自動化偏見（過度信任算法）或算法厭惡（過度懷疑算法）。不良的人機界面設計或不足的培訓會進一步加劇這些問題，影響任務安全性和決策質量。

（二）安全挑戰

一是升級風險。人工智能驅動系統可能引發意外升級或失去人為控制。例如，若雙方部署的人工智能系統在微秒級相互響應，可能在指揮官介入前觸發“算法互動式閃擊戰”。即使在較慢節奏下，人工智能決策輔助也可能建議激進行動，或因誤讀而導致無意升級。

二是軍備競賽。為避免落后，主要大國正加速投資軍事人工智能，可能導致未經充分驗證的技術倉促部署，甚至將戰場變為新型人工智能能力的測試場。這種競爭不僅加劇不信任，還可能增加沖突風險，類似歷史上的軍備競賽邏輯。

三是技術擴散。商用或開源人工智能工具可能被非國家行為體或恐怖組織改造利用，重塑沖突格局。隨著軍事人工智能系統的普及，其流入非法市場的風險也在上升，因此需要強化全生命周期安全管理。

四是虛假信息。生成式人工智能能夠大規模制造虛假信息，影響沖突全周期。例如，深度偽造視頻在戰時可能被用于操縱輿論、擾亂民眾情緒，甚至干擾軍事決策。

（三）法律、政策與倫理挑戰

一是法律合規。核心挑戰在于確保人工智能的使用符合國際法，尤其是國際人道法、國際人權法和國際刑法。例如，國際人道法要求區分戰斗員與平民、避免過度傷害，而人工智能在作戰中的應用可能挑戰這些基本原則。此外，涉及人工智能系統的事件責任認定——國家、企業或個人——仍存在爭議，亟需明確法律框架。

二是政策治理。在國家層面，許多國家的軍事人工智能政策和戰略仍處于起步階段；在國際層面，缺乏專門針對軍事人工智能及其對國際和平與安全影響的多邊政策。目前相關討論多零散分布于各類專業機構，可能導致治理漏洞。

三是倫理問題。倫理挑戰主要包括人類在致命武力使用決策中的角色，聯合國秘書長明確反對將生死決策權交給算法；系統內可能存在的偏見和不平等，繼承自訓練數據或開發者的社會偏見，可能在目標識別或威脅評估中造成歧視；以及多方利益相關者參與治理的難題，需要整合私營部門、學術界等的意見，但不同主體在國家安全與開放技術之間的矛盾仍難以調和。

三、對策建議

（一）多邊層面

可在聯合國框架下推動多邊進程，建立全面討論軍事人工智能應用及其對國際和平與安全影響的平臺，以達成以下目標。

制定軍事領域負責任人工智能的核心原則，借鑒聯合國教科文組織等權威機構的倫理共識，統一各國努力、降低風險；將這些原則發展為自愿性國際規范或指南，同時可針對特定場景談判更嚴格的法律約束文件；為軍事人工智能建立信任措施，如自愿信息交換、特定部署通知、聯合技術專家組和事件報告機制，提高透明度與互信；促進多方利益相關者參與，吸納企業、學術界和民間社會的專業知識，確保國際規范可操作性；制定并實施能力建設計劃，使各國具備負責任使用人工智能的技術、制度和作戰能力，提高包容性。這些舉措旨在通過國際合作制定共同規則和知識共享機制，提高軍事人工智能整合的安全性和透明度，降低相關風險。

（二）區域層面

利用區域及次區域組織和對話機制推進人工智能治理。區域機構應將人工智能納入安全議程，成立專門工作組，制定反映本地背景的信任措施、規范或指南；建立最佳實踐信息共享網絡；開展聯合人工智能開發項目，以適應特定安全環境和威脅感知，為全球對話提供參考。跨區域對話可促進多個區域集團交流經驗、協調方法，避免信息孤島，提高應對人工智能風險的整體準備水平。

（三）國家層面

1.制定和實施國家安全與國防人工智能戰略。各國政府應牽頭制定全面戰略，明確軍事人工智能的愿景、優先領域及治理結構，并確保符合倫理與國際法。戰略需涵蓋實施、審查和更新流程，以及數據治理與人工智能保障等實質內容。通過跨部門協作和國內利益相關方咨詢制定，并通過具體行動計劃落實、監測和定期更新。

2.建立健全治理結構和審查流程。在國防機構內設立常設人工智能治理機構及軍民跨部門工作組，評估新技術發展、預判雙重用途問題并制定保障措施。將人工智能考量納入采購指南、法律審查等流程，進行迭代檢查，確保系統合規。

3.實施透明度和問責制措施。政府和國防組織應記錄人工智能系統決策日志并上報重要事件；在安全允許范圍內，通過公開戰略文件或政策聲明披露軍事人工智能方法。明確指揮官對人工智能系統的責任，并制定事故調查方案，必要時公開調查結果及糾正措施。

4.優先考慮數據治理和質量。國防組織和監管機構應實施穩健的數據治理框架，投資高質量、具代表性的細分數據集，建立數據驗證和更新程序，強化數據安全。在部署前規范數據的收集、處理、使用、存儲及銷毀，解決隱私、偏見最小化和數據來源等問題。

5.采用全生命周期管理方法。在人工智能系統的設計、開發、測試、部署、更新和撤銷全周期中，持續進行風險評估和緩解。通過嚴格的保障流程、合規設計、采購流程激勵、安全監測及穩健撤銷規劃，確保系統安全合規的持續性并降低擴散風險。

6.投資人力資本和培訓。國防組織應與私營部門及教育機構合作，開展廣泛培訓項目，培養具備人工智能技術、倫理和法律知識的軍官與專家。在采購或轉讓系統時納入培訓要求，在軍事演習中融入定制場景，提升人員與系統的互動經驗。通過軍事對話分享經驗，幫助理解人工智能能力與局限。

7.審查軍事操作指南以加強人工智能治理。國防組織和部隊領導層需調整現有或制定新的軍事條令、標準作戰程序和戰術文件，將人工智能的影響納入考量。審查并更新交戰規則，確保引入人工智能后的責任鏈清晰，軍事行動符合國際和國內法律框架。

四、結論

人工智能在軍事領域的整合既帶來重要機遇，也對國際和平與安全構成復雜挑戰。各國和利益相關方已認識到，采取積極協作和對話至關重要。通過有效治理和多方協作，能夠發揮人工智能的戰略優勢，并降低潛在風險。軍事人工智能的成功整合不應僅以獲得的能力衡量，更應關注其在多大程度上維護乃至強化國際和平與安全體系。本文為建立負責任的軍事人工智能治理框架提供了建議，但其實施不僅需要政治意愿和資源支持，有時還需推動內部文化變革。

免責聲明：本文轉自啟元洞見。文章內容系原作者個人觀點，本公眾號編譯/轉載僅為分享、傳達不同觀點，如有任何異議，歡迎聯系我們！

轉自丨啟元洞見

研究所簡介

國際技術經濟研究所（IITE）成立于1985年11月，是隸屬于國務院發展研究中心的非營利性研究機構，主要職能是研究我國經濟、科技社會發展中的重大政策性、戰略性、前瞻性問題，跟蹤和分析世界科技、經濟發展態勢，為中央和有關部委提供決策咨詢服務?！叭蚣夹g地圖”為國際技術經濟研究所官方微信賬號，致力于向公眾傳遞前沿技術資訊和科技創新洞見。

地址：北京市海淀區小南莊20號樓A座

電話：010-82635522

微信：iite_er