演講 | 人工智能、倫理與武裝沖突

9月5日，為期兩天的以“AI時代的人道行動：連接與韌性”為主題的第四屆東吳國際人道論壇在蘇州開幕。

在主論壇上，紅十字國際委員會東亞地區代表處人道事務與政策主管菲奧娜·巴納比就“人工智能、倫理與武裝沖突”為題發表了主題演講。

各位閣下，
女士們、先生們：

首先，請允許我感謝中國紅十字會、中國紅十字基金會、紅十字國際學院、紅十字會與紅新月會國際聯合會以及中國紅十字會的慈善領域合作伙伴，共同舉辦以“人工智能時代的人道行動：連接與韌性”為主題的第四屆蘇州國際人道論壇。

今天，我想談談人工智能、倫理與武裝沖突。

正如紅十字國際委員會主席米里亞娜·斯波利亞里茨近期在一次公開發言中所示：現實已不容忽視——我們正處在一個被戰爭定義的十年。

結合本次論壇的主題，我想進一步補充：我們正處在一個將被人工智能定義的十年。

日益數字化和互聯的世界為社會、經濟、發展、人道、信息及通信領域帶來了機遇。這一進步

• 可以在武裝沖突中幫助拯救生命，改善生存條件。

• 可以為受影響人群提供物資和服務，比如醫療服務；幫助社區獲取能挽救生命的重要信息，并在武裝沖突中重建或維持家庭聯系。

紅十字國際委員會的中央尋人局和家庭聯系網絡正利用數字工具來幫助家庭團聚。“尋找面孔”（Trace the Face）就是這樣的一項舉措，在這個網站上，尋找失蹤親屬的人可以上傳和查看照片，以便相互找到對方。

毫無意外，數字技術的進步持續帶來諸多益處，也讓不愿落后于時代的人道工作者唯恐錯失良機。然而，這些技術進步也為受沖突影響的人群及試圖幫助他們的人道組織帶來了若干風險。我列舉三個趨勢：

• 用于網絡行動的人工智能針對平民或民用基礎設施發動襲擊，破壞此類基礎設施提供的基本服務。

• 沖突環境中有害信息的傳播（例如利用“深度偽造”技術制作逼真卻虛假的音視頻內容），可能對受沖突影響人群造成嚴重沖擊，引發流離失所，加劇沖突激烈程度，其后果遠不止于此。

• 人工智能被用于支持軍事決策，包括在無人工干預的情況下操控戰爭。

隨著全球各地的民眾日益依賴數字和電信網絡獲得基本服務、聯絡家人以及尋求幫助，武裝沖突中日益頻發的網絡中斷令人越發為民眾的安全和尊嚴感到擔憂。詳見：

根據近期新聞報道，某參與持續沖突的武裝力量開發的人工智能系統，在特定區域內識別出多達3.7萬個潛在打擊目標。這種技術看似具有驚人效率，仿佛能最大化軍事資源利用率。但弊端在于，該程序本身設定了10%的誤差容限，即3700名不應被列為目標的對象可能遭受打擊；更令人擔憂的是，攻擊授權竟因程序將特定數量平民依據其社會等級劃分為"可接受"的附帶損傷而被批準，或得到合法性認定。

人工智能技術不僅加速了戰爭節奏，更看似"增強"或“改善”了攻擊中的國際人道法合規性。

歡迎來到數字化、高速化、自動駕駛模式的戰爭新紀元。

事無善惡，思想使然。
人工智能本身無對錯，是人類的思維與抉擇賦予了其價值屬性。

事實上，人工智能的價值無法通過簡單的二元對立思維來體現。人類開發人工智能，并決定在武裝沖突中何時以及如何使用該技術。因此，紅十字國際委員會認為，任何新技術，以及任何新武器，都必須符合人道規則或倫理。

規制各方戰爭行為的規則并未就人工智能、自主武器或數字空間做出具體規定。就此而言，歷經時間錘煉的戰爭規則，即國際人道法，涉及三個特定作戰領域——空中、海上和陸地。隨著時間的推移，隨著新領域（如外層空間、數字空間甚至低空空間）的出現，紅十字國際委員會的信條始終如一：國際人道法適用于任何空間中使用任何武器或作戰方式，不存在治理或監管的空白。

沒有黑洞、灰色地帶或不受管制空間。這些規則和倫理力求在武裝沖突中維護人性微光，無論武裝沖突發生在何領域，無論使用何種數字工具，它們都持續適用。因此，關于如何作戰的倫理或規則是“技術中立”的，即使技術本身并非中立。

因此，紅十字國際委員會與技術利益相關方，無論是開發者、用戶、公司、從業者、愛好者、倡導者甚至反對者，就人工智能和技術的潛在影響進行交流，特別是對受沖突影響的人群和人道行動的影響。

隨著數字領域以閃電般的速度發展，人道組織面臨的挑戰是確保我們被視為中立、獨立的人道行動者，并以此身份參與其中。如果數字連接與韌性是地緣政治博弈的一部分，人道工作者就必須妥善應對其在準入、資金及接納等方面對國家、捐助方和受影響群體的依賴，確保我們能夠以中立和獨立的方式持續工作。

為此，紅十字國際委員會于2024年通過并發布了人工智能政策。這份政策文件將作為愿景工具，支持委員會負責任地使用數字技術并符合我們的人道使命。

掃描二維碼
即刻開啟閱讀

該政策確立了基于價值觀的人工智能使用方法，涉及人道原則（人道、公正、中立、獨立）以及賦能和學習，旨在促進合乎道德和有影響力的創新以及競爭力和能力建設。該政策還介紹了使用人工智能技術指導原則，包括比例原則、預防原則和“不傷害”原則，安全和安保，透明度與“可解釋性”、責任制和問責制。總結如下：

• 數字空間并非法外之地，包括在武裝沖突期間。

• 國家、科技公司和其他行為體最有條件確保負責任和符合倫理地使用人工智能。中國的全球人工智能治理倡議就是一個很好的例子。

• 它們有能力且應被鼓勵打造符合國際人道法及人道原則和倫理的數字工具，尤其在武裝沖突中。

• 保護平民免受數字威脅需要在立法、政策和實踐層面的投入。這符合去年紅十字與紅新月運動第34屆國際大會上通過的關于武裝沖突中信息通信技術的決議。

• 數字技術，如人工智能，在人道領域具有廣泛應用的潛力。紅十字國際委員會及該領域的其他組織應該且可以在堅守其人道原則的前提下，負責任且合乎倫理地探索人工智能。

數字技術本身并無善惡之分，賦予其善惡的是我們——開發者、用戶、消費者。

本屆東吳論壇由中國紅十字會總會、蘇州大學主辦，中國紅十字基金會、紅十字國際學院承辦，紅十字會與紅新月會國際聯合會、紅十字國際委員會支持。

來自聯合國、無國界醫生等國際組織和15個國家紅會，中國紅十字會總會及各地方分會，相關政府部門、社會組織、企業、高校負責人出席論壇并進行研討交流。

01

●阿富汗：紅十字國際委員會開展行動 應對致命地震災害

02

●加沙 | 紅十字戰地醫院行動概述

03

●一線故事 | 在敘利亞做“拆彈專家”

04

● 人道之星國際人道法網絡競賽 | 答題贏限量版紀念套裝

紅十字國際委員會