發(fā)言| 人工智能及其治理的國際規(guī)則塑造：人道考量

日前，紅十字國際委員會主席中國事務(wù)個人特使、東亞地區(qū)代表處主任史德林應(yīng)邀出席2025世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會。在11月8日的上，史德林介紹了人工智能技術(shù)在人道領(lǐng)域的應(yīng)用和風(fēng)險，呼吁各方攜手共建規(guī)則與保障機制，讓人工智能成為保護之力，而非傷害之源。在11月9日舉辦的網(wǎng)絡(luò)空間國際規(guī)則論壇上，史德林重點闡述了在制定人工智能及其治理的國際規(guī)則時必須關(guān)注的若干關(guān)鍵人道考量。

圖片來源：主辦方

人工智能及其治理的

國際規(guī)則塑造：人道考量

在開始發(fā)言內(nèi)容之前，請允許我簡要介紹我所任職的組織——紅十字國際委員會。紅十字國際委員會是一個公正、中立和獨立的組織，其特有的人道使命是保護武裝沖突和其他暴力局勢受難者的生命與尊嚴，并向他們提供援助。160多年來，紅十字國際委員會在無數(shù)戰(zhàn)爭和武裝沖突中開展行動，為亟需幫助之人提供援助。

紅十字國際委員會在戰(zhàn)爭和沖突中開展行動的獨特職責，使我們得以親眼目睹了這些局勢對平民居民的影響，這些來自一線的觀察深刻影響了我們對國際法發(fā)展的貢獻，也構(gòu)成了我今天發(fā)言的基礎(chǔ)。

今天，我將重點闡述在制定人工智能及其治理的國際規(guī)則時必須關(guān)注的若干關(guān)鍵人道考量。

首先，我想談?wù)勛灾魑淦飨到y(tǒng)中人工智能的使用問題。

紅十字國際委員會認為，自主武器系統(tǒng)是在沒有人類干預(yù)的情況下選擇目標并對其使用武力的武器系統(tǒng)。這就意味著，自主武器系統(tǒng)在最初由人啟動或發(fā)射后，能夠自行選擇目標并發(fā)動攻擊。隨著人工智能技術(shù)的發(fā)展，人工智能完全可以在自主武器系統(tǒng)中用于執(zhí)行目標識別和選擇。換言之，如今存在將事關(guān)生死的決策交由機器完成，而幾乎或完全無需人類干預(yù)的現(xiàn)實能力。

因此，自主武器系統(tǒng)無疑會帶來人道、法律和倫理方面的嚴重關(guān)切。由機器作出的殺戮決定能否遵守國際人道法？如果機器出錯，誰該為違法行為承擔責任并接受問責？國際人道法要求軍事決策中必須有人類的判斷和決策，因為人類生命神圣不可侵犯，絕不能由機器作出生殺予奪的裁斷。

沖突帶來的人道代價，往往表現(xiàn)為平民死亡和民用物體被毀，這些都是真切的現(xiàn)實后果，絕不應(yīng)該被簡化為冰冷的統(tǒng)計數(shù)字、代碼和算法。

為了應(yīng)對這些關(guān)切，紅十字國際委員會敦促各國就自主武器系統(tǒng)制定國際規(guī)則。具體而言，國際規(guī)則應(yīng)規(guī)定禁止使用不可預(yù)測的自主武器系統(tǒng)，以及禁止使用自主武器系統(tǒng)攻擊人類。截至目前，有關(guān)自主武器系統(tǒng)的討論仍在持續(xù)進行，例如聯(lián)合國相關(guān)進程中的討論。紅十字國際委員會和聯(lián)合國秘書長在2026年前就自主武器系統(tǒng)開展談判并達成具有法律約束力的國際規(guī)則。

其次，我想談?wù)勅斯ぶ悄茉谲娛骂I(lǐng)域更廣泛的使用，例如在軍事規(guī)劃和決策等方面。

誠然，當代武裝沖突中已經(jīng)出現(xiàn)了用于軍事用途的人工智能決策支持系統(tǒng)，這些計算機工具能夠整合多種來源的數(shù)據(jù)（例如衛(wèi)星圖像、傳感器數(shù)據(jù)、社交媒體信息流），并基于這些數(shù)據(jù)進行分析、提出建議或作出預(yù)判。例如，人工智能決策支持系統(tǒng)可以分析無人機拍攝素材，并使用圖像分類技術(shù)在武裝沖突中識別并對潛在攻擊目標進行分類。人工智能決策支持系統(tǒng)能夠?qū)_突進程由人類速度加速為機器速度，而這會帶來重大風(fēng)險。

另一個令人擔憂的問題在于將人工智能用于指導(dǎo)核武器或其他大規(guī)模毀滅性武器的使用決策，這可能會加劇核武器使用的風(fēng)險，并造成災(zāi)難性的后果。

從人道角度出發(fā)，使用人工智能決策支持系統(tǒng)可能會在武裝沖突中為平民和其他受保護人員帶來額外的風(fēng)險。這背后有多種原因，既有人工智能固有的“黑箱問題”，還有人工智能并不適合執(zhí)行戰(zhàn)場上的所有任務(wù)，以及人工智能偏見等問題。這并不是說人工智能無法為人類決策提供支持，但人工智能絕不能取代人類決策，尤其在軍事領(lǐng)域更是如此。強調(diào)人類控制和人類判斷，理應(yīng)成為制定人工智能國際規(guī)則的首要原則。

2025世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會，網(wǎng)絡(luò)空間國際規(guī)則論壇

圖片來源：主辦方

剛才我談的都是人工智能帶來的風(fēng)險，但人工智能同時也為人道領(lǐng)域帶來了諸多機遇。正如中國《人工智能全球治理行動計劃》中所提到的，“人工智能帶來前所未有發(fā)展機遇，也帶來前所未遇風(fēng)險挑戰(zhàn)”。紅十字國際委員會的工作也印證了這一點，我們使用人工智能為人道行動提供支持，并取得了積極成果。

我相信，制定國際規(guī)則定將發(fā)揮關(guān)鍵作用，推動人工智能的使用遵守國際法并符合倫理和人道價值。人工智能與世間任何工具一樣，如何使用取決于使用者，而使用者的行為則由法律法規(guī)指導(dǎo)。

目前，從聯(lián)合國進程到地區(qū)及雙邊論壇，許多論壇正在就人工智能監(jiān)管開展討論，未來可期。但不可否認的是，當前討論和磋商的進度遠不及該領(lǐng)域技術(shù)創(chuàng)新的速度。另外，還必須注意，相關(guān)討論不能只關(guān)注人工智能的和平利用，卻忽視在軍事領(lǐng)域使用人工智能可能會對平民帶來破壞性影響這一現(xiàn)實情況。我們必須共同將人道精神置于人工智能討論的核心位置。人工智能及其治理的國際規(guī)則制定必須始終堅持以人為本，確保無論如何都充分納入人道考量。

01

●出版物甄選 | 《紅十字國際委員會的人工智能政策》

02

●紅十字國際委員會舉辦專題討論 聚焦人工智能在武裝沖突中的運用

03

●蘇丹 | 紅十字國際委員會在法希爾及周邊開展的應(yīng)對工作

04

● 紅十字國際委員會如何在哈馬斯-以色列停火協(xié)議框架下協(xié)助遺體返還

紅十字國際委員會