采用以人為本的方法發(fā)展與使用人工智能：ICRC東亞代表處主任史德林在世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會的講話

11月8日，紅十字國際委員會主席中國事務(wù)個人特使、東亞地區(qū)代表處主任史德林應(yīng)邀出席2025世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會，并在人工智能技術(shù)創(chuàng)新與治理論壇上發(fā)表講話。

圖片來源：主辦方

采用以人為本的方法

發(fā)展與使用人工智能

尊敬的來賓，

女士們、先生們，

首先，感謝主辦方邀請紅十字國際委員會參加本次論壇，能夠在此就發(fā)展與使用人工智能與各位分享來自人道視角的觀點，我深感榮幸。

紅十字國際委員會是一個公正、中立和獨立的組織。自1863年以來，紅十字國際委員會的唯一目標(biāo)就是確保武裝沖突和其他暴力局勢下的受影響民眾獲得人道保護(hù)與援助。

那么，紅十字國際委員會這樣一個人道組織，為什么要討論人工智能呢？

簡單來說，人工智能的快速發(fā)展為人道部門帶來了重大機(jī)遇，但也帶來了新風(fēng)險。

紅十字國際委員會致力于探索人工智能的進(jìn)步是否能夠、如何能夠、以及在何時何地能夠幫助我們實現(xiàn)人道使命。同時，對于人工智能為身處沖突或其他暴力局勢中民眾的生命和尊嚴(yán)帶來的風(fēng)險，我們也深感有責(zé)任加強(qiáng)理解并減輕此類風(fēng)險，并倡導(dǎo)相關(guān)方負(fù)責(zé)任地使用人工智能。

人工智能對人道組織有諸多潛在益處。例如，紅十字國際委員會開發(fā)了自己的聊天機(jī)器人，便于工作人員獲取信息和起草報告。以人工智能為基礎(chǔ)的視覺識別技術(shù)能夠?qū)ψ詰?zhàn)區(qū)回收的文件照片、軍人身份牌和書面報告進(jìn)行分析，如今已經(jīng)用于識別失蹤的平民和戰(zhàn)斗員。此外，目前正在進(jìn)行測試，將人工智能用于優(yōu)化援助物資的運輸路線，改善分布式網(wǎng)絡(luò)的資源分配，并支持情景規(guī)劃和模擬推演。

與此同時，如果使用不完整、過時、錯誤或含有偏見的數(shù)據(jù)訓(xùn)練人工智能系統(tǒng)，可能會產(chǎn)生錯誤預(yù)測和不當(dāng)決策。這可能會導(dǎo)致某些群體的代表性過高，同時對特定種族、國籍、性別或年齡群體產(chǎn)生偏見，阻礙他們獲得援助，甚至讓他們面臨更大風(fēng)險。對于本就在沖突和危機(jī)中艱難度日的社區(qū)而言，這種風(fēng)險不可接受。

另外，紅十字國際委員會也在評估交戰(zhàn)各方發(fā)展和使用人工智能所帶來的風(fēng)險，這些風(fēng)險塑造了我們開展行動的環(huán)境。例如，生成式人工智能和其他數(shù)字技術(shù)顯著加快了有害信息的傳播，從而加劇社會分化，削弱人道工作者得到的信任、接受與安全保障，并增加平民遭受傷害的風(fēng)險。

2024年，紅十字國際委員會發(fā)布了人工智能機(jī)構(gòu)政策，為本組織探索利用人工智能助力實現(xiàn)人道使命提供了指導(dǎo)。這一政策旨在確保本組織上下使用人工智能時始終做到負(fù)責(zé)、安全且協(xié)調(diào)一致，最重要的是，以人為本。

點擊圖片，了解紅十字國際委員會人工智能機(jī)構(gòu)政策

通過采用以人為本的方法，紅十字國際委員會維護(hù)一個簡單但有力的原則：技術(shù)必須服務(wù)于人類。無論人工智能系統(tǒng)如何進(jìn)步，事關(guān)民眾生命、權(quán)利和尊嚴(yán)的決策必須始終掌握在人類手中。雖然人工智能有助于提高人道工作的效果，但它無法取代人類的判斷力、同理心與責(zé)任感。

作為人道組織，與受影響民眾保持并加強(qiáng)近距離接觸和親近感非常重要，這會幫助我們建立信任，以響應(yīng)不斷變化的各類需求。人工智能無法取代人與人之間的溝通互動。因此，紅十字國際委員會在使用與發(fā)展人工智能解決方案時，特別注重確保這不會削弱人與人之間直接溝通、展示人道關(guān)懷和同理心的能力。

與此同時，遭到濫用或設(shè)計不當(dāng)?shù)娜斯ぶ悄芸赡軙觿∑缫暋⒁胗泻ζ姟⑸踔链呱鲂碌呐懦庑问剑瑢σ呀?jīng)飽受苦難的社區(qū)造成更深重的傷害。

正因如此，紅十字國際委員會始終堅持審慎使用人工智能，僅用于其真正能夠帶來價值的領(lǐng)域，確保解決方案公平、透明，并力求遵循人道部門長期堅持的“不傷害”原則。

圖片來源：主辦方

女士們、先生們，

我們正面對著一個變亂交織的世界，安全失序、發(fā)展失衡和治理失效日益突出。目前，紅十字國際委員會統(tǒng)計的全球武裝沖突數(shù)量已超過130場，這一數(shù)字在過去15年中增長逾倍。許多沖突伴隨著激烈的暴力，廣泛的破壞和對人道援助的限制。

作為人道組織，紅十字國際委員會無法制止沖突。但是為了有效援助武裝沖突中的民眾，紅十字國際委員會必須首先評估當(dāng)前及未來短期內(nèi)武裝沖突發(fā)展所帶來的影響。

事實上，將人工智能融入軍事行動已經(jīng)引發(fā)了許多法律、倫理和人道關(guān)切。例如，人工智能輔助決策支持系統(tǒng)正以超越人類認(rèn)知能力的方式，影響著武裝沖突中選擇攻擊目標(biāo)的軍事決策過程并加快決策速度，而這可能會帶來決策質(zhì)量的下降。同時，自主人工智能體能夠在短短幾秒鐘內(nèi)對民用服務(wù)發(fā)動復(fù)雜網(wǎng)絡(luò)攻擊，這將大幅減少發(fā)現(xiàn)并防止此類攻擊的響應(yīng)時間。另外，未來若使用自主武器系統(tǒng)，會出現(xiàn)適用目標(biāo)范圍更廣、使用時間更長以及人類干預(yù)機(jī)會更少的情況。

為了應(yīng)對這些問題，紅十字國際委員會今年向聯(lián)合國秘書長提交了一份立場文件，闡釋本組織的觀點并呼吁制定明確規(guī)則，限制或禁止自主武器系統(tǒng)。

本組織堅定不移地秉持一項原則：無論自主武器系統(tǒng)的技術(shù)如何精進(jìn)，人類必須掌握最終控制權(quán)。

女士們、先生們，

2023年，在會見紅十字國際委員會主席米里亞娜·斯波利亞里茨時，習(xí)近平主席強(qiáng)調(diào)“中國始終是國際人道主義事業(yè)的積極擁護(hù)者、參與者和貢獻(xiàn)者。”

今年適逢紅十字國際委員會東亞地區(qū)代表處在北京成立20周年。

中國是具有重要國際影響力的大國，也是紅十字國際委員會的全球主要采購中心之一，紅十字國際委員會正在深入理解中國對國際合作、發(fā)展、武裝沖突與和平的觀點。與此同時，紅十字國際委員會正在擴(kuò)大與中國的各領(lǐng)域合作，尤其是技術(shù)部門的合作。借助世界互聯(lián)網(wǎng)大會等重要平臺，紅十字國際委員會正積極加強(qiáng)與中國技術(shù)部門的溝通接觸，探索使用中國人工智能和其他技術(shù)解決方案為人道行動提供支持的可能性，并就其負(fù)責(zé)任的使用與發(fā)展方面促進(jìn)對話溝通。

女士們、先生們，

人工智能正在重塑世界，速度超出想象。對紅十字國際委員會來說，我們的選擇清晰明了：人工智能必須始終服務(wù)于人類——守護(hù)尊嚴(yán)、保全生命，并且絕不能取代人類悲憫之心這一人道行動的核心。這就意味著，我們要積極采納能夠加強(qiáng)人道行動的創(chuàng)新技術(shù)，但堅決抵制削弱人類控制、問責(zé)機(jī)制或悲憫之心的使用方式。這也意味著，我們要與中國在內(nèi)的全球合作伙伴攜手共建規(guī)則與保障機(jī)制，讓人工智能成為保護(hù)之力，而非傷害之源。

謝謝大家。

01

●出版物甄選 | 《紅十字國際委員會的人工智能政策》

02

●紅十字國際委員會舉辦專題討論 聚焦人工智能在武裝沖突中的運用

03

●活動預(yù)告 | 從國際人道法到人道行動：探索通向和平的路徑

04

● ICRC在華二十年 | 高層訪華 持續(xù)推動與中國戰(zhàn)略合作

紅十字國際委員會