誰(shuí)在主導(dǎo)戰(zhàn)場(chǎng)？算法還是人類(lèi)？

來(lái)源：滾動(dòng)播報(bào)

（來(lái)源：上觀新聞）

美國(guó)和以色列發(fā)起軍事行動(dòng)以來(lái)，伊朗權(quán)力核心接連遭遇定點(diǎn)打擊。先是最高領(lǐng)袖哈梅內(nèi)伊，而后是最高國(guó)家安全委員會(huì)秘書(shū)拉里賈尼、情報(bào)部長(zhǎng)哈提卜，再到伊斯蘭革命衛(wèi)隊(duì)海軍司令坦格西里、軍方石油部門(mén)負(fù)責(zé)人埃沙基等。

一連串精準(zhǔn)而高頻的“斬首行動(dòng)”背后，一個(gè)隱蔽的變化正在發(fā)生：情報(bào)處理與作戰(zhàn)決策的節(jié)奏被人工智能（AI）大幅壓縮。這不僅改變了戰(zhàn)爭(zhēng)效率，也將倫理、責(zé)任與技術(shù)邊界問(wèn)題推至前臺(tái)。

“殺傷鏈”閉合加速

“我們對(duì)德黑蘭的了解程度就像對(duì)耶路撒冷一樣。”一名以色列情報(bào)官員在以軍完成擊殺哈梅內(nèi)伊的行動(dòng)后這樣說(shuō)道。

在哈梅內(nèi)伊遇害前，以色列情報(bào)部門(mén)就已深度滲透伊朗首都德黑蘭的監(jiān)控網(wǎng)絡(luò)。通過(guò)入侵交通監(jiān)控?cái)z像頭，結(jié)合AI算法分析，以軍對(duì)伊朗政權(quán)核心人物的生活軌跡了如指掌，為后來(lái)的軍事行動(dòng)收集并建立起一套完備的敵方行動(dòng)資料。

世界文化遺產(chǎn)伊朗“玫瑰宮”在美以空襲中受損。圖IC

掌握足夠的情報(bào)只是基礎(chǔ)，真正改變“游戲”規(guī)則的是收到情報(bào)后的決策速度。“僅僅60秒。”曾負(fù)責(zé)以色列情報(bào)機(jī)構(gòu)摩薩德下屬反恐部門(mén)的艾拉姆表示，“現(xiàn)代戰(zhàn)場(chǎng)不再僅僅由坦克和飛機(jī)構(gòu)成，還取決于數(shù)據(jù)、獲取渠道、信任和時(shí)機(jī)。一分鐘就能改變一個(gè)地區(qū)的格局。”

在籌備多年的精密計(jì)劃與AI系統(tǒng)的協(xié)同下，此次軍事行動(dòng)呈現(xiàn)出前所未有的速度與效率。據(jù)新華社報(bào)道，在行動(dòng)最初24小時(shí)內(nèi)，美軍就在AI協(xié)助下打擊了伊朗境內(nèi)超過(guò)1000個(gè)目標(biāo)。截至3月25日，據(jù)美軍中央司令部司令庫(kù)珀稱(chēng)，這一數(shù)字已經(jīng)突破1萬(wàn)。

是什么按下了戰(zhàn)事的“快進(jìn)鍵”？答案指向美國(guó)帕蘭蒂爾公司開(kāi)發(fā)的“梅文智能系統(tǒng)”戰(zhàn)場(chǎng)情報(bào)平臺(tái)。這一平臺(tái)嵌入了AI初創(chuàng)企業(yè)Anthropic公司研發(fā)的生成式AI模型“克勞德”，用于情報(bào)數(shù)據(jù)分析、目標(biāo)識(shí)別與優(yōu)先級(jí)排序。借助該模型，只要20個(gè)人就可以完成2000人才能完成的任務(wù)。

從日常出行路線、工作時(shí)間、會(huì)面對(duì)象、作息規(guī)律到隨行人員的身份信息，AI建立起一套精密的行為預(yù)測(cè)模型。當(dāng)哈梅內(nèi)伊的生活模式被拆解為算法可讀、可預(yù)測(cè)的參數(shù)，在以色列看來(lái)，他就不再是不可觸及的目標(biāo)。

戰(zhàn)事開(kāi)始后的短短二十天內(nèi)，伊朗官方接連確認(rèn)了十多名軍政核心高官的殉職。在這份名單背后，AI扮演的角色已不再是“輔助工具”，而是深度參與從情報(bào)篩選到目標(biāo)確認(rèn)的每一個(gè)環(huán)節(jié)，讓“殺傷鏈”的閉合速度越來(lái)越快。

其實(shí)，類(lèi)似的場(chǎng)景在更早的加沙戰(zhàn)場(chǎng)上就已上演。“爸爸在哪兒”可不是什么親子真人秀節(jié)目，而是一款可以追蹤目標(biāo)并在目標(biāo)回家時(shí)向以軍發(fā)出警報(bào)的AI追蹤系統(tǒng)。該系統(tǒng)與用于識(shí)別潛在激進(jìn)分子的“薰衣草”系統(tǒng)搭配，成為以軍定點(diǎn)打擊哈馬斯武裝人員的“利器”。“但荒謬的是，你會(huì)發(fā)現(xiàn)被殺死的絕大多數(shù)是婦女和兒童。”消息人士說(shuō)。

再將時(shí)間軸拉至被稱(chēng)為“第一場(chǎng)AI戰(zhàn)爭(zhēng)”的俄烏戰(zhàn)場(chǎng)，AI的作用同樣經(jīng)歷了質(zhì)變：從最初的無(wú)人機(jī)輔助作戰(zhàn)，到最近驚現(xiàn)搭載高級(jí)AI的“幻影MK-1”持槍機(jī)器人。這款由美國(guó)公司研發(fā)、身高1.8米、體重80公斤的機(jī)器人可負(fù)重20公斤，行軍速度與人類(lèi)步兵相當(dāng)，能夠快速評(píng)估戰(zhàn)場(chǎng)環(huán)境并作出自主決策。

驚現(xiàn)俄烏戰(zhàn)場(chǎng)的“幻影MK-1”機(jī)器人。圖IC

戰(zhàn)爭(zhēng)的“殺傷鏈”正在被算法重新定義，這也折射出AI軍事化進(jìn)程中的更深層次問(wèn)題：究竟如何看待技術(shù)被嵌入戰(zhàn)爭(zhēng)機(jī)器、AI深度介入戰(zhàn)爭(zhēng)決策？面對(duì)個(gè)別強(qiáng)勢(shì)政府，科技企業(yè)能否守住倫理底線？

AI公司立場(chǎng)分化

AI在戰(zhàn)場(chǎng)上的角色不斷變化，科技公司與政府之間的“合作共贏”也不再那么純粹，利益、倫理與法律等諸多問(wèn)題漸漸浮出水面。

OpenAI、谷歌、Anthropic等公司去年分別與美國(guó)國(guó)防部簽署價(jià)值高達(dá)2億美元的合同，將各自技術(shù)集成到五角大樓的軍事系統(tǒng)中。然而，Anthropic的合作有其邊界。“我最擔(dān)心的是‘掌握按鈕的人’太少，不需要其他人配合執(zhí)行命令，一兩個(gè)人就能操控一支無(wú)人機(jī)部隊(duì)。”Anthropic聯(lián)合創(chuàng)始人兼首席執(zhí)行官阿莫迪在一篇文章中表示對(duì)AI應(yīng)用于軍事領(lǐng)域的顧慮。

在美國(guó)準(zhǔn)備對(duì)伊朗展開(kāi)軍事行動(dòng)前，Anthropic堅(jiān)持其技術(shù)不應(yīng)用于大規(guī)模監(jiān)控或?yàn)樽灾髦旅淦魈峁﹦?dòng)力，與五角大樓的合同談判因此破裂。此后，因被五角大樓列為供應(yīng)鏈風(fēng)險(xiǎn)企業(yè)，Anthropic對(duì)美國(guó)國(guó)防部提起訴訟，稱(chēng)相關(guān)決定侵犯其商業(yè)與言論權(quán)利，雙方對(duì)峙迅速升級(jí)。

然而，并非所有科技公司都選擇與軍方保持距離。在上海政法學(xué)院東北亞研究中心副主任楊震看來(lái)，資本的貪婪加上帝國(guó)黷武的本性，會(huì)使高科技公司融入軍工復(fù)合體中。“五角大樓大概率會(huì)利用資本的貪婪對(duì)這些科技公司進(jìn)行內(nèi)部瓦解，最終使它們重新與軍方合作。”

伊朗首都德黑蘭的阿扎迪體育場(chǎng)被炸毀。圖IC

“像Anthropic這樣的科技公司想要獨(dú)善其身是不可能的。”北京亦莊人工智能研究院執(zhí)行院長(zhǎng)房超認(rèn)為，當(dāng)技術(shù)的強(qiáng)大能力被世界“看見(jiàn)”，它就難以與國(guó)防和國(guó)家安全脫離。核能被發(fā)現(xiàn)之初，許多科學(xué)家曾堅(jiān)決反對(duì)其軍事化，但最終它仍被投入戰(zhàn)場(chǎng)。“尤其是在美國(guó)，類(lèi)似案例一定會(huì)再度發(fā)生。”

果然，就在美國(guó)國(guó)防部長(zhǎng)赫格塞斯宣布Anthropic構(gòu)成供應(yīng)鏈風(fēng)險(xiǎn)的同一天，OpenAI與美國(guó)國(guó)防部達(dá)成協(xié)議，允許其技術(shù)用于機(jī)密軍事系統(tǒng)。谷歌旗下AI企業(yè)DeepMind全球事務(wù)副總裁湯姆·盧也表示，公司已于2025年更新AI原則，將2018年許下的“不使用谷歌技術(shù)開(kāi)發(fā)武器或用于監(jiān)視目的”的承諾刪除。

在利潤(rùn)豐厚的國(guó)防合同面前，美國(guó)科技公司紛紛調(diào)整政策，將曾經(jīng)為技術(shù)應(yīng)用劃定的倫理紅線“挪走”，重新開(kāi)放與軍方的合作空間。這不禁讓人思考：科技公司如何能一邊與五角大樓合作，一邊堅(jiān)持安全原則？這不僅考驗(yàn)處于輿論風(fēng)口的企業(yè)，也是全人類(lèi)必須面對(duì)的共同難題。

拷問(wèn)責(zé)任與安全

科技企業(yè)與政府的合作和紛爭(zhēng)尚可訴諸法律、厘清責(zé)任，可當(dāng)戰(zhàn)場(chǎng)上“誰(shuí)是目標(biāo)”的決定權(quán)從人轉(zhuǎn)移到算法手中，誰(shuí)來(lái)為AI誤判導(dǎo)致的平民傷亡負(fù)責(zé)？誰(shuí)來(lái)監(jiān)督AI的運(yùn)行？怎樣的監(jiān)督才符合人道主義底線？這些問(wèn)題關(guān)乎百姓的生命安全，拷問(wèn)著人類(lèi)的道德邊界，也關(guān)系著當(dāng)前的國(guó)際安全格局。

美軍中央司令部司令庫(kù)珀表示：“人類(lèi)仍會(huì)對(duì)射擊什么目標(biāo)以及何時(shí)射擊作出最終決定，但先進(jìn)的AI工具可以將過(guò)去需要數(shù)小時(shí)甚至數(shù)天才能完成的過(guò)程縮短到幾秒鐘。”

然而，人類(lèi)作出最終決定，就能代表人類(lèi)是戰(zhàn)爭(zhēng)的“真正主導(dǎo)者”嗎？

有消息人士表示，在加沙戰(zhàn)場(chǎng)上，看似由人類(lèi)操作員最終確認(rèn)作出的轟炸決定，其實(shí)是由算法作出的，人類(lèi)只是扮演最后一個(gè)環(huán)節(jié)中形式上的確認(rèn)者，仿佛一枚無(wú)實(shí)質(zhì)決策權(quán)的“橡皮圖章”。因?yàn)樵诖_認(rèn)轟炸前，以軍操作人員只會(huì)花約20秒查看目標(biāo)。這20秒里，他們確認(rèn)的僅僅是AI標(biāo)記的目標(biāo)性別。

更令人難以置信的是，以軍明知AI系統(tǒng)有約10%出錯(cuò)率，偶爾還會(huì)將與武裝組織只有松散聯(lián)系甚至毫無(wú)聯(lián)系的人標(biāo)記在名單上，卻仍對(duì)其提供的目標(biāo)名單高度依賴(lài)。此外，AI系統(tǒng)從發(fā)出警報(bào)到實(shí)施轟炸之間存在時(shí)間差，以軍是否會(huì)在此期間核實(shí)目標(biāo)的變化？答案恐怕是否定的。

“有一次我們了解到目標(biāo)人物晚上在家，于是在凌晨轟炸了那棟房屋。”一名消息人士說(shuō)，“但事后發(fā)現(xiàn)，目標(biāo)人物早已帶著家人搬到了別處，而我們轟炸的那棟樓里還住著另外兩戶(hù)有孩子的家庭。”

AI系統(tǒng)導(dǎo)致的平民傷亡早已不勝枚舉，責(zé)任歸屬卻難以界定。在整條決策鏈上，該負(fù)責(zé)的究竟是誰(shuí)？

在楊震看來(lái)，在人工審核環(huán)節(jié)被大幅壓縮的情況下，“人類(lèi)在環(huán)”正被弱化。“目前法律在這一領(lǐng)域幾乎還是空白，這無(wú)疑會(huì)引發(fā)巨大的倫理問(wèn)題。當(dāng)前出現(xiàn)的不幸事件必須從法律、技術(shù)以及政治等多個(gè)層面采取措施加以制止，否則后果不堪設(shè)想。”

“在AI面前，人類(lèi)是否還具備真正的判斷能力？”房超直指一個(gè)更核心、更值得深思的問(wèn)題。在他看來(lái)，AI系統(tǒng)判斷的閾值標(biāo)準(zhǔn)就像瓶蓋，是擰緊還是擰松，歸根結(jié)底由人類(lèi)調(diào)節(jié)。在某種意義上，它其實(shí)就是人類(lèi)的一面鏡子，照出的看似是人類(lèi)使用AI的方式，實(shí)則是人類(lèi)對(duì)待生命的方式。“如果人類(lèi)無(wú)法通過(guò)這面鏡子審視自我，不愿承擔(dān)戰(zhàn)爭(zhēng)的責(zé)任，那戰(zhàn)爭(zhēng)的罪惡就會(huì)變得沒(méi)有止境。”

加沙地帶一處帳篷營(yíng)地區(qū)域遭以軍襲擊。圖IC

除此之外，AI軍事化帶來(lái)的治理難題也讓人們對(duì)未來(lái)的國(guó)際戰(zhàn)略格局、力量平衡及發(fā)展趨勢(shì)深感憂(yōu)慮。

房超從戰(zhàn)略平衡角度進(jìn)一步指出，AI在戰(zhàn)場(chǎng)上正從最初的輔助作用轉(zhuǎn)變?yōu)椴豢商娲暮诵牧α俊！拔覀兠媾R兩種可能：第一種是過(guò)去的核戰(zhàn)略平衡被AI打破，形成‘AI+核’的新戰(zhàn)略平衡；第二種則是純粹由AI產(chǎn)生的獨(dú)特戰(zhàn)略平衡。”

當(dāng)“殺傷鏈”的閉合被算法加速、人類(lèi)決策被壓縮為20秒的“蓋章”形式，這場(chǎng)軍事變革最終拷問(wèn)的不是技術(shù)，而是人類(lèi)能否守住最后的防線。

原標(biāo)題：《新民環(huán)球 | 誰(shuí)在主導(dǎo)戰(zhàn)場(chǎng)？算法還是人類(lèi)？》

欄目編輯：王若弦

來(lái)源：作者：晁晶、新民晚報(bào) 齊旭