打擊伊朗，AI成了幫兇

戰(zhàn)爭(zhēng)新形態(tài)的序幕已經(jīng)拉開(kāi)。

據(jù)美國(guó)方面消息，美軍在2月28日斬首哈梅內(nèi)伊和1月2日擄走委內(nèi)瑞拉總統(tǒng)馬杜羅時(shí)，使用了人工智能公司Anthropic的大語(yǔ)言模式Claude進(jìn)行情報(bào)收集，識(shí)別敵人以及模擬作戰(zhàn)場(chǎng)景。再綜合1月9日美國(guó)五角大樓發(fā)布“以人工智能優(yōu)先的作戰(zhàn)力量”文件，可以說(shuō)人工智能進(jìn)入美軍作戰(zhàn)指揮系統(tǒng)的疑團(tuán)，已經(jīng)越來(lái)越讓人無(wú)法忽略。

軍事觀察家們認(rèn)為，哈梅內(nèi)伊在官邸跟家眷一起遇害的斬殺手法，非常類(lèi)似以色列國(guó)防軍使用Lavendar軟件對(duì)付加沙武裝人員的“爸爸在哪兒”模式。冷酷而精準(zhǔn)的AI工具，將改變戰(zhàn)爭(zhēng)的形態(tài)。

這場(chǎng)戰(zhàn)爭(zhēng)，指向一個(gè)不久的將來(lái)可能會(huì)出現(xiàn)的場(chǎng)景：一個(gè)活人，可能交由人工智能判斷是否該被消滅；屏幕中的幾行指令，可能決定萬(wàn)里之外一個(gè)國(guó)家領(lǐng)導(dǎo)層的存廢；計(jì)算機(jī)房里的算法，已經(jīng)決定了戰(zhàn)事要持續(xù)多長(zhǎng)時(shí)間。

特朗普/新華社記者 胡友松 攝

在選舉期間，多次主張對(duì)“軍工復(fù)合體”開(kāi)戰(zhàn)的特朗普，拿出了更加精準(zhǔn)、殺人更加無(wú)情的“軍工復(fù)合體”機(jī)器，一個(gè)“什么人該殺”和“什么時(shí)候殺人”的水晶球——為統(tǒng)帥和指揮官出謀劃策的人工智能系統(tǒng)。

“如果人工智能驅(qū)動(dòng)的響應(yīng)速度超越人類(lèi)決策速度，人類(lèi)在國(guó)家防務(wù)中的作用可能淪為次要角色，甚至淪為一個(gè)形式。”這是美國(guó)前國(guó)務(wù)卿亨利·基辛格在晚年最后一本書(shū)《人工智能時(shí)代》中傳達(dá)的警告。

一邊是烽煙四起的中東，一邊是指揮室里屏幕上的地圖，乃至跳出來(lái)的一行行代碼。后世歷史學(xué)家如果還有機(jī)會(huì)追究任何戰(zhàn)爭(zhēng)責(zé)任的話，那么他們可能會(huì)被“人工智能決定”這樣的借口搪塞。

“上帝視角”

當(dāng)?shù)貢r(shí)間2月28日上午9時(shí)40分，美以空軍準(zhǔn)時(shí)傾巢而出。當(dāng)時(shí)，伊朗最高領(lǐng)袖哈梅內(nèi)伊從深山里的地下掩體返回德黑蘭住處，跟國(guó)安幕僚開(kāi)會(huì)，從而把自己暴露在外國(guó)火力的短暫窗口中。

一開(kāi)戰(zhàn)就把哈梅內(nèi)伊和一眾國(guó)安決策層炸死，也就成為了整個(gè)“史詩(shī)震怒行動(dòng)”的序幕。

如此直接而快速地?cái)厥讛硣?guó)首腦，在過(guò)去戰(zhàn)爭(zhēng)歷史中幾乎前所未見(jiàn)。“假如二戰(zhàn)剛開(kāi)始第一天希特勒就被炸死了，往后會(huì)有什么發(fā)展？”英國(guó)時(shí)政博主、前國(guó)際合作與發(fā)展大臣羅里·斯圖亞特這樣說(shuō)。

“史詩(shī)震怒行動(dòng)”開(kāi)始不過(guò)4-5天，伊朗以及其支持的黎巴嫩真主黨等組織領(lǐng)導(dǎo)人，以小時(shí)為單位迅速在人間消失。殺死哈梅內(nèi)伊的同一天，參加會(huì)議的伊朗最高國(guó)家安全委員會(huì)秘書(shū)阿里·沙姆哈尼和國(guó)防部長(zhǎng)納西爾扎德等40名高官被殺。

伊朗最高領(lǐng)袖哈梅內(nèi)伊在美國(guó)和以色列對(duì)伊朗的襲擊中遇害/新華社

特朗普一天后宣稱(chēng)，其他能夠潛在接替哈梅內(nèi)伊的二號(hào)和三號(hào)人物相繼被殺死。伊朗的其他軍政高層更在開(kāi)戰(zhàn)兩天內(nèi)遭團(tuán)滅：從伊朗陸軍司令到革命衛(wèi)隊(duì)武裝司令逐一遇害。黎巴嫩真主黨在宣布針對(duì)以色列參戰(zhàn)后，其領(lǐng)導(dǎo)人Reda Khazai就被以色列國(guó)防軍斬首。

斬殺如此神速，背后除了有長(zhǎng)期鋪墊的情報(bào)網(wǎng)絡(luò)之外，推算其生活和工作出行模式的AI工具，也非常重要。根據(jù)美國(guó)媒體的報(bào)道，執(zhí)行“史詩(shī)震怒行動(dòng)”期間，美軍使用了由服務(wù)商Anthropic提供的大語(yǔ)言模型Claude輔助決策。

讓AI加入作戰(zhàn)輔助，為的是給美軍制造一個(gè)“上帝視角”：通過(guò)實(shí)時(shí)數(shù)據(jù)分析能力，可將海量分散的數(shù)據(jù)流整合到單一、統(tǒng)一的界面中。坐在電腦前的操作員，能從整個(gè)伊朗乃至中東的宏觀戰(zhàn)略全局，一下子放大到刺殺對(duì)象的個(gè)體細(xì)節(jié)，坐什么車(chē)，穿什么衣服，跟什么人會(huì)面。

也就在2月28日上午，美以軍方在伊朗164.5萬(wàn)平方公里的國(guó)土上，快速鎖定哈梅內(nèi)伊一個(gè)人的出沒(méi)地點(diǎn)。

Anthropic網(wǎng)站/圖源：視覺(jué)中國(guó)

在過(guò)去，要追蹤刺殺對(duì)象的行蹤，判斷他的生活軌跡和行為模式，需要情報(bào)人員花大量的時(shí)間進(jìn)行收集和比對(duì)。通過(guò)AI系統(tǒng)，這個(gè)漫長(zhǎng)的比對(duì)過(guò)程可以完全省略，從而加快鎖定刺殺對(duì)象的時(shí)間。

連同哈梅內(nèi)伊遇刺的，還有他的妻兒孫子。這種清除模式，也跟過(guò)去以色列國(guó)防軍在加沙地帶針對(duì)刺殺目標(biāo)的AI工具“Lavender”使用的策略有點(diǎn)相似：刺殺目標(biāo)進(jìn)入自家門(mén)口跟家人團(tuán)聚的時(shí)刻，比在戰(zhàn)壕中作戰(zhàn)時(shí)，更加容易被鎖定殺死。這就是所謂的“爸爸在哪兒”運(yùn)算模式。也就是這個(gè)模式，在刺殺作戰(zhàn)對(duì)象的同時(shí)殺死了其家人和鄰居，在加沙地帶導(dǎo)致了大量的無(wú)辜人員傷亡。

兵貴神速。這次戰(zhàn)爭(zhēng)，史無(wú)前例地實(shí)現(xiàn)了快速把敵軍乃至敵國(guó)的領(lǐng)導(dǎo)層消滅這個(gè)在過(guò)去難以想象的戰(zhàn)術(shù)目標(biāo)。也許是從第一次實(shí)戰(zhàn)成果中嗅出某些味道，資本已經(jīng)聞風(fēng)而動(dòng)。在開(kāi)戰(zhàn)后的周一，也就是開(kāi)戰(zhàn)后的第一個(gè)交易日，Palantir等多個(gè)有機(jī)會(huì)參與美國(guó)防務(wù)投資的人工智能公司股價(jià)應(yīng)聲而起。

隨著人工智能從輔助完成繁瑣工作走向作戰(zhàn)指揮，使用的底線和權(quán)限，也在美國(guó)政商界惹起爭(zhēng)議。

“以人工智能優(yōu)先”

“加速前沿模型的實(shí)驗(yàn)進(jìn)程”“消除人工智能部署的官僚障礙”“優(yōu)先發(fā)展計(jì)算與數(shù)據(jù)領(lǐng)域的非對(duì)稱(chēng)優(yōu)勢(shì)”“將人工智能融入核心決策循環(huán)”……這是美國(guó)戰(zhàn)爭(zhēng)部網(wǎng)站在今年1月9日發(fā)布的人工智能戰(zhàn)略文件。這份文件的核心，就是要把美軍打造為“以人工智能優(yōu)先的作戰(zhàn)軍隊(duì)”。

這份文件，相當(dāng)于宣告了美國(guó)的軍工復(fù)合體在特朗普第二任期完全投入到人工智能的競(jìng)賽中。在針對(duì)伊朗發(fā)動(dòng)軍事打擊前一天，特朗普和美國(guó)戰(zhàn)爭(zhēng)部就跟人工智能承包商Anthropic展開(kāi)了一場(chǎng)隔空罵戰(zhàn)。

開(kāi)戰(zhàn)稍早幾個(gè)小時(shí)前，美國(guó)戰(zhàn)爭(zhēng)部跟Anthropic的外包談判宣布破裂。戰(zhàn)爭(zhēng)部部長(zhǎng)海格塞斯部長(zhǎng)在社交媒體上認(rèn)定Anthropic為“供應(yīng)鏈風(fēng)險(xiǎn)”，切斷與其合作。特朗普也同時(shí)宣布，讓所有聯(lián)邦機(jī)構(gòu)在六個(gè)月內(nèi)清退Anthropic的所有外包服務(wù)。

特朗普和戰(zhàn)爭(zhēng)部部長(zhǎng)海格塞斯（右）/圖源：新華社

戰(zhàn)爭(zhēng)部對(duì)人工智能外包商的要求，包括他們給出的模型能夠用于“所有合法目的”。而Anthropic堅(jiān)持要在合同中設(shè)置“不能將AI用于大規(guī)模監(jiān)視公民”，“也不能在無(wú)人參與的情況下部署到自主武器中”等條款。而五角大樓的回應(yīng)則是，沒(méi)有任何私營(yíng)公司可以決定其工具如何被合法使用。

特朗普在社交媒體上把Anthropic形容為“某些失控的激進(jìn)左翼人工智能公司，由一群根本不懂現(xiàn)實(shí)世界的人所掌控”。

換句話說(shuō)，特朗普和海格塞斯對(duì)人工智能參與作戰(zhàn)的終極目標(biāo)就是——能直接幫忙打仗，能決定扣動(dòng)機(jī)槍殺人的時(shí)機(jī)。在Anthropic的創(chuàng)辦人達(dá)利歐·奧莫戴看來(lái)，這已經(jīng)違反了公司創(chuàng)辦之初的原則。在Anthropic出局美國(guó)戰(zhàn)爭(zhēng)部訂單后，其名下的產(chǎn)品Claude竟然在社交媒體上火了一陣子。

Anthropic的創(chuàng)辦人達(dá)利歐·奧莫戴/圖源：視覺(jué)中國(guó)

在相當(dāng)一部美國(guó)公眾看來(lái)，戰(zhàn)爭(zhēng)部的這一做法，相當(dāng)于把當(dāng)年美國(guó)在阿富汗和伊拉克使用Palantir系統(tǒng)的那一套監(jiān)控模式，套用在自己的身上。

而且，讓人工智能在使用武力時(shí)擁有更多的自主權(quán)限，也很有可能觸發(fā)不可收拾的局面。“戰(zhàn)爭(zhēng)是政治的延續(xù)”——從古至今，人類(lèi)之間的戰(zhàn)爭(zhēng)，一直是人作為戰(zhàn)事的最終決定者。但如果有一天人主動(dòng)把這個(gè)位置讓給人工智能，是否最終變成人工智能主導(dǎo)戰(zhàn)事？

基辛格的警告

如果人類(lèi)在熱戰(zhàn)中拍板決定的決策權(quán)，拱手讓給人工智能，可以設(shè)想一下，到了某個(gè)歷史轉(zhuǎn)折點(diǎn)，人工智能的自主意識(shí)發(fā)展成熟，自以為以“上帝視角”審視對(duì)手的三軍統(tǒng)帥，可能暗中已經(jīng)成為了被人工智能反過(guò)來(lái)指揮的一個(gè)棋子。

在跟Anthropic的爭(zhēng)執(zhí)中，海格塞斯和特朗普強(qiáng)調(diào)的是效果和速度；在針對(duì)伊朗的軍事行動(dòng)中，獵殺對(duì)方領(lǐng)導(dǎo)層講求的是速度。而在美國(guó)已故國(guó)務(wù)卿基辛格看來(lái)，人工智能收集信息并且作出判斷的速度，肯定遠(yuǎn)超人類(lèi)。

在以色列國(guó)防軍“爸爸在哪兒”的策略中，人工智能通過(guò)算法認(rèn)定參加家庭聚會(huì)的男人是獵殺對(duì)象時(shí)，坐在屏幕前的以色列軍人只有大概20秒時(shí)間去辨別和核準(zhǔn)，然后就按下獵殺的按鈕。在這套流程里，盡管人是最終按下殺人按鈕的主體，但實(shí)際上一整套采集信息和算法判斷的流程，已經(jīng)交給了人工智能。

美國(guó)五角大樓/ 新華社記者 劉杰 攝

而技術(shù)的擴(kuò)散總是攔不住的。正如美國(guó)在二戰(zhàn)末年率先研發(fā)出原子彈，不久之后蘇聯(lián)就獲得了相同的技術(shù)那樣，人工智能進(jìn)入多國(guó)作戰(zhàn)指揮系統(tǒng)的趨勢(shì)，現(xiàn)在看來(lái)已經(jīng)難以扭轉(zhuǎn)了。也許，到時(shí)候國(guó)與國(guó)的戰(zhàn)事也就變成了幾個(gè)人工智能體之間的較量。而這將從根本上改變戰(zhàn)爭(zhēng)的性質(zhì)。

荷蘭歷史學(xué)家魯特格·布萊格曼在《人類(lèi)——一段有希望的歷史》中認(rèn)為，智人之所以在繁衍上勝過(guò)尼安德特人，乃至其他靈長(zhǎng)類(lèi)動(dòng)物，靠的不是體力，不是體積，甚至不是智力，而是人與人之間還存在“善”。

他在書(shū)中引用了這樣一個(gè)調(diào)查數(shù)據(jù)：在珍珠港事件中，開(kāi)火還擊的美國(guó)軍人其實(shí)不到一半。這個(gè)調(diào)查的結(jié)論是，在實(shí)際戰(zhàn)爭(zhēng)中，愿意扣動(dòng)板門(mén)殺戮同類(lèi)的軍人，比例其實(shí)沒(méi)我們想象的高。

而人類(lèi)之所以進(jìn)化到一定階段后對(duì)殺戮感到惡心厭惡，是在數(shù)萬(wàn)年的演化中，保存了相互關(guān)愛(ài)和協(xié)作的傾向。也正是這種傾向，讓智人在眾多靈長(zhǎng)類(lèi)動(dòng)物中脫穎而出。

一旦殺人的任務(wù)真的有一天完全交給“會(huì)打仗的人工智能”，那些一串串沒(méi)有“善”的基因的代碼，在對(duì)速度和效率的追逐下，將會(huì)有多少碳基活人被人工智能在地球上抹去？

文中配圖部分來(lái)源于視覺(jué)中國(guó)，部分來(lái)源于網(wǎng)絡(luò)。首圖為伊朗首都德黑蘭拍攝的濃煙，來(lái)源于新華社

作者 |遠(yuǎn)游

編輯 |阿樹(shù)

值班主編 | 吳擎

排版 | 菲菲