到底有何風(fēng)險(xiǎn)？AI武器被應(yīng)用在中東戰(zhàn)場(chǎng)，引發(fā)安全和不可控?fù)?dān)憂

美國(guó)和以色列軍方在打擊伊朗的作戰(zhàn)行動(dòng)中，使用人工智能（AI）進(jìn)行快速篩選和確認(rèn)攻擊目標(biāo)，這前所未有地提升了情報(bào)處理和作戰(zhàn)效率，據(jù)稱美國(guó)在戰(zhàn)爭(zhēng)爆發(fā)后的24小時(shí)內(nèi)就攻擊了1000個(gè)目標(biāo)。這意味著未來在軍事領(lǐng)域運(yùn)用AI的趨勢(shì)已勢(shì)不可擋，但同時(shí)也引發(fā)人們?cè)诎踩院筒豢煽胤矫娴拿黠@擔(dān)憂。

美軍被指在本次打擊中主要使用的是由數(shù)據(jù)分析巨頭Palantir開發(fā)的Maven智能系統(tǒng)，借助AI分析數(shù)據(jù)，以識(shí)別目標(biāo)并排序優(yōu)先級(jí)。他們還將Anthropic開發(fā)的生成式AI大模型Claude集成到這個(gè)系統(tǒng)，用于處理和匯總前線情報(bào)并生成目標(biāo)，共同構(gòu)成一個(gè)針對(duì)伊朗行動(dòng)的實(shí)時(shí)數(shù)據(jù)分析平臺(tái)。

據(jù)稱這個(gè)平臺(tái)在策劃對(duì)伊朗的打擊行動(dòng)時(shí)，生成了包含上千個(gè)選項(xiàng)的潛在目標(biāo)數(shù)據(jù)庫(kù)，并根據(jù)戰(zhàn)略重要性對(duì)目標(biāo)進(jìn)行優(yōu)先級(jí)排序。平臺(tái)還將特定的軍事單位和最合適的彈藥，與具體打擊目標(biāo)自動(dòng)匹配。它還能模擬戰(zhàn)術(shù)場(chǎng)景、評(píng)估打擊的合法性及協(xié)助進(jìn)行戰(zhàn)損評(píng)估。

美媒稱五角大樓于2017年啟動(dòng)了“Maven計(jì)劃”，一份備忘錄詳細(xì)闡述了這一計(jì)劃的理念：創(chuàng)建計(jì)算機(jī)視覺算法，用于分析無(wú)人機(jī)視頻、檢測(cè)目標(biāo)，并將海量數(shù)據(jù)快速轉(zhuǎn)化為“可操作的情報(bào)和洞察力”。但他們的目標(biāo)還不止于此，美軍還在努力將AI直接應(yīng)用于其“單向攻擊無(wú)人機(jī)”，使其即使在無(wú)線通信中斷的情況下也能導(dǎo)航、定位目標(biāo)并執(zhí)行致命攻擊。

在軍事科技領(lǐng)域表現(xiàn)不俗的以色列也使用了AI，美國(guó)《華盛頓郵報(bào)》在最新報(bào)道中透露，以色列在作戰(zhàn)中利用新型人工智能平臺(tái)，提取有關(guān)伊朗領(lǐng)導(dǎo)人生活和行蹤的線索。根據(jù)以色列官員的描述，以色列對(duì)某些指揮官的情報(bào)非常精準(zhǔn)，甚至能夠根據(jù)目標(biāo)的移動(dòng)情況在導(dǎo)彈飛行途中改變方向。

據(jù)稱以色列在加沙戰(zhàn)爭(zhēng)中使用了多個(gè)AI系統(tǒng)生成打擊目標(biāo)建議，一個(gè)名為“福音”的系統(tǒng)負(fù)責(zé)識(shí)別并建議攻擊哈馬斯人員可能活動(dòng)的建筑和設(shè)施，另一個(gè)叫做“薰衣草”的系統(tǒng)則被編程用于識(shí)別哈馬斯及其他武裝組織的疑似成員，以供定點(diǎn)清除。而還有一個(gè)被稱為“爸爸在哪”的系統(tǒng)通過追蹤目標(biāo)的手機(jī)信號(hào)來監(jiān)視其行蹤，以便鎖定打擊窗口。

顯然，將AI應(yīng)用到軍事領(lǐng)域的好處不少。有媒體這樣描述，它擅長(zhǎng)高速處理龐大數(shù)據(jù)，大幅縮短“殺傷鏈”（Kill Chain），即把發(fā)現(xiàn)目標(biāo)、人類審批到執(zhí)行打擊的整個(gè)決策和規(guī)劃流程，從過去的幾小時(shí)或幾天，極大地壓縮到幾分鐘甚至幾秒鐘。這不僅提高效率，也減少人力，把過去可能需要2000名分析師才能完成的工作量縮減至約20人，讓人類可專注于更高層級(jí)的決策、后勤保障和任務(wù)規(guī)劃上。AI也已部署在用于偵察和打擊任務(wù)的無(wú)人機(jī)、處理爆炸物的地面機(jī)器人等，由機(jī)器來執(zhí)行危險(xiǎn)任務(wù)，進(jìn)而提升士兵的安全。

這意味著未來AI在軍事領(lǐng)域的運(yùn)用趨勢(shì)已勢(shì)不可擋，但同時(shí)也引發(fā)人們?cè)诎踩院筒豢煽胤矫娴拿黠@擔(dān)憂。例如，五角大樓要求Anthropic簽署合同，允許軍方“不受限制”地將其技術(shù)用于“所有合法用途”，但這家公司堅(jiān)持合同須列明兩個(gè)例外情況，即不得對(duì)美國(guó)公民進(jìn)行大規(guī)模監(jiān)控，也不得開發(fā)完全自主且無(wú)人監(jiān)管的武器。但這遭到白宮的強(qiáng)烈反對(duì)，美國(guó)總統(tǒng)特朗普指示所有聯(lián)邦機(jī)構(gòu)立即停止使用Anthropic技術(shù)，而戰(zhàn)爭(zhēng)部長(zhǎng)赫格塞思則要求將Anthropic及其產(chǎn)品，列入對(duì)國(guó)家安全構(gòu)成威脅的“供應(yīng)鏈風(fēng)險(xiǎn)”名單。

不過，在Anthropic對(duì)五角大樓提起訴訟后，一名聯(lián)邦法官暫停了美國(guó)軍方的決定，這暫時(shí)緩解了這家公司與美國(guó)政府合作的困境，其對(duì)人工智能在戰(zhàn)爭(zhēng)中的應(yīng)用也具有重要意義。但這并不能阻止這家公司擔(dān)心的事情可能發(fā)生，五角大樓很快就與其競(jìng)爭(zhēng)對(duì)手OpenAI達(dá)成了協(xié)議。

現(xiàn)在人們有必要搞清楚，人工智能在軍事領(lǐng)域的大量應(yīng)用將帶來哪些風(fēng)險(xiǎn)。眾所周知，AI本質(zhì)上依賴數(shù)據(jù)和算法，如果系統(tǒng)受到黑客攻擊或者數(shù)據(jù)篡改，敏感信息可能泄露，甚至被敵人利用來提供虛假情報(bào)。此外，使用過AI聊天的人都知道，大模型時(shí)常會(huì)產(chǎn)生錯(cuò)誤，但在緊張的戰(zhàn)爭(zhēng)環(huán)境下，很可能導(dǎo)致指揮官迅速采納，這就是一些專家提到的“自動(dòng)化偏見”，即默認(rèn)AI提供的信息是準(zhǔn)確可靠的，最終會(huì)打錯(cuò)目標(biāo)或者波及平民。

舉一個(gè)不夠恰當(dāng)?shù)睦樱晾誓喜啃W(xué)被襲擊造成至少175人死亡，據(jù)美國(guó)官員及了解初步調(diào)查結(jié)果的人士透露，因?yàn)槊儡娛褂脟?guó)防情報(bào)局提供的“過時(shí)數(shù)據(jù)”制定了打擊坐標(biāo)。一些人質(zhì)疑這是否是美軍使用人工智能所導(dǎo)致的，美國(guó)在明面上只證實(shí)在調(diào)查，但并未給出更多信息，最終仍有待進(jìn)一步澄清。

如果美軍果真使用AI生成的錯(cuò)誤結(jié)果導(dǎo)致了誤判，這還會(huì)帶來另一個(gè)問題，即具體責(zé)任由誰(shuí)來承擔(dān)，到底是AI還是人類？有專業(yè)人士認(rèn)為，人類歸根結(jié)底還是應(yīng)對(duì)人類的生命負(fù)責(zé)。即使人類使用工具來幫助了解局勢(shì)，也須親自核實(shí)這些工具的有效性；如果人類真的必須相互廝殺，那應(yīng)該由人類自己來執(zhí)行，而不是把責(zé)任推卸給機(jī)器。

而隨著AI在軍事領(lǐng)域深度應(yīng)用，不少人也開始擔(dān)憂人類可能失去對(duì)戰(zhàn)爭(zhēng)機(jī)器的控制。如以色列國(guó)防軍前總參謀長(zhǎng)科哈維2023年接受采訪時(shí)曾提出類似觀點(diǎn)：“令人擔(dān)憂的不是機(jī)器人會(huì)控制我們，而是AI會(huì)在我們沒有意識(shí)到的情況下控制我們的思想并取代我們。”

這意味著各國(guó)需要在作戰(zhàn)效率和倫理責(zé)任之間尋求平衡，必須建立保障措施、法規(guī)和故障保護(hù)機(jī)制，以確保AI的使用是負(fù)責(zé)任的。很明顯，這將是一個(gè)巨大挑戰(zhàn)！