國際觀察：人工智能不是發(fā)動戰(zhàn)爭和追求霸權(quán)的工具

張薇薇

隨著人工智能技術(shù)飛速發(fā)展，其軍事化應(yīng)用日益進(jìn)入大眾視野。在以色列空襲加沙和美以對伊朗的打擊中，人工智能均得到深度應(yīng)用。據(jù)報(bào)道，以色列使用“福音”“薰衣草”等AI系統(tǒng)識別和追蹤目標(biāo)；美軍使用Palantir的Maven系統(tǒng)和Anthropic的Claude模型分析情報(bào)、規(guī)劃打擊路徑。然而，在技術(shù)大幅提升戰(zhàn)爭效率的背后，深刻的倫理危機(jī)正在發(fā)酵。

任何復(fù)雜自動化系統(tǒng)都存在出錯概率，且無法降為零。過往數(shù)據(jù)難以覆蓋所有真實(shí)戰(zhàn)場場景，在復(fù)雜多變的戰(zhàn)場環(huán)境中，深度學(xué)習(xí)模型極易產(chǎn)生偏差。伊朗小學(xué)慘遭炸毀，百余人遇難，就令美軍所謂的精準(zhǔn)打擊徹底淪為謊言。

盡管美軍稱人工智能僅提供分析和建議，但在人工智能海量、高速的決策循環(huán)中，人類力量的局限日益凸顯。有報(bào)道稱，在以色列對加沙的空襲中，雖設(shè)有人工核查環(huán)節(jié)，但因核查量大、人員疲勞，常淪為走過場。隨著系統(tǒng)進(jìn)一步進(jìn)化，人類失去實(shí)質(zhì)性控制權(quán)的可能性也在增大。

但為搶占技術(shù)應(yīng)用先機(jī)，美軍正積極推動人工智能軍事化應(yīng)用。今年1月，美國防部發(fā)布《人工智能加速戰(zhàn)略》，將人工智能打造為貫穿作戰(zhàn)、情報(bào)和管理三大核心領(lǐng)域的系統(tǒng)性基礎(chǔ)。

2月，美國防部與Anthropic公司的重大分歧曝光。Anthropic堅(jiān)持其Claude模型不能被用于大規(guī)模監(jiān)控和沒有人類介入的全自主武器系統(tǒng)。但美國防部強(qiáng)硬要求“無限制訪問權(quán)”，并將Anthropic列為“供應(yīng)鏈國家安全風(fēng)險(xiǎn)”以示懲罰。矛盾的實(shí)質(zhì)，是對人工智能軍事化應(yīng)用是否應(yīng)設(shè)“紅線”、如何設(shè)“紅線”的爭執(zhí)。

然而Anthropic的堅(jiān)持未能阻擋五角大樓的步伐。很快，OpenAI宣布與國防部達(dá)成協(xié)議，接受“一切合法用途”條款。谷歌和馬斯克旗下的人工智能公司xAI也與美國防部簽有合同，且未附加公開限制條件。人工智能技術(shù)遭濫用的風(fēng)險(xiǎn)正史無前例地升高。

一旦打擊效率被置于戰(zhàn)爭倫理之前，傷亡風(fēng)險(xiǎn)被包裝為可接受的概率，失誤責(zé)任被推給數(shù)據(jù)和算法，人工智能技術(shù)將面臨制度化濫用，進(jìn)而加劇全球安全困境。

首先，技術(shù)的高效性會削弱解決沖突的審慎性，可能使武力從“最后手段”變?yōu)椤笆走x手段”。人工智能軍事化程度高的國家，可能因過度自信而草率發(fā)起攻擊。

其次，可能引發(fā)新的人工智能軍備競賽。技術(shù)不透明將導(dǎo)致安全困境升級，各國可能不斷追求更優(yōu)算法、更強(qiáng)算力和更自主的決策鏈。

此外，技術(shù)濫用還可能動搖核威懾體系的穩(wěn)定。一旦人工智能用于增強(qiáng)己方核打擊能力或削弱對方核威懾力，原有戰(zhàn)略穩(wěn)定就會遭到破壞。

中國政府高度重視人工智能軍事化應(yīng)用問題。中國提出《全球人工智能治理倡議》，發(fā)布《中國關(guān)于規(guī)范人工智能軍事應(yīng)用的立場文件》，主張各國尤其是大國應(yīng)本著慎重負(fù)責(zé)的態(tài)度在軍事領(lǐng)域研發(fā)和使用人工智能技術(shù)。中方主張遵循“以人為本的軍事人工智能”理念，通過對話合作就如何規(guī)范人工智能軍事應(yīng)用尋求共識，既要引導(dǎo)軍事人工智能的正確發(fā)展方向，又要防范其毫無約束的發(fā)展。我們應(yīng)該明確技術(shù)應(yīng)用的道德和法律底線，加強(qiáng)國際安全和技術(shù)治理合作，堅(jiān)決反對技術(shù)濫用，保護(hù)人類安全與福祉。

(作者是中國國際問題研究院世界和平與安全研究所副所長、副研究員)