中方三次提議約束致命機器人，均遭美英印拒絕，現在他們后悔大了

你敢信嗎？10年前中國就喊著要管“自己決定殺人的機器人”，可當時美英印這些國家壓根沒當回事——覺得這玩意兒離現實太遠，簽約束等于捆住自己手腳。結果現在AI炸了，各種自主武器滿天飛，當初反對的國家突然急了：“早知道聽中國的就好了！” 這事兒得從2014年瑞士日內瓦那場會議說起，那時候AI還沒普及到手機里，大家聊“機器自主殺人”，基本都以為是科幻片瞎編的，誰能想到短短十幾年就成了現實問題？

2014年春天，日內瓦的特定常規武器公約會議上，中國代表第一個站出來說：“得給‘完全自主的致命武器’立規矩，不能讓機器自己決定殺誰！” 說白了就是，武器要是脫離人類控制，算法認錯人、系統崩了、被黑客黑了，一瞬間就能搞出沒法收拾的事?？赡菚r候會場里沒幾個人接話，美國、英國、印度這些軍事大國要么說“再看看技術發展”，要么直接反對“太早設限會束縛創新”，最后會議啥實質性文件都沒出——畢竟那時候AI還只是實驗室里的新鮮玩意兒，沒人覺得這能變成武器風險。

其實中國后來又提了兩次——2016年、2019年，每次都呼吁“禁止或嚴格限制這類武器”，推動簽有法律約束力的國際文件。到2021年12月，中國還在多邊場合強調：“不能讓AI在軍事上被亂用，必須始終有人盯著，不能讓機器在沒人管的情況下攻擊！” 可那幾年，這些提議還是沒被當回事，為啥？因為這些國家都覺得“只要最終決策在人類指揮官手里，就不會出事”，再加上自己技術領先，怕簽了規矩反而被別人追上，丟了戰略優勢。

但AI這玩意兒發展起來，根本不按常理出牌?。《潭淌畮啄?，深度學習突破了，算力從以前的天價降到白菜價，大模型到處都是，軍民技術也混在一起了——比如現在商業公司的AI算法，改改就能用到武器上?，F在你能看到啥？自主無人機集群，一群小飛機一起飛就能精準打擊目標；智能無人戰車，不用人開就能在復雜地形跑；還有機器狗，能自己適應環境跟著人走，甚至能攜帶裝備。這些東西早就不是科幻了，已經實實在在擺在各國軍隊面前。

這下好了，當初反對的國家坐不住了。華盛頓那邊甚至有人在私下說“后悔當初沒聽中國的”——為啥？因為現在風險越來越大了。以前軍用自主系統都是大國封閉研發，只有少數國家能搞，現在不一樣了：底層技術開源，商業公司的算法框架隨便改，軍民界限越來越模糊，小國家甚至非國家組織都能摸到邊，擴散風險直線上升。比如最近有報告說，中東一些沖突里，已經出現了小型自主無人機，一個人就能控制十幾架，火力比以前強太多。

還有個更頭疼的問題是網絡安全。自主武器要是被黑客入侵，或者數據被污染，識別目標能錯得離譜。以前武器誤判，可能是人類情報錯了，還能有時間反應；現在算法系統的誤差，毫秒級就能放大，根本來不及攔。比如要是自主無人機的算法被黑，把平民當成目標，那后果不堪設想——這不是科幻，是現在正在討論的現實風險。

之前有軍控專家分析過，這些國家當年不點頭，核心就是戰略優勢和技術領先。比如美國無人機全球第一，要是簽了約束，以后還怎么發展更先進的自主武器？俄羅斯把自主武器當對抗美國高技術優勢的手段，印度近年砸了不少錢搞無人系統，想在南亞增強技術能力，英國說“要負責任用，不是全禁”——說白了，都是怕自己的技術優勢沒了，在未來競爭中吃虧。

但現在的情況是，規則還沒定，風險已經冒出來了。多國智庫的報告都在說，要是沒規矩，小型無人平臺加高精度算法，沖突里隨便就能部署一堆，一個人能控制的火力比以前多太多了。歷史上很多規矩都是風險到眼前才重視，可AI武器的風險一旦真發生，代價比傳統武器大多了——畢竟機器不會猶豫，不會反思，錯了就是錯了，沒法挽回。你說，現在這些國家再想回頭聽中國的提議，還來得及嗎？

參考資料：人民日報《致命自主武器系統：國際規范亟待完善》