AI戰(zhàn)爭致70萬用戶退訂，開放AI市值蒸發(fā)15億

自一月以來，“推出生成式預(yù)訓(xùn)練模型”運(yùn)動聲勢浩大。出于對軍事人工智能的擔(dān)憂，已有70萬名用戶承諾取消訂閱。

人工智能正被應(yīng)用于戰(zhàn)爭，而公眾對此感到不滿。確切地說，至少有400萬人表達(dá)了抗議。自一月初以來，“推出生成式預(yù)訓(xùn)練模型”運(yùn)動不斷升溫。僅在二月份，就有70萬名用戶承諾取消訂閱服務(wù)。

該運(yùn)動的一位發(fā)言人向《新阿拉伯人報(bào)》透露：“在短短五周內(nèi)，我們今年早些時(shí)候發(fā)布的社交媒體帖子就獲得了超過2億次瀏覽。”

目前已有超過400萬人簽署了相關(guān)請?jiān)笗?jù)該運(yùn)動組織者估計(jì)，這一行動已導(dǎo)致母公司開放人工智能研究中心的市值蒸發(fā)了15億美元。

隨著有消息披露開放人工智能研究中心與美國國防部之間存在千絲萬縷的聯(lián)系，這場運(yùn)動應(yīng)運(yùn)而生。外界發(fā)現(xiàn)，該機(jī)構(gòu)正逐步轉(zhuǎn)型為主要的國防承包商。

此外，在2025年，其總裁格雷格·布羅克曼及其妻子向特朗普的“讓美國再次偉大”政治行動委員會捐贈了2500萬美元。

愛荷華大學(xué)哲學(xué)助理教授兼巴布爾人工智能公司首席倫理官約瓦娜·達(dá)維多維奇在接受《新阿拉伯人報(bào)》采訪時(shí)表示：“這未必是針對開放人工智能研究中心這家公司，而是關(guān)乎大型語言模型在戰(zhàn)爭中的應(yīng)用，以及大規(guī)模監(jiān)控問題。”

通常情況下，基于大型語言模型運(yùn)行的人工智能聊天機(jī)器人本身并非戰(zhàn)爭武器。它們卻能成為軍事系統(tǒng)不可或缺的一部分。在戰(zhàn)爭環(huán)境中，大型語言模型可用于匯總情報(bào)、對高優(yōu)先級威脅進(jìn)行排序，并推薦打擊目標(biāo)。

問題的關(guān)鍵在于，這些流程可以在極少的人工干預(yù)下完成。達(dá)維多維奇指出，大型語言模型“在安全性、沖突升級以及責(zé)任歸屬風(fēng)險(xiǎn)方面，給作戰(zhàn)帶來了重大隱患”。

平民面臨著危險(xiǎn)，操作這些模型的部隊(duì)同樣如此。這不僅是倫理問題，更是一個(gè)“操作安全問題”。當(dāng)前美國和以色列對伊朗的襲擊，進(jìn)一步推動了圍繞數(shù)字不結(jié)盟運(yùn)動的討論。新聞?lì)^條更是將其稱為“第一場人工智能戰(zhàn)爭”。

人工智能在戰(zhàn)爭中并非新鮮事物。分析人士解釋稱，如今關(guān)于人工智能戰(zhàn)爭的新興報(bào)道之所以與以往不同，是因?yàn)椤按笮驼Z言模型的應(yīng)用，這是一個(gè)全新的龐然大物，帶來了不同類型的風(fēng)險(xiǎn)和新的擔(dān)憂”。

根據(jù)美國外交關(guān)系委員會的追蹤數(shù)據(jù)，在全球28個(gè)區(qū)域沖突中，有27個(gè)發(fā)生在“全球多數(shù)國家”。在全球北方，唯一處于活躍沖突狀態(tài)的國家是烏克蘭。

今年二月，“推出生成式預(yù)訓(xùn)練模型”運(yùn)動發(fā)布了一篇廣為流傳的帖子。該帖子基于德國之聲的報(bào)道，講述了肯尼亞工人的處境。他們不得不連續(xù)數(shù)小時(shí)觀看露骨、暴力的內(nèi)容，或者與人工智能進(jìn)行令人不安的對話，以此來手動訓(xùn)練大型語言模型。

該運(yùn)動發(fā)言人反思了這一情況中令人心碎的諷刺意味。“據(jù)我了解，全球南方有許多不同國家的人被雇傭來從事這類工作。他們訓(xùn)練出的模型，最終卻可能被用來轟炸自己的國家。”

美國和以色列對阿拉伯地區(qū)的戰(zhàn)爭，是人工智能應(yīng)用于戰(zhàn)爭的一個(gè)典型案例。值得注意的是，美國國防部已使用人工智能來識別伊朗、伊拉克、敘利亞和也門境內(nèi)的目標(biāo)。在最近的“史詩狂怒行動”中，他們在24小時(shí)內(nèi)打擊了伊朗境內(nèi)的1000個(gè)目標(biāo)。

達(dá)維多維奇對目標(biāo)的數(shù)量和時(shí)間范圍發(fā)表了評論。她表示：“24小時(shí)內(nèi)打擊1000個(gè)目標(biāo)，數(shù)量極其龐大。你不可能讓人類去審查支撐如此龐大目標(biāo)提名的每一條數(shù)據(jù)。”

在這方面，人工智能產(chǎn)生的數(shù)據(jù)量可能會引發(fā)嚴(yán)重問題。達(dá)維多維奇指出：“人工智能能夠生成如此海量的目標(biāo)提名和識別信息，人類根本無法對此提供有意義的監(jiān)督。”

顯而易見的是，從日常互動到?jīng)_突是否爆發(fā)，人工智能正在改變所有人看待世界的方式。這位專家強(qiáng)調(diào)：“在沖突領(lǐng)域，人工智能是推動事態(tài)發(fā)展的主要驅(qū)動力之一。”

近年來，許多抵抗運(yùn)動如雨后春筍般涌現(xiàn)。例如“抵制、撤資、制裁”運(yùn)動，以及針對在巴勒斯坦遭受種族滅絕期間支持以色列的公司的大學(xué)扎營抗議。“退出生成式預(yù)訓(xùn)練模型”發(fā)言人探討了這些運(yùn)動與當(dāng)前抗議浪潮之間的相似之處。他表示：“我認(rèn)為它們之間存在著強(qiáng)烈的相似性；公眾感到憤怒，因此采取了行動。”

這場運(yùn)動得到了多所大學(xué)學(xué)生的支持。發(fā)言人解釋說：“學(xué)生們一直在聯(lián)系我們，表示要發(fā)起請?jiān)福笏麄兊膶W(xué)校從開放人工智能研究中心撤資。”他指出，這與大學(xué)扎營抗議的訴求非常相似。

聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器用戶的年齡分布至關(guān)重要，因?yàn)槟贻p人在人工智能用戶中占了很大比例。這意味著“退出生成式預(yù)訓(xùn)練模型”在年輕一代中的發(fā)展勢頭，可能會對行業(yè)巨頭產(chǎn)生嚴(yán)重影響。僅在美國，據(jù)估計(jì)在2024年，18至24歲的年輕人中約有59％使用該軟件，而在25至34歲年齡段中，這一比例為56％。

僅在2月28日當(dāng)天，美國的聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器卸載量就激增了295％。這是消費(fèi)者對開放人工智能研究中心與美國國防部達(dá)成交易的新聞所做出的回應(yīng)。發(fā)言人強(qiáng)調(diào)：“雖然無法確切地說我們作為一場運(yùn)動在其中發(fā)揮了多大作用，但這似乎意義重大。”

今年二月，人工智能助手克勞德的母公司人擇公司登上了新聞?lì)^條。該公司表示，在關(guān)于其人工智能技術(shù)如何被使用的爭議中，絕不會向美國國防部妥協(xié)。

在所有公開可用的人工智能平臺中，是否存在一個(gè)百分之百合乎倫理的平臺？達(dá)維多維奇給出了否定的答案。她補(bǔ)充道，人擇公司“似乎正試圖在明確軍事用途的限制方面發(fā)揮引領(lǐng)作用，但新的風(fēng)險(xiǎn)總是層出不窮”。

達(dá)維多維奇強(qiáng)調(diào)，人擇公司所采取的立場至關(guān)重要。因?yàn)樗麄冋境鰜肀砻鳎骸拔覀兦宄@項(xiàng)技術(shù)使用的善惡之分，也知道如何確保其使用符合憲法。”

她解釋說，盡管國際社會已經(jīng)就最佳實(shí)踐和原則進(jìn)行了討論，但“制定規(guī)范非常重要，而我們目前還沒有國際規(guī)范。在涉及殺人問題時(shí)，對于如何使用這種網(wǎng)絡(luò)技術(shù)，尚未達(dá)成共識”。

從“退出生成式預(yù)訓(xùn)練模型”運(yùn)動的角度來看，公眾“絕對渴望”合乎倫理的人工智能工具。

發(fā)言人總結(jié)道：“核心在于，人們希望能夠使用這類功能，同時(shí)又不必在道德上妥協(xié)，也不必去支持一家從事違背自身信念活動的公司。”