谷歌內部掀起新一輪員工抗議浪潮。數百名人工智能研究人員聯署公開信,要求CEO Sundar Pichai拒絕將公司AI系統用于美國國防部的涉密任務。
據彭博,組織者稱已征集到逾580個簽名,簽署者涵蓋超過20名總監、高級總監及副總裁級別的高管,以及谷歌旗下AI研究機構DeepMind的多名高級員工。組織者表示,該信將于本周一送達Pichai。
公開信明確要求谷歌拒絕一切涉密工作負載,理由是一旦AI工具部署于與公共互聯網物理隔離的涉密系統,公司將無從監控其實際用途。
這封信的發出恰逢谷歌與五角大樓之間的合作談判持續推進。據報道,雙方就將谷歌AI工具用于"一切合法用途"展開磋商。批評者認為,這一表述在實踐中可能涵蓋全自主武器系統及國內大規模監控。
對市場而言,此次員工行動令谷歌未來國防業務的擴張節奏及合規邊界再添不確定性。
員工憂慮:合同邊界模糊,涉密系統失控風險高
公開信的核心訴求,在于員工認為谷歌未能就AI在涉密網絡上的使用劃定具體且可執行的紅線。
谷歌DeepMind英國分部AI研究工程師Sofia Liguori表示,她簽署該信,是因為谷歌未能就AI在涉密領域的使用與員工討論。她指出,一旦AI工具部署于涉密系統,公司在技術層面將無法追蹤和限制這些工具的實際使用方式。
"公司一直以來給出的回應,是讓員工相信領導層會簽訂好的合同,"Liguori說,"但這些表述都非常寬泛。"她特別點名"智能體AI"(Agentic AI)的風險:
"它所能達到的自主程度令人擔憂。這就像在交出一件極其強大的工具的同時,也放棄了對其使用的任何掌控。"
公開信寫道:"目前,確保谷歌不與此類危害產生關聯的唯一方式,是拒絕任何涉密工作負載。否則,此類用途可能在我們不知情、且無力阻止的情況下發生。"
歷史重演:從Maven到當下的邊界之爭
此次員工行動并非首次。2018年,谷歌員工對公司參與五角大樓"Maven項目"一事發出強烈抗議,該項目旨在利用AI分析無人機視頻畫面中的目標物體。
面對員工的反對和辭職浪潮,谷歌最終制定了新的AI原則,并決定不再續簽Maven合同。
然而,谷歌此后逐步重建與國防工業的關系,并于去年刪除了其AI原則中承諾避免將技術用于武器等潛在有害應用的相關表述。
此次聯署信的組織者在聲明中直言:"Maven尚未結束。"他們表示,"工人將持續就谷歌AI技術武器化問題展開組織行動,直到公司劃定清晰、可執行的邊界。"
谷歌與五角大樓:合作加速,邊界存疑
與此同時,谷歌與五角大樓的合作已實質性推進。今年3月,谷歌向五角大樓逾300萬名員工開放了其Gemini AI智能體,供非涉密級別使用;此前已于去年12月開放Gemini聊天機器人。
負責研究與工程事務的國防部副部長Emil Michael在3月告訴彭博,五角大樓將從非涉密層級的Gemini智能體用途起步,"然后我們將進入涉密和絕密級別",并透露谷歌AI智能體在涉密云端的使用談判已在進行中。
谷歌與五角大樓就AI工具"一切合法用途"的授權談判正在推進。這一表述被批評者認為可能涵蓋武器系統。對此,五角大樓強烈反駁上述定性,并主張商業公司不應在戰時或備戰期間擁有對使用政策的否決權。
這場爭議還與Anthropic近期的處境形成對照——據報道,五角大樓正尋求將Anthropic及其Claude AI工具從美國國防供應鏈中排除,并積極物色新的科技巨頭合作伙伴,谷歌因而成為潛在替代選項之一。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.