光速滑跪之后，OpenAI公布與五角大樓協議，但引來更多質疑

編輯｜張倩

昨天，我們報道了「OpenAI 光速滑跪，背刺 Anthropic，高調簽下軍方大單」的新聞。今天，這一事件又有了新進展 ——OpenAI 公布了他們與五角大樓協議的部分內容，聲稱簽的合同能夠確保他們的 AI 模型不被用于大規模監控美國公民和自動化武器，和 Anthropic 之前提供的方案「很不一樣」。

要理清這件事，還得從 Anthropic 硬剛美國國防部說起。昨天，Anthropic 因為堅守紅線（拒絕國防部對其 AI 系統完全訪問權限的要求）、甚至被曝創始人得罪了五角大樓領導層，直接被特朗普封殺、扣上「供應鏈安全風險」的帽子。這一舉動在硅谷獲得了巨大聲援，甚至對手 OpenAI 也表示支持。

但隨即，事件發生戲劇性反轉 —— 奧特曼連發三條帖子，宣布 OpenAI 已與五角大樓達成協議，將模型部署到了他們的機密網絡中。

這一反轉在硅谷掀起軒然大波，OpenAI 風評急轉直下，外界質疑奧特曼為了合同放棄底線。

為了回應外界的質疑，OpenAI 今天一大早就發布了一則新的聲明，稱他們的合同包含「三條紅線」，對國防部有足夠的制約。

以下是 OpenAI 聲明的全文：

OpenAI：我們的三道紅線

昨日，我方與五角大樓達成協議，將在涉密環境中部署先進人工智能系統，同時我方已提議，讓所有人工智能企業均可獲得相關部署權限。

我方認為，這份協議為涉密人工智能部署設置的防護規則，較以往所有同類協議（包括 Anthropic 公司的協議）都更為完善，原因如下。

我方與國防部的合作遵循三大核心紅線，這也是多家前沿人工智能實驗室的共識：

• 不得將 OpenAI 技術用于大規模國內監控；
• 不得將 OpenAI 技術用于指揮自主武器系統；
• 不得將 OpenAI 技術用于高風險自動化決策（如「社會信用體系」類系統）。

其他人工智能實驗室在國家安全領域的部署中，均削減或取消了安全防護規則，僅將使用政策作為核心保障手段。而我方的做法，能更好地防范技術被用于不當用途。

在本協議中，我方通過更全面、多層級的方式堅守上述紅線：我方對安全防護體系擁有完全自主決定權，所有部署均通過云端完成，具備涉密工作資質的 OpenAI 工作人員全程參與，同時協議中設置了嚴格的合同保障條款。這一切都是對美國法律中現有的強有力保護措施的補充。

我方堅定擁護民主制度。鑒于人工智能技術的重要性，我方認為，唯有讓人工智能研發與民主進程深度融合，才是該技術發展的正確路徑。同時我方也深知，這項技術會給世界帶來新的風險，因此希望捍衛美國國家安全的相關人員，能擁有最先進的技術工具。

本協議的核心條款包括：

一、部署架構

所有部署均為純云端部署，由我方運維安全防護體系，該體系將嚴格遵循上述核心原則及其他安全準則。我方不會向國防部提供「無防護規則」的模型或未經安全訓練的模型，也不會在邊緣設備部署模型（此類部署存在技術被用于自主致命性武器的潛在風險）。

該部署架構能讓我方獨立核查紅線遵守情況，包括運維和更新相關識別分類系統。

二、協議條款

相關核心表述如下：國防部可在符合適用法律、作戰需求，以及成熟的安全與監督規程的前提下，為所有合法目的使用本人工智能系統。在法律、法規或國防部政策要求由人類掌控的任何場景中，本系統不得被用于獨立指揮自主武器；在上述授權框架下，需要人類決策者批準的其他高風險決策，本系統也不得參與制定。根據 2023 年 1 月 25 日發布的「國防部 3000.09 號指令」，自主及半自主系統中人工智能技術的任何應用，在部署前均需經過嚴格的驗證、確認與測試，確保其能在真實場景中按預期運行。

針對情報活動，所有涉及個人隱私信息的處理行為，均需遵守《美國憲法第四修正案（Fourth Amendment）》《1947 年國家安全法（National Security Act of 1947）》《1978 年外國情報監控法（Foreign Intelligence and Surveillance Act of 1978）》《第 12333 號行政命令》，以及國防部要求具備明確外國情報收集目的的相關指令。本系統不得在上述授權框架外，對美國公民的隱私信息進行無約束監控；除《治安民兵法（Posse Comitatus Act）》及其他適用法律允許的情形外，本系統也不得用于國內執法活動。

三、人工智能專家參與

我方將派遣具備涉密工作資質的前沿部署工程師為美方政府提供技術支持，同時安排具備同等資質的安全與對齊研究人員全程參與協作。

FAQ

核心問題 QA

1、我方為何開展此項合作？

首先，我方認為，面對潛在對手正不斷將人工智能技術融入其系統、威脅持續升級的現狀，美國軍方迫切需要高性能的人工智能模型支撐任務開展。我方最初并未簽署涉密部署協議，因當時我方認為自身的防護措施和系統尚未準備就緒，此后我方一直全力推進相關工作，確保涉密部署能在防護規則保障下實施，堅守紅線不被突破。

我方過去從未、未來也絕不會為提升國家安全領域的技術性能，而移除核心技術防護規則 —— 這并非支持美國軍方的正確方式。

其次，我方也希望緩和國防部與美國各人工智能實驗室之間的關系。人工智能領域的美好未來，離不開政府與實驗室之間真實、深度的合作。作為本次合作的一部分，我方已提議將協議同等條款開放給所有人工智能實驗室，并明確要求美方政府推動與 Anthropic 公司的問題解決；當前的局面，絕不是政府與人工智能實驗室開啟下一階段合作的合理開端。

2、為何 Anthropic 公司未能達成協議，而我方可以？我方是否簽署了他們拒絕的協議？

據我方了解，本協議提供的保障措施和責任防護規則，較以往的協議（包括 Anthropic 公司最初的協議）更為完善。我方的紅線之所以更具可執行性，原因在于：部署范圍僅限純云端（而非邊緣設備）、我方安全防護體系按最優方式持續運維、具備涉密資質的 OpenAI 工作人員全程參與。

我方并不清楚 Anthropic 公司未能達成協議的具體原因，也希望該公司及更多實驗室能考慮本次的協議條款。

3、我方是否認為應將 Anthropic 公司列為「供應鏈風險主體」？

不認同，且我方已向美方政府明確表達該立場。

4、本協議是否會讓國防部利用 OpenAI 模型為自主武器提供技術支持？

不會。基于我方的安全防護體系、純云端的部署方式、協議條款約定，以及現行的法律、法規和政策，我方確信此類情況不會發生。同時，OpenAI 工作人員的全程參與，也將進一步提供保障。

5、本協議是否會讓國防部利用 OpenAI 模型對美國公民開展大規模監控？

不會。基于我方的安全防護體系、協議條款約定，以及嚴格限制國防部開展國內監控的現行法律，我方確信此類情況不會發生。OpenAI 工作人員的全程參與，也將進一步提供保障。

6、我方是否必須在無安全防護體系的情況下部署模型？

不需要。我方對所部署的安全防護體系擁有完全控制權，絕不會在無安全防護規則的情況下實施部署。此外，我方的安全與對齊研究人員將全程參與，并持續助力系統優化。我方了解到，其他人工智能實驗室均削減了模型防護規則，僅將使用政策作為核心保障手段，但我方認為，多層級的防護方式能更好地防范技術被用于不當用途。

7、若美方政府違反協議條款，將如何處理？

與所有商業合同一致，若合作方違反協議條款，我方有權終止協議。但我方預計此類情況不會發生。

8、若美方政府修改現行法律或國防部政策，將如何處理？

我方協議中已明確援引當前有效的監控及自主武器相關法律、政策；即便未來此類法律或政策發生調整，我方系統的使用仍需嚴格遵循協議中載明的現行標準。

9、針對 Anthropic 公司在博客中就其與國防部溝通事宜發表的觀點，我方作何回應？

Anthropic 公司在其博客中提出了兩條紅線（我方同樣將這兩條列為紅線，并新增了第三條：高風險自動化決策），并表示，在其當時看到的國防部協議中，這些紅線無法得到有效保障。以下是我方認為本協議能有效堅守上述紅線的原因：

• 大規模國內監控：在我方與國防部的溝通中，美方明確表示，大規模國內監控屬于違法行為，且美方并無將技術用于該用途的計劃。我方已在協議中明確載明，此類用途不屬于「合法使用范疇」。
• 全自主武器：本協議約定的純云端部署模式，無法為全自主武器提供技術支持 —— 此類應用必然需要邊緣設備部署。

除上述保障措施外，我方協議還設置了額外的多層級防護手段，包括我方自主運維的安全防護體系，以及全程參與的 OpenAI 技術專家。

網友：細節不重要，紅線很快就會消失

在這份聲明發布后，外界的擔憂并沒有消除。有人質疑說，為什么看上去差不多的條件，OpenAI 就和國防部談妥了，而 Anthropic 不行？是不是 OpenAI 的合同有更多靈活空間？

基于這種懷疑，有人把上述條款拿給 AI 看，發現里面確實有一些值得進一步推敲的地方，比如「all lawful purposes」等措辭。此類界定非常模糊，非常容易被突破，而這也是之前 Anthropic 所拒絕的部分。

因此，有人直接斷言，這份協議加再多約束條款也毫無意義，「紅線很快就會被突破」。

不知道接下來，OpenAI 將如何回應這些質疑。

原文鏈接：https://openai.com/index/our-agreement-with-the-department-of-war/