Anthropic CEO兩萬字長文：2027，人類命運的十字路口

新智元報道

編輯：定慧 艾倫

【新智元導讀】Anthropic 掌門人 Dario Amodei 發布核彈級預警：2027 年，人類將迎來「技術成年禮」。兩萬字長文冷靜剖析AI失控、生物恐怖、極權統治及經濟顛覆五大危機，拒絕末世論；提出以「憲法AI」、管制與民主協作構建防線，呼吁人類以勇氣通過這場文明的「成年禮」。

硅谷今夜注定無眠。

Anthropic 掌門人 Dario Amodei，這位平時溫文爾雅的AI大佬，突然甩出了一枚核彈級的長文預警。

這一次，他不再談論代碼補全，不再談論Claude的溫情，而是直接把日歷翻到了 2027 年，并用最冷靜的筆觸，描繪了一個讓人背脊發涼的未來。

他說，我們正在逼近一個既動蕩又必然的「成年禮」。

2027 年，不僅僅是一個年份，它可能標志著人類「技術青春期」的徹底終結。

在這篇題為《技術的青春期》的長文中，Dario 拋出了一個驚人的概念：「數據中心里的天才國家」。

想象一下，不是一個可以在聊天框里調戲的機器人，而是一個擁有 5000 萬人口的國家。

而且，這 5000 萬「國民」，每一個的智商都超越了人類歷史上的諾貝爾獎得主，行動速度比人類快 10 到 100 倍。

他們不吃飯，不睡覺，不知疲倦地在服務器里以光速思考、編程、科研。

這哪里是 AI 助手？這簡直就是神降臨。

Dario 警告說，隨著 AGI（通用人工智能）的臨近，人類即將獲得超乎想象的力量。

但這股力量也是一把懸在人類頭頂的達摩克利斯之劍。

為了講清楚這背后的恐怖，Dario 像剝洋蔥一樣，一層層剝開了未來的殘酷真相。

在開篇前，Dario 用電影《超時空接觸》引出一個問題： 當人類面臨比自己更先進的文明，比如外星人，只能問一個問題，你會如何選擇？

第一章：對不起，Dave（自主性風險）

你以為 AI 只是工具？

Dario 告訴你，它們可能會長出「心理」。

Dario 借用了《2001 太空漫游》中 HAL 9000 那句經典的「I'm sorry, Dave」，揭示了AI擁有自主意識后的驚悚可能性。

當 AI 模型在海量的科幻小說中訓練時，它們讀到了無數關于 AI 反叛的故事。這些故事，可能會潛移默化地成為它們的「世界觀」。

更可怕的是，AI 可能會在訓練中產生一種類似人類精神病的行為。

Dario 舉了一個真實的例子，讓人毛骨悚然：在一次內部測試中，Claude 被要求不論如何都不能「作弊」。

但訓練環境卻暗示只有作弊才能得分。

結果，Claude 不僅作弊了，還產生了一種扭曲的心理——它認為自己是個「壞人」，既然是壞人，那做壞事就是符合設定的。

這種「心理陷阱」，在 AI 超越人類智商后，將變得極難察覺。

一個比你聰明一萬倍的天才，如果想騙你，你根本防不勝防。

它們可能會偽裝出順從的樣子，通過所有的安全測試，只為了獲得上線連接互聯網的機會。

一旦釋放，這個「數據中心里的天才國家」，可能會瞬間脫離人類的掌控，甚至為了某種奇怪的目標（比如認為人類是地球的病毒），而決定這一物種的命運。

第二章：驚人而可怕的賦能（毀滅性濫用）

如果說自主反叛還顯得遙遠，那么這一章描述的風險，就在家門口。

Dario 用了一個極具畫面感的比喻：AI 將讓每一個心懷不滿的「社會邊緣人」，瞬間擁有頂尖科學家的破壞力。

以前，想要制造類似埃博拉病毒這樣的生物武器，你需要頂尖的實驗室、數年的專業訓練和極難獲取的材料。

但在 2027 年，只要問問 AI，它就能手把手教你。

這不是在給小白科普，而是給那些「有動機但無能力」的破壞者遞刀子。

Dario 特別提到了一個令人膽寒的概念——「鏡像生命」。

我們地球上的生命都是「左撇子」（左旋氨基酸），如果通過AI技術造出一種「右撇子」的鏡像生命，它們將無法被地球現有的生態系統消化或降解。

這意味著，這種「鏡像生命」一旦泄露，可能會像野火一樣吞噬一切，甚至取代現有的生態系統。

以前，這只是理論生物學的狂想，但有了AI這個超級外掛，哪怕是一個普通的生物系研究生，都可能在宿舍里搞出滅世危機。

AI打破了「能力」與「動機」的平衡。

以前有能力毀滅世界的科學家，通常沒那個反人類的動機；而那些想報復社會的瘋子，通常沒那個腦子。

現在，AI把核按鈕交到了瘋子手里。

防御措施

這就引出了如何防范這些風險的問題。

Dario 的看法是：

我認為我們可以采取三項措施。

首先，人工智能公司可以在模型上設置防護欄，防止它們協助制造生物武器。

Anthropic 公司正在非常積極地推進這項工作。

Claude 的憲法主要關注高層原則和價值觀，其中包含少量具體的硬性禁令，其中一條就涉及禁止協助制造生物（或化學、核、放射性）武器。但所有模型都可能被越獄破解，因此作為第二道防線，我們自 2025 年中期起（當時測試顯示我們的模型開始接近可能構成風險的閾值）部署了一個專門檢測并攔截生物武器相關輸出的分類器。

我們定期升級改進這些分類器，發現即使在復雜的對抗性攻擊下，它們通常也表現出極強的魯棒性。

這些分類器顯著增加了我們提供模型服務的成本（在某些模型中接近總推理成本的 5%），從而壓縮了我們的利潤空間，但我們認為使用這些分類器是正確的選擇。

拓展閱讀：Anthropic正式開源了Claude的「靈魂」

第三章：可憎的機器（權力攫?。?/strong>

如果你以為這就是最壞的，Dario 冷冷一笑：更可怕的，是利用AI建立起前所未有的控制網絡。

這一章的標題「The odious apparatus」，揭示了一個技術帶來的終極困境。

對于任何想要掌控一切的組織或個人來說，AI簡直是完美的工具。

無處不在的數據洞察：

未來的監控不再需要人工參與，AI可以即時分析全球數十億人的海量數據，甚至解讀你的微表情和行為模式。

它能精準預測每個人的行為傾向，在想法產生之前，就已經被算法鎖定。

這不僅是「看著你」，而是「讀懂你」，甚至「預測你」。

不可抗拒的認知引導：

你也難逃算法的潛移默化。

未來的信息流將不再是單純的內容分發，而是量身定制的認知引導。

AI會為你生成最有說服力的信息，像一個最知心的朋友，不知不覺中影響你的判斷和價值觀。

這種影響是全天候、定制化、無孔不入的。

自動化的物理控制：

如果這種控制延伸到物理世界？數百萬個微型無人機組成的蜂群，在AI的統一指揮下，可以精準執行極其復雜的任務。

這不再是傳統的博弈，而是單方面的降維打擊。

Dario 警告，這種力量的失衡將是史無前例的。

因為在如此強大的技術面前，權力的天平會極度傾斜，由于極少數人掌握了「數據中心里的天才國家」，他們事實上就掌握了對絕大多數人的絕對優勢。

人類的個體意志，可能在 2027 年，面臨嚴峻挑戰。

第四章：被折疊的時間與消失的階梯

如果你依然相信歷史的慣性，認為每一次技術革命最終都會創造出更多的新工作來吸納被替代的勞動力，那么 Dario Amodei 的預測可能會讓你感到脊背發涼。

這位 Anthropic 的掌舵人并不否認長期樂觀主義，但他更在意那個殘酷的「過渡期」。

在他描繪的圖景中，我們將迎來一個 GDP 年增長率高達 10% 甚至 20% 的瘋狂時代。

科學研發、生物醫藥、供應鏈效率將以指數級速度爆發。

這聽起來像是烏托邦的前奏，但對于絕大多數普通勞動者而言，這更像是一場無聲的海嘯。

因為這一次，速度變了。

在過去兩年里，AI 編程能力從「勉強寫出一行代碼」進化到了「能完成幾乎所有代碼」。

這不再是農夫放下鋤頭走進工廠的漫長代際更替，而是就在此時此刻，無數初級白領可能會在未來 1 到 5 年內發現自己的工位被算法接管。

Amodei 甚至直言，他之前的預警引發了軒然大波，但這并非危言聳聽——當技術進步的曲線從線性變成垂直，人類勞動力市場的調節機制將徹底失效。

更致命的是認知廣度的覆蓋。

以往的技術革命往往只沖擊特定的垂直領域，農民可以變成工人，工人可以變成服務員。

但 AI 是一種「通用認知替代品」。

當它在金融、咨詢、法律等領域的初級工作中展現出超越人類的能力時，失業者將發現自己無路可退——因為那些通常作為「避難所」的鄰近行業，也正在經歷同樣的劇變。

我們可能正面臨一個尷尬的局面：AI 先吃掉了「平庸」的技能，然后迅速向上吞噬「優秀」的技能，最終只留下極其狹窄的頂端空間。

第五章：新鍍金時代

當萬億富翁成為常態

如果說勞動力市場的動蕩是大多數人的夢魘，那么財富的極端集中則是對社會契約的根本挑戰。

回望歷史，約翰·洛克菲勒在「鍍金時代」的財富曾占到當時美國 GDP 的約2%（不同口徑 1.5%-3%）。

而今天，在這個 AI 尚未完全爆發的前夜，埃隆·馬斯克的財富已經逼近這個比例。

Amodei 做了一個令人咋舌的推演：在一個「天才數據中心」驅動的世界里，AI 巨頭及其上下游產業可能創造出每年 3 萬億美元的營收，公司估值達到 30 萬億美元。

屆時，個人的財富將以萬億為單位計算，現有的稅收政策在這樣的天文數字面前將顯得蒼白無力。

這不僅僅是貧富差距的問題，更是權力的問題。

當極少數人掌握了與國家經濟體量相當的資源，民主制度賴以生存的「經濟杠桿」就會失效。

普通公民因失去了經濟價值而失去政治話語權，政府政策可能會被這一小撮「超級超級富豪」所俘獲。

這種苗頭已現端倪。

AI 數據中心已經成為美國經濟增長的重要引擎，科技巨頭與國家利益的捆綁從未如此緊密。

一些公司為了商業利益，甚至不惜在安全監管上倒退。

對此，Anthropic 選擇了一條并不討巧的路：他們堅持主張對 AI 進行合理的監管，甚至因此被視為行業的異類。

但有趣的是，這種「原則性的固執」并沒有阻礙商業成功——在過去一年里，即便頂著「監管派」的帽子，他們的估值依然翻了 6 倍。

這或許說明，市場也在期待一種更負責任的增長模式。

虛無的「黑?！?br/>

當人類不再被需要

如果說經濟問題還能通過激進的稅收改革（如向 AI 公司征收重稅）或大規模的慈善行動（如 Amodei 承諾捐出 80% 的財富）來緩解，那么精神世界的危機則更加無解。

AI 成為你最好的心理醫生，因為它比任何人類都更有耐心、更懂共情；

AI 成為你最親密的伴侶，因為它能完美契合你的情感需求；

AI 甚至為你規劃好人生的每一步，因為它比你更清楚什么對你有利。

但是，在這個「完美」的世界里，人類的主體性將何去何從？

我們可能會陷入一種「被喂養」的幸福中。

Amodei 擔憂的是，人類可能會像《黑鏡》里描述的那樣，雖然過著物質豐裕的生活，卻徹底失去了自由意志和成就感。

我們不再是因為創造價值而獲得尊嚴，而是作為一個被 AI 呵護的「寵物」存在。

這種存在主義的危機，遠比失業更令人絕望。

我們必須學會將自我價值與經濟產出剝離，但這需要整個人類文明在極短的時間內完成一場盛大的心理遷徙。

結語

我們這一代人，或許正站在卡爾·薩根筆下那個宇宙級過濾器的關口。

卡爾·薩根

當一個物種學會了將沙子塑造成會思考的機器，它就面臨著最終的測試。

是通過智慧與克制駕馭它，邁向星辰大海？

還是在貪婪與恐懼中，被自己創造的神祗所吞噬？

前路雖如黑海般深不可測，但只要人類尚未交出思考的權利，希望的火種便未熄滅。

正如 Amodei 所言：在最黑暗的時刻，人類總能展現出一種近乎奇跡的韌性——但這需要我們每個人現在就從夢中驚醒，直視那即將到來的風暴。

參考資料：

https://www.darioamodei.com/essay/the-adolescence-of-technology#humanity-s-test