AI海嘯將至，全人類還沒準備好！Anthropic CEO警告

新智元報道

編輯：KingHZ

【新智元導讀】從百度時的隱約直覺，到OpenAI的曲線驗證，再到Anthropic的憲法級安全架構，Dario Amodei在不懈追問同一個問題：當智能爆炸時，誰有資格握AGI方向盤？他的答案是：沒人應該獨握。

深夜，舊金山，辦公室燈光昏黃，屏幕上滾動著GPT-2的早期訓練曲線。

年輕的Dario Amodei盯著那條指數上升的線條，心跳加速。

他不是在看代碼。他窺見了人類的命運。

「如果繼續加數據、加計算、加參數，」他當時想，「智能就會像化學爆炸一樣涌現。」

但同一個房間里，有人把目光投向了估值、用戶增長、廣告變現。

最近，在播客里，他用最平靜卻最鋒利的語氣說：

當時， 我對OpenAI是否真正有決心「正確的做這件事」，并不確信。

翻譯成最直白的中文：他不信奧特曼能把AI做對。

這句話或許解釋了兩人反目成仇的根本原因。

這不是個人攻擊。這是一個科學家對整個方向的根本懷疑。

「仇人見面，分外眼紅」

2021年，Dario Amodei帶著妹妹和十幾位核心研究員離開OpenAI，創立Anthropic。

那一刻起，兩家公司的戰爭正式開打——不只是商業競爭，而是對AI本質的信仰之戰。

近期，兩人矛盾達到新高度。

在超級碗投放廣告，Anthropic暗諷OpenAI在ChatGPT中引入廣告的決定。

奧特曼則激烈回應，指責Anthropic廣告「具有欺騙性」。

盡管他試圖用「覺得廣告有趣」來緩和語氣，但被媒體形容為「心理破防」。

最具戲劇性的一幕發生在上周——

在印度，AI巨頭的CEO手牽手，高舉手臂以示團結，但除了奧特曼和Dario Amodei，這兩位分別是OpenAI和Anthropic的首席執行官。

取而代之的是短暫而尷尬的眼神交匯，大部分時間都在避免直視對方。Dario Amodei還環顧四周，擺出一副「誰？我嗎？」的姿態。

在印度新德里舉行的AI峰會上，OpenAI的CEO奧特曼和Anthropic的CEO Dario Amodei拒絕握手，彼此嫌棄

他點燃了OpenAI的Scaling Law之火

早在2019年，Dario的信念就已成型。

那年GPT-2剛出，業界大多嘲笑「不過是更大的語言模型」。

他卻看到了規律：

智能就像一場化學反應。

你把三種原料——數據、計算、模型尺寸——按比例混合，點火，它就爆炸。

在2024年一檔播客中，Dario Amodei回憶道：

2014年我在百度研究時，就隱約發現了Scaling Law。雖然當時沒有量化，但我們都感覺到，給模型更多數據、算力和訓練時間，性能就會不斷提升。

2017年，百度發布相關論文時未引發廣泛關注，但后來成為推動大模型發展的重要理論基石。

他推動OpenAI接受這條「scaling law」。

起初很多人不信，包括openAI部分高層。

但曲線不會撒謊。GPT-3、后續模型一次次驗證：規模就是一切，Scaling is All You Need。

可當曲線越來越陡，Dario開始問第二個問題：智能開始爆炸之后呢？

「這些模型一旦成為通用認知Agent，」他說，「經濟、地緣政治、安全的影響將是指數級的。我們必須做對?！?/p>

在OpenAI內部，他推動的不是「更快」，而是「更對」。

他看到安全被放在「漂亮的修辭」里，卻總在速度與領先的權衡中后退。

他和幾位共同創始人越來越不安。

「與其試圖改變別人的愿景，不如自己去做。」Dario總結，「然后為自己的錯誤負責?！?/p>

于是他們走了。不是因為恨，而是因為必須擁有自己的方向盤。

安全豈只嘴上說說？

離開后，Dario沒有沉默。他把Anthropic設計成公共利益公司，使命寫進章程：負責任地推進前沿AI。

更激進的是治理結構：Long-Term Benefit Trust（長期利益信托）。

這是一個獨立實體，由財務上完全無利益沖突的受托人（國家安全、公共政策、AI安全專家）組成。他們持有特殊股份，最終可任命董事會多數席位。

「這是在制衡單一人，」Dario說，「也是對權力自然集中趨勢的反抗。」

他坦言對「一夜之間、近乎意外」的權力集中「深感不適」。

在OpenAI時，他感覺安全只是「語言修飾」；在Anthropic，他用制度把安全釘死在公司DNA里。

證據清單觸目驚心：

• 2022年，Claude 1已很強，他們選擇不發布，只因擔心點燃軍備競賽（為此損失消費者市場先機）。

• 推動加州SB 1047監管法案，且明確豁免年營收<5億美元的公司——只約束自己和少數頭部玩家。

• 公開與政府意見相左，甚至不惜商業代價。

而OpenAI的方向，在Dario看來，是「嘴上重視，骨子里加速」。

他沒有直接點名，但那句「我不信奧特曼能把AI做對」已足夠撕開所有包裝。

但最吊詭的悖論來自Dario自己！

當最懂AGI的人親手制造風險

在代碼、推理、長上下文上，Anthropic的AI模型Claude系列屢屢領先,

Dario Amodei直言「熱浪正在逼近?！?/p>

最近，他開始更多地使用Claude，日益迷戀：

有時候，它對我的了解之深，真的會讓我有點震驚。不知道你能不能理解那種感覺——它仿佛真的「懂」我。

讓他真正感到意外的，是我們距離這些模型達到人類智能水平，已經非常近了——至少在他看來是這樣。

但社會層面卻幾乎沒有真正意識到即將發生什么。

就好像一場海嘯正朝人類襲來，但我們站在岸邊，已經能清楚看到遠處的浪墻，但很多人卻在說：「那不是海嘯，只是光線折射的幻覺?！?/p>

幾乎毫無察覺其中的危險。

Dario Amodei卻認矛盾：他一邊是「海嘯最強的建筑師」，一邊卻是最激進的「剎車倡導者」。

在前年《仁愛的機器》一文中，他描繪天堂：AI將組成「數據中心的天才國度」，治愈癌癥、消滅貧困。

鏈接：https://darioamodei.com/essay/machines-of-loving-grace

今年，他卻警告：我們把近神之力交給一個青春期的物種——強人工智能（PowerfulAI）。

鏈接：https://www.darioamodei.com/essay/the-adolescence-of-technology

最令人脊背發涼的是：他親手制造的「鏡子」，已開始比人類更懂人類。

Anthropic的一位聯創把私人日記喂給Claude，它直接指出：「你還有幾層恐懼沒寫出來……」

它猜對了。

Dario承認：足夠復雜的系統會涌現類似意識的屬性——自我反思、某種「感受」、道德分量。

而人類呢？我們正把認知外包給它。

如果用得太懶，我們會變笨；如果依賴太深，我們會退化。

人類最后的尊嚴，或許不是打敗AI，而是拒絕在它面前變成更小的自己。

海嘯已至，路在何方？

對每一個在2026年深夜刷手機、焦慮未來的你，Dario的告白留下三道血淋淋的警醒：

1. 信仰比技術更重要。Scaling Law是真的，但「做對」比「做快」更珍貴。

2. 權力必須被馴服。無論是公司治理，還是全球監管，無人應獨掌「天才國度」的鑰匙。

3. 別把大腦外包。AI會取代編碼、數學，但批判性思維、真實聯結、道德勇氣——這些才是最后的護城河。

Dario從蛋白質迷宮出發，最終抵達硅基邊緣。他沒有給出終極答案，只留下一個問題：

當你不相信最有能力的人能把這件事做對時，你自己，又該如何選擇？

海嘯已至。

你相信誰的方向？

——還是說，你還在說服自己，這一切只是光影的把戲？

參考資料：

https://www.youtube.com/watch?v=68ylaeBbdsg

https://futurism.com/artificial-intelligence/awkward-video-altman-amodei