Anthropic CEO 萬字訪談：親述喪父之痛、炮轟黃仁勛、揭秘指數定律與 AI 未來！

責編 | 王啟隆

出品 | CSDN（ID：CSDNnews）

投稿或尋求報道 | zhanghy@csdn.net

在人工智能這場關乎未來的豪賭中，Anthropic CEODario Amodei是一個無法被簡單歸類的角色。

他既是推動技術指數級發展的核心人物，也是國會山最憂心忡忡的“吹哨人”。

他在 OpenAI 風頭無兩的那一年打造了足以與 GPT-4o 媲美的 Claude 3 Opus，并在今年推出了編程能力數一數二的Claude 4 模型。而在另一邊，Amodei 經常疾呼這項技術的潛在風險，甚至不惜惹惱像英偉達 CEO 黃仁勛這樣的行業巨頭。

這種看似矛盾的立場，讓他飽受非議。有人稱他為“末日論者”，認為他危言聳聽，只是為了鞏固自家公司的領先地位，甚至想借安全之名，“控制整個行業”。面對這樣的指控，Amodei 在接下來和 Big Technology 播客的 Alex Kantrowitz 的對話中給出了迄今最激烈、最坦誠的回應：“那是我聽過最無恥、最離譜的謊言。”

Amodei 罕見地談及了個人經歷對他事業選擇的深刻影響：“我父親因那些本可能晚幾年就出現的療法而離世。所以當有人說我想放慢腳步時，我感到非常、非常憤怒。” 這句話，或許才是理解他一切行為的關鍵。他比任何人都清楚技術加速的價值，也正因如此，他比任何人都恐懼失控的代價。

Amodei 堅信，我們正處在一個巨大的“指數定律”時代，AI 的能力正以超乎想象的速度攀升。這種緊迫感，源于他對未來的清晰預判，也讓他對行業的浮躁與短視感到極度不安。他認為，真正的競爭不在于一時的模型跑分，而在于能否建立一種負責任、有遠見的文化，吸引最頂尖、最有使命感的人才。

以下是這場對話的內容，由 CSDN 進行了精編整理。

我說的越多，只是因為我們離懸崖越近

主持人：讓我們回顧一下你過去幾個月的經歷。

• 你曾說 AI 可能會讓一半的入門級白領工作消失；

• 當你得知 OpenAI 打算收購 Windsurf 時，你切斷了 Windsurf 對 Anthropic 頂級模型的訪問權限；

• 你要求政府實施出口管制，結果惹惱了英偉達 CEO 黃仁勛。

你這是怎么了？

Dario Amodei：嗯，你知道，我認為 Anthropic，包括我個人，一直以來都專注于踐行和言說我們所堅信的理念。

我認為，隨著我們離那些更強大的 AI 系統越來越近，我希望更用力、更公開地去言說這些理念，把觀點講得更清楚。多年來我一直在說，我們有這些規模法則（Scaling Laws）——我們可以詳細聊聊——AI 系統的能力正在變得越來越強。它們正從幾年前幾乎語無倫次的水平，發展到現在。幾年前，它們大概是聰明的初中生水平；現在，我們正接近聰明的大學生、博士生水平，并且開始在整個經濟體中得到應用。

所以，我認為所有與 AI 相關的問題，從國家安全到經濟影響，都開始變得非常現實，離我們非常近了。因此，隨著這些問題越來越近，即便 Anthropic 在某種形式上已經談論這些事情有一段時間了，但我認為這些事情的緊迫性已經大大增加了。

而且，你知道，我希望確保我們說出我們所相信的，并且我們就未來可能發生的風險向世界發出警告。即便沒人能確切地說會發生什么。我們只是在說我們認為可能會發生什么，我們認為很可能會發生什么。我們盡力用證據支持我們的觀點，盡管這往往是基于對未來的推斷，沒人能百分之百確定。

但我認為，我們視自己有責任去就即將發生的事情向世界發出警告。這并不是說，我認為 AI 沒有海量的積極應用。我一直在談論這一點，我寫過那篇名為《充滿慈愛的機器》（Machines of Loving Grace）的文章。

事實上，我感覺我和 Anthropic 往往能比那些自稱為“樂觀主義者”或“加速主義者”的人，更好地闡述 AI 的益處。所以我認為我們可能比任何人都更理解這項技術的好處。但正因如此，正因為我們有機會在一切都做對的情況下，創造一個如此美好的世界，我才感到有責任就其風險發出警告。

主持人：所以，你所有的這些行為，都源于你的時間線判斷。基本上，你似乎比大多數人有一個更短的時間線，所以你感到一種緊迫感，要去大聲疾呼，因為你認為這一切都迫在眉睫。

Dario Amodei：是的。我并不百分之百確定。我認為預測未來非常困難，尤其是在社會影響層面。比如你說，人們何時會部署 AI？公司何時會投入 X 億美元在 AI 上？或者 AI 何時會被用于那些醫療突破？這很難說。底層的技術發展更具可預測性，但仍然存在不確定性，沒人真的知道。

但我認為，在底層技術層面，我開始變得更有信心。當然，不確定性并非完全沒有。我認為我們所處的指數增長曲線，完全有可能停滯。我覺得大概有20%或25%的可能性，在未來兩年內的某個時候，模型就停止進步了，原因可能是我們不理解的，也可能是我們能理解的，比如數據或算力的可用性。到那時，我說的每句話都會顯得很傻，每個人都會因為我發出的所有警告而嘲笑我。你知道，考慮到我所看到的可能性分布，我完全接受那種結果。

主持人：我得說明一下，這次對話是我正在為你撰寫的一篇人物特寫的一部分。我已經和超過二十位與你共事過、了解你、與你競爭過的人聊過。但在我與所有人交流的過程中，有一個主題貫穿始終，那就是在所有主流實驗室的負責人中，你的時間線判斷幾乎是最短的。你剛才也提到了這一點。那么，為什么你的時間線這么短？我們又為什么要相信你的判斷？

Dario Amodei：這真的取決于你說的“時間線”具體指什么。

比如說，有一些術語在 AI 圈子里很流行，像 AGI（通用人工智能）和超級智能。你會聽到一些公司領導說，我們已經實現了 AGI，正在向超級智能邁進。

說實話，我覺得這些詞完全沒有意義。我不知道什么是 AGI，也不知道什么是超級智能。 它聽起來像個營銷術語，像是為了激活人們的多巴胺而設計的。所以你會發現，在公開場合，我從不使用這些詞，而且我還會很小心地去批評這些詞的使用。

指數定律，才是唯一真實的東西

Dario Amodei：但我認為，盡管如此，我確實是對 AI 能力將極速提升這件事最樂觀的人之一。我認為唯一真實的東西，就是那條指數曲線。這個概念是：每隔幾個月，我們就會得到一個比上一個更強的AI模型。而我們之所以能做到這一點，是因為我們投入了更多的算力、更多的數據，以及更多新型的訓練方法。

最初，這是通過所謂的“預訓練”完成的，就是你把互聯網上的海量數據喂給模型。現在，我們有了第二階段，也就是強化學習，或者叫測試時計算、推理等等，你怎么稱呼它都行。我認為這是一個涉及強化學習的第二階段。現在，這兩個階段都在同步擴展，我們從我們自己的模型和其他公司的模型中都看到了這一點。

我沒有看到任何東西能阻礙這種規模化的進一步發展。

當然，有一些問題，比如我們如何拓寬強化學習階段的任務范圍。我們已經看到在數學和代碼方面取得了更多進展，模型的水平正接近高級專業人士。但在更主觀的任務上，進展就少一些。但我認為這只是一個暫時的障礙。

所以，當我審視這一切時，我看到了這條指數曲線，然后我說：“看，人類并不擅長理解指數增長。” 對吧？就像，如果某個東西每六個月翻一番，那么在它真正爆發的兩年前，它看起來只完成了整個過程的十六分之一。

而我們現在就坐在這里，在 2025 年年中，模型的各項能力正開始在經濟領域爆炸式增長。如果你看模型的性能，它們已經開始在所有基準測試中達到飽和。如果你看營收，Anthropic 的營收每年都增長 10 倍。每年，我們都很保守，說：“不可能再增長 10 倍了。” 每年我都非常保守地說：“唉，我覺得業務增長要放緩了。” 但事實是，我們從 2023 年的 0 增長到了 1 億美元，2024 年從 1 億增長到了 10 億。而今年，上半年我們就從 10 億增長到了……我想到今天為止，已經遠超 40 億，可能是 45 億。

所以你想想，假設這條指數曲線再持續兩年——我不是說它一定會——但如果它持續下去，你的營收會輕松進入千億級別。我不是說這一定會發生。我想說的是，當你身處一條指數曲線上時，你真的很容易被迷惑。距離指數曲線變得徹底瘋狂還有兩年的時候，它看起來卻像是剛剛起步。

這就是最根本的動態。我們在 90 年代的互聯網發展中也看到了這一點，對吧？當時網絡速度和計算機底層速度都在快速提升，在短短幾年內，建立一個全球數字通信網絡就成為了可能，而這在幾年前是無法想象的。而當時，除了少數幾個人，幾乎沒人真正預見到這其中的含義以及它發生的速度。

這就是我的出發點，我的思考方式。當然，我不知道未來會怎樣。比如，如果一堆衛星墜毀，互聯網的發展可能就會變慢。如果發生經濟危機，也可能變慢。所以我們無法確定確切的時間線，但我認為，人們正在被指數曲線所迷惑，沒有意識到事情可能——我認為是很可能——會發展得有多快，盡管我也不確定。

主持人：但 AI 行業的很多人都在談論規模化帶來的“收益遞減”。這似乎與你剛才描繪的愿景不太相符。他們錯了嗎？

Dario Amodei：是的。從我們所看到的情況來看——我只能就 Anthropic 的模型而言——我認為他們錯了。

我們以代碼為例。這是 Anthropic 模型進步很快的一個領域，市場采用率也很高。我們不僅僅是一家代碼公司，我們計劃擴展到很多領域。但如果你單看代碼，我們發布了 3.5 Sonnet，然后是一個我們稱之為 3.5 Sonnet V2 的模型——咱們就叫它 3.6 Sonnet 吧——然后是 3.7 Sonnet，再到 4.0 Sonnet 和 4.0 Opus。

這四五個模型系列，每一個在代碼能力上都比上一個有了顯著的提升。如果你看基準測試，比如 SWE-bench，它的得分從大概 18 個月前的 3% 左右，增長到了現在根據評測方式不同，在 72%到 80%之間。而實際的使用率也呈指數級增長。我們正越來越多地走向可以自主使用這些模型的方向。實際上，在Anthropic內部，大部分代碼都是由Claude模型編寫或在其參與下完成的。

所以，我們看到的進展非常快，指數曲線仍在繼續，我們沒有看到任何收益遞減。

AI 時代，技術護城河的消亡與重生

主持人：但大語言模型似乎確實存在一些固有的缺陷，比如“持續學習”（Continual Learning）的能力。我們幾周前請了 Dwarkesh，他認為缺乏持續學習能力是個巨大的問題。“大模型的基線能力可能比普通人強，但你就被困在了它出廠時的水平。”模型被創造出來后，它就不再學習了。這似乎是一個 glaring liability（明顯的缺陷）。你怎么看？

Dario Amodei：首先，我想說，即便我們永遠解決不了持續學習和記憶的問題，大模型影響經濟規模的潛力也依然巨大。如果我回想我以前的領域，生物學和醫學，比如說，我有一個非常聰明的諾獎得主，然后我說：“好吧，你雖然發現了所有這些東西，擁有這個無比聰明的頭腦，但你不能再讀新的教科書，也不能吸收任何新信息了。”

這當然會很困難，但如果你有一千萬個這樣的“諾獎得主”，他們仍然會取得大量的生物學突破，對吧？他們會受到限制，有些事情人類能做他們做不了，有些他們能做人類做不了。但即便我們把這個當作上限，天哪，那也已經非常了不起，足以改變世界了。

但話說回來，上下文窗口正在變得越來越長，而模型實際上在上下文窗口內確實在學習。對吧？所以當我和模型在對話中交談時，我進行了一場對話，它吸收了信息。雖然底層的模型權重可能沒有改變，但就像我和你現在交談一樣，我傾聽你說的話，然后我思考，然后我回應。模型也能做到這一點。

從機器學習的角度看，我們沒有理由不能把上下文長度做到一億個詞，這大概是一個人一生中聽到的詞匯量。今天就可以。真正限制我們的是推理成本。所以，即便只是這樣，也填補了許多空白。不是所有空白，但填補了很多。

然后，還有很多關于學習和記憶的技術，確實能讓我們更新模型權重。我們多年前討論過“內循環”和“外循環”的概念。內循環就像我在一個情境（episode）中學到一些東西，然后在外循環中，智能體在多個情境之間學習。也許這種內外循環結構就是實現持續學習的一種方式。

我們在 AI 領域學到的一件事是，每當你覺得有一個根本性的障礙時，比如兩年前我們認為推理能力是一個根本障礙，結果發現，用強化學習（RL）去訓練，讓模型寫下思考過程，就能解決。所以，在不透露太多細節的情況下，我認為，并且我們已經有一些初步證據表明，持續學習是另一個看似困難，但實際上并非如此的問題。它最終會屈服于規模化，以及一種稍微不同的思考方式。

主持人：你對規模化的癡迷，是否可能讓你忽視了一些新技術？如果你的注意力全在規模化上，會不會錯過這些？

Dario Amodei：我們每天都在開發新技術。

Claude 在代碼方面非常出色，我們不怎么對外談論為什么 Claude 在代碼方面這么好。

主持人：它為什么這么好？

Dario Amodei：（笑）就像我說的，我們不怎么對外談論。

我們發布的每一個新版本的 Claude，都在架構、我們輸入的數據，以及我們用來訓練它的方法上有所改進。所以我們一直在開發新技術，它們是我們構建每一個模型的一部分。這就是為什么我一直說，我們試圖盡可能地優化“人才密度”（talent density）。你需要那種人才密度，才能發明出新技術。

公司文化，決定了你能否擁有最頂尖的人才

主持人：有一種觀點認為，Anthropic 可能擁有正確的理念，但卻缺乏與之匹配的資源。你看 xAI 和 Meta 正在發生的事情，馬斯克建了他的超級計算集群，扎克伯格正在建一個 5GW 的數據中心。他們投入了如此巨大的資源來擴大規模。Anthropic 真的能跟上嗎？

Dario Amodei：我們已經融資了……我想截至目前，接近200億美元。這不算少。而且，如果你看看我們正在建設的數據中心的規模，比如和亞馬遜合作的那些，我不認為我們的數據中心規模化速度比這個領域的任何其他公司慢多少。

很多時候，這些事情受限于能源、資本化。當你聽到那些巨額數字的公告時，有時它們還沒有完全落實資金，而且是分幾年投入的。我們看過其他公司正在建設的數據中心的規模，我們非常有信心，我們……我們的規模會和他們在一個大致的范圍內。

主持人：那你怎么看扎克伯格在人才密度方面所做的事情？把那種人才密度和巨大的數據中心結合起來，他似乎具備了很強的競爭力。

Dario Amodei：是的，這其實非常有趣。因為我們注意到的一件事是，相對于其他公司，很少有 Anthropic 的人被他們挖走。這并不是因為他們沒努力。我跟很多在 Anthropic 收到他們 offer 的人聊過，他們直接就拒絕了。他們甚至都不愿意和扎克伯格談，他們說：“不，我要留在 Anthropic。”

我們對此的普遍回應是，我在全公司的 Slack 里發了一條消息，我說：“看，我們不愿意為了單獨回應這些 offer，而犧牲我們的薪酬原則和公平原則。” 在 Anthropic，我們的工作方式是，有一系列的級別，當候選人進來時，他們會被定級，我們不就這個級別進行談判。因為我們認為那不公平。我們想要一個系統化的方式。

如果，馬克·扎克伯格對著一個靶子扔飛鏢，正好射中了你的名字，那并不意味著你的薪水就應該比你旁邊那個和你一樣有才華、一樣技能嫻熟的同事高10倍。

在我看來，在這種情況下，唯一能真正傷害到你的，就是你因為恐慌而允許這種行為破壞你公司的文化，因為你試圖不公平地對待員工來保住他們。

而我認為，這實際上是公司的一個凝聚人心的時刻。我們沒有屈服，我們拒絕犧牲我們的原則，因為我們有信心，留在 Anthropic 的人是因為他們真正相信公司的使命。

我相信，AI 領域的公司文化，最終決定了你能否擁有最頂尖的人才。 我認為他們正在試圖購買一些無法用錢買到的東西，那就是對使命的認同。這里面存在選擇效應。他們得到的，是那些最熱情、最有使命感、最興奮的人嗎？

主持人：但他們有海量的 GPU。你不低估這一點嗎？

Dario Amodei：我們拭目以待。我個人對他們正在做的事情相當看空（bearish）。

押注企業級市場

主持人：讓我們來談談你的業務。很多人都在好奇，生成式 AI 的生意到底是不是一門好生意。你已經融資了近 200 億美元，谷歌投了 30 億，亞馬遜 80 億，還有新一輪由 Lightspeed 領投的 35 億。你的融資故事是什么？因為你不像那些大科技公司有現成的業務可以嫁接。你是直接拿著規模法則去跟投資人說“給我點錢”嗎？

Dario Amodei：我對這個問題的看法一直是，人才才是最重要的。

你想想，三年前，我們才融資了幾億美元。OpenAI 已經從微軟拿了 130 億美元，更不用說那些萬億市值的科技巨頭，他們賬上躺著千億、兩千億美元。我們當時的融資故事是：我們知道如何比別人更好地制造這些模型。

可能有一條規模法則的曲線，但如果我們在一個可以用 1 億美元做到別人 10 億美元才能做到的事情的位置上，可以用 100 億美元做到別人 1000 億美元才能做到的事情，那么投資 Anthropic 的資本效率就高 10 倍。你是愿意投資一個可以用便宜 10 倍的成本做任何事的公司，還是愿意投資一個一開始錢就更多的公司？

如果你能用便宜 10 倍的成本做事，那么資金短缺只是一個暫時的缺陷，是可以彌補的。而如果你擁有這種內在的能力，能用同樣的價格構建更好的產品，或者用更低的價格構建同樣好的產品，投資人不是傻子，他們理解資本效率的概念。

所以，我們從三年前資本相差近千倍的局面，走到了今天，你問我用 200 億能否與 1000 億競爭。我的回答是：能，因為我們的人才密度。

主持人：CNBC 報道說，Anthropic 60%-75% 的銷售額來自 API。這是否意味著你在下最純粹的技術賭注？

Dario Amodei：我不會這么說。我會說，我們押注的是模型的商業應用場景，而不是單純的API。只是恰好，最早的商業應用場景是通過 API 實現的。

如你所說，OpenAI 非常專注于消費者端。谷歌非常專注于將其整合到現有產品中。而我們的觀點是，企業級AI的應用潛力，即便不比消費者端更大，也至少是同等級別的。

而且我認為，作為一個專注于商業應用場景的公司，這給了我們更好的激勵去把模型做得更好。

我來舉個思想實驗。假設我有一個模型，它在生物化學方面的水平相當于一個本科生。然后我改進了它，讓它的水平相當于一個博士生。如果我把這個模型給一個普通消費者，我說：“好消息！我把模型的生物化學能力從本科生提升到了研究生水平！” 大概 1% 的消費者會在意這個，對吧？99% 的人會說：“我反正也看不懂。”

但現在，假設我去找輝瑞，我說我把模型從本科生水平提升到了研究生水平。這會是天大的事，對吧？他們可能愿意為此多付 10 倍的錢，因為它能創造 10 倍的價值。

所以，我們的總目標，是讓模型解決世界上的問題，讓它們越來越聰明，同時也能帶來很多積極的應用。我之前在《慈愛機器》（Machines of Loving Grace）里寫的那些，解決生物醫藥的問題、地緣政治的問題、經濟發展的問題，當然也包括金融、法律、生產力、保險這些更實際的領域。

我認為，押注商業應用，能提供更好的激勵來推動模型的發展。從很多方面來說，這可能是比消費者端更有利可圖的生意。

主持人：你最初是怎么決定專注于代碼這個應用場景的？

Dario Amodei：一開始，像大多數事情一樣，我們是想讓模型在很多方面都變得更好。然后，代碼這個領域就脫穎而出了。

我跟成千上萬的工程師合作過。大概一年半前，我合作過的最優秀的工程師之一說，以前所有的代碼模型對他來說都沒用，但我們的新模型終于能幫他做一些他自己做不到的事情了。當我們發布它之后，市場采用率迅速提升。

所以當我們看到它如此受歡迎之后，我們就加倍投入了。我的看法是，代碼特別有趣，因為 A)市場采用速度快，B)讓我們在代碼方面做得更好，又能反過來幫助我們開發下一個模型。所以它有很多優勢。

個人經歷、風險與“末日論者”的標簽

主持人：你曾說你的父親因為晚了幾年才出現的療法而去世。我知道這很私人，但你能分享一下這對你的影響嗎？

Dario Amodei：當然。我的父親確實病了很長時間，最終在 2006 年去世了。那件事確實是促使我——我之前沒提過，在我進入 AI 領域之前，我先進入了生物學領域。

我到普林斯頓的時候，是想成為一名理論物理學家，我最早的幾個月也確實在做宇宙學的研究。那段時間，我父親去世了。那件事對我影響很大，也是說服我轉向生物學的原因之一，我想去解決人類的疾病和生物問題。

所以我開始和我們系里那些做生物物理和計算神經科學的人交流，這導致了我轉向生物學和計算神經科學。后來，我最終進入 AI 領域，其實也是這種動機的延續。因為我在生物學領域待了很多年之后，我意識到，生物學問題的復雜性，感覺已經超出了人類的尺度。你需要成百上千的研究人員，而他們往往難以協作。

而 AI，我當時剛開始看到它的突破，感覺是唯一能彌合這個差距的技術，能把我們帶到人類尺度之外，去真正理解和解決生物學問題。所以，是的，這里面有一條貫穿始終的線。

主持人：我聽說，他得的病在他生病時基本是無法治愈的，但在他去世后不久，就有了重大的治療進展，變得可以管理了。

Dario Amodei：是的，是的，那是真的。實際上，在他去世后大概三四年，他得的那種病的治愈率從 50% 提高到了大概 95%。

主持人：眼睜睜看著父親被一種本可以被治愈的疾病奪走生命，那種感覺一定充滿了不公。

Dario Amodei：當然，當然。但這也告訴你，解決這些相關問題的緊迫性有多大。對吧？肯定有人在研究那種病的療法，他們最終成功了，拯救了很多生命。但如果他們能早幾年找到療法，就能拯救更多人的生命。

我認為這就是這里的矛盾之處，對吧？AI 有所有這些好處，我希望每個人都能盡快享受到。我可能比任何人都更理解這些好處有多么緊迫，因為我親身經歷過。

所以，我真的理解其中的利害關系。當我在公開場合談論 AI 的風險，說我擔心這些風險時，我非常、非常憤怒，當有人稱我為“末日論者”的時候。我真的非常憤怒。 當有人說：“這家伙是個末日論者，他想讓事情慢下來。”

你聽到我剛才說的了嗎？我的父親因為那些本可能晚幾年就出現的療法而離世。我理解這項技術的價值。

當我坐下來寫《慈愛機器》時，我寫下了所有能讓數十億人生活變得更好的方式。而那些在推特上為“加速”歡呼的人，我不認為他們對這項技術的好處有一種人文主義的理解。他們的大腦里充滿了腎上腺素，他們想為某件事歡呼，想加速。我不覺得他們在乎。

所以當這些人叫我“末日論者”時，我認為他們完全、完全喪失了這么做的道德信譽。這真的讓我對他們失去尊重。

主持人：你對這項技術的掌控能力，似乎是你所有行動的前提。但你對影響力的渴望，是否可能促使你在加速這項技術的同時，低估了“控制”本身可能并不可行的風險？

Dario Amodei：我認為我比這個行業里的任何人都更多地警告過這項技術的危險。我們剛剛花了十幾二十分鐘，談論了一大堆經營著萬億美元公司的人批評我談論技術危險的事情。

現在有美國政府的官員，有經營著四萬億美元公司的人，批評我談論技術的危險，給我安上各種奇怪的動機，這些動機和我說的、做的任何事情都毫無關系。

但我還是會繼續這么做。

實際上，我認為，隨著營收和經濟業務的指數級增長——如果我是對的，幾年后這將是世界上最大的產業——我們面臨著一個可怕的局面：有數千億、數萬億，甚至我估計有 20 萬億美元的資本，都站在“盡可能快地加速 AI”這一邊。而我們這家公司，雖然絕對價值很高，但相對而言很小，600 億美元。

我一直在發聲，即便這會讓政府里的一些人、一些巨頭不高興。我每次這么做，都會受到很多同行的攻擊。但我還是要繼續做。

如果我認為，我們完全沒有辦法控制這項技術——而我完全看不到任何證據支持這個論點，我們發布的每一個模型，我們對它的控制能力都在變強——如果我認為沒有辦法，那我就會站出來說：“每個人都應該停止開發這些東西，甚至是中國也應該停下來。”

我警告風險，就是為了我們不必慢下來。為了我們能投資于安全技術，繼續這個領域的進步。這需要一個巨大的經濟努力。就算一家公司愿意放慢腳步，也阻止不了其他公司，也阻止不了我們的地緣政治對手。

所以，我們被夾在技術的巨大利益、加速的競賽，以及這種多方競賽的現實之間。我能做的最好的事，就是投資安全技術，加速安全方面的進展，并且當我擔心我們處理風險的能力跟不上技術發展的速度時，我就要更大聲地疾呼。這就是我的回應。

那是我聽過最無恥、最離譜的謊言

主持人：我相信你也聽過黃仁勛上個月對你的批評，他說：“Dario 認為只有他才能安全地構建這項技術，因此他想控制整個行業。” 你怎么看？

Dario Amodei：我從沒說過那樣的話。那是我聽過最無恥、最離譜的謊言。

事實上，我說過很多次，Anthropic 的行動也證明了，我們的目標是一種“競相向上”（race to the top）。

我曾在播客上說過，Anthropic 的行動也表明，在一個“競相向下”（race to the bottom）的環境里，每個人都在比誰能更快地把東西推出來，誰贏了并不重要，因為所有人都輸了。你造出了不安全的系統，它可能會幫助你的對手，或者導致經濟問題，或者從對齊的角度看是不安全的。

而我所理解的“競相向上”，是誰贏了不重要，因為所有人都贏了。你為整個領域樹立一個榜樣。一個關鍵的例子就是我們的“負責任的規模化政策”（Responsible Scaling Policy）。

我們是第一個發布這種政策的公司。我們沒有說：“其他人都該這么做，不然你們就是壞人。” 我們沒有試圖把它當作一種優勢。我們發布了它，然后鼓勵其他所有人都這么做。

我們發現，在那之后的幾個月里，其他公司內部那些試圖推動類似政策的人，因為我們已經做了，就有了向領導層建言的理由和許可。這讓整個行業都向前走了一步。在可解釋性研究上也是如此，我們把研究成果公開發布給所有人，即便我們知道這其中有商業優勢。在“憲法 AI”、危險能力評估方面也是一樣。

我們試圖為這個領域樹立一個榜樣。但這和成為一個強大的商業競爭者之間存在一種相互作用。

我從沒說過，也從未暗示過，我們公司應該是唯一一個構建這項技術的公司。我不知道任何人怎么能從我說的任何話里得出這種結論。這……這簡直是……是的，這是一種令人難以置信的、惡意的曲解。

本文編譯 自 Alex Kantrowitz

原文 | youtube.com/watch?v=mYDSSRS-B5U

AI 產品爆發，但你的痛點解決了嗎？

2025 全球產品經理大會

8 月 15–16 日

北京·威斯汀酒店

互聯網大廠、AI 創業公司、ToB/ToC 實戰一線的產品人

12 大專題分享，洞察趨勢、拆解路徑、對話未來。

立即掃碼領取大會PPT

搶占 AI 產品下一波紅利