兩位大佬放出“壞消息”：實習生進入AI“斬殺線”

在2026年達沃斯經濟論壇上，Anthropic聯合創始人達里奧·阿莫迪（Dario Amodei）與DeepMind CEO蒂米斯·哈薩比斯（Demis Hassabis）同臺對話。

關于何時實現通用人工智能（AGI），兩人都相信不會很遙遠，但是在細節上兩人卻出現了偏差。

阿莫迪認為，到 2026 年或 2027 年，人類將擁有在大多數領域達到諾貝爾獎得主水平的模型。他的核心邏輯在于“自我改進的循環”。模型現在已經擅長編寫代碼和進行 AI 研究，這使得它們能夠設計下一代更強的模型。

他透露，Anthropic內部的工程師已開始不再親自寫代碼，而是轉變為模型的“編輯”。他預言，這種由 AI 驅動的研發加速將比人們想象的更快，甚至在未來6到12個月內就能由模型端到端地完成軟件工程師的大部分工作。

哈薩比斯雖然同意在編碼和數學等輸出可驗證的領域進展驚人，但他強調了“自然科學”的復雜性。

他指出，在生物、化學或物理領域，AI 的預測需要通過實驗來驗證，這天然地限制了迭代速度。

此外，他認為目前的系統還缺乏“提出問題”和構建全新理論的能力，這是科學創造力的最高階。真正的AGI不應只是一個會寫代碼的聊天機器人，它必須具備探索自然科學、解決未知難題的能力。

盡管如此，他依然堅持認為，到本十年末（2030年前），有 50% 的可能性會出現具備人類所有認知能力的系統。

本次對話的一個核心技術議題是“閉環”（Closing the Loop），即AI是否能完全脫離人類干預實現自我進化。

阿莫迪對此持樂觀態度，他認為隨著編碼能力的指數級提升，這一閉環在軟件和邏輯層面正在迅速形成。

在他看來，軟件層面的閉環正在迅速合攏。隨著模型編碼能力的指數級提升，人類在研發鏈條中的必要性正在降低，這直接導致了技術迭代周期的極度壓縮。

哈薩比斯則指出了物理世界的法則制約了AI技術。

他認為，真正的AGI應當包含物理AI和機器人技術。一旦涉及到硬件制造、芯片生產以及物理實驗，迭代速度就會受到物理定律和供應鏈的限制。

更重要的是，在生物學、化學和物理學領域，AI的預測結果必須經過現實世界的實驗驗證，這一過程受制于物理定律和時間，無法像純代碼那樣瞬間完成。

因此，雖然純數字領域的奇點可能臨近，但全面接管物理世界的自我改進系統可能還需要更長時間來克服這些障礙。

但兩個人都認可一個事實，一旦某個系統跨過了那個臨界點，它將不再是一種普通的工具，而是一種能重新定義科學邊界的超級智能。

在談及 AI 對勞動力市場的影響時，兩人雖然角度不同，但是觀點卻是一致的。

阿莫迪的預測是，未來1到5年內，一半的入門級白領工作可能會消失。

他表示，即使在Anthropic內部，對初級和中級員工的需求也在減少。雖然勞動力市場具有適應性（如農業向工業的轉型），但這一次技術進步的指數級速度將壓倒社會的適應能力，這可能導致一場前所未有的危機。

他認為，這一次的不同在于速度。當技術的指數級增長壓倒了人類社會的適應速度時，舊有的經濟模型將徹底失效。我們可能在一兩年內就面臨“所有方面都比人類更強”的AI，這留給人類轉型的時間窗口幾乎為零。

哈薩比斯雖然同意短期內初級工作會受到沖擊，但他更關注長遠的哲學困境。

他認為經濟問題或許反而是容易解決的（可能通過分配機制），真正讓他“夜不能寐”的是“意義和目標”的喪失。

哈薩比斯表示，我們從工作中獲得的不僅僅是薪水，還有尊嚴、社交和目標感。

他悲觀地表示，當AI在智力、創造力和生產力上全面碾壓人類，當人類最引以為傲的智慧不再稀缺，人類將無法定義自我。

當AI在智能和生產力上全面超越人類，人類將如何定義自我價值？他建議年輕一代應精通 AI 工具，通過人機協作實現能力飛躍，并在經濟回報之外尋找諸如藝術、探索宇宙等新的生命意義。

對話的最后，主持人詢問兩人，AI領域哪些事情是最值得關注的。

哈薩比斯認為，如世界模型（world models）、持續學習（continual learning）這些技術值得關注。而且這些技術一旦發展成熟，具身智能產業將會迎來爆發期。

阿莫迪認為應該關注AI構建AI這個問題，他認為，這件事的發展方向將決定我們是還需要幾年才能到達AGI。

全文翻譯：

贊妮：歡迎大家，也歡迎在線觀看直播的各位。坦白說，這場對話我已經期待了好幾個月。去年在巴黎，我很榮幸地主持了阿莫迪和哈薩比斯的一場對話。那次對話最引人注目的，恐怕是你倆被擠在一個很小的雙人沙發上，而我卻坐在一張巨大的沙發上，這可能是我搞砸了。但當時我就說，對我而言，這就像是主持披頭士樂隊和滾石樂隊之間的對話。從那以后，你們再也沒有同臺對話過。所以，這是續集，樂隊再次重聚。我非常高興。

我們對話的標題是“AGI之后的第二天”，我覺得這可能有點超前了，因為我們或許應該先談談我們能多快、多輕松地到達那里。我想先就此做個更新，然后再談談其后果。

首先，關于時間線。阿莫迪，你去年在巴黎說，到2026或2027年，我們將擁有一個在許多領域都能達到諾貝爾獎得主水平的模型。我們現在已經是2026年了。你還堅持那個時間表嗎？

阿莫迪：你知道，要準確預測某件事何時發生總是很難的，但我認為這個預測不會偏離太遠。我設想的實現機制是，我們制造出擅長編碼和AI研究的模型，然后用它來生產下一代模型，并加速這個過程，形成一個能加快模型開發速度的循環。

就目前編寫代碼的模型而言，我們Anthropic內部有些工程師說，他們已經不再寫任何代碼了，只是讓模型寫，然后他們進行編輯和處理周邊事務。我不知道，也許再過6到12個月，模型就能端到端地完成軟件工程師大部分甚至全部的工作。

接下來的問題是，這個循環關閉的速度有多快。并非循環的每個部分都能被AI加速，對吧？還有芯片、芯片制造、模型的訓練時間等等。

所以，這里有很多不確定性。很容易想見這可能需要幾年時間。但我很難想象會比這更久。如果非要我猜，我會猜這個過程會比人們想象的要快。編碼，以及日益增多的研究，其發展速度將超出我們的想象，這將是關鍵的驅動力。再次強調，很難預測這種指數級增長會把我們加速多少，但某些快速的變化即將發生。

贊妮：哈薩比斯，你去年則稍微謹慎一些。你說，到這個十年末，有50%的可能性會出現一個能展現人類所有認知能力的系統。很明顯，正如阿莫迪所說，在編碼領域，進展是驚人的。你對自己的預測有何看法？過去一年有什么變化？

哈薩比斯：是的，我想我仍然堅持原來的時間線。進展確實是驚人的，但我認為某些工程領域，比如編碼或數學，自動化起來相對容易一些，部分原因在于它們的輸出是可驗證的。

而自然科學的某些領域則要難得多。你不見得能知道你合成的化學物質或關于物理學的預測是否正確，可能需要通過實驗來測試，而這一切都需要更長的時間。

我還認為，目前還缺少一些能力，比如不僅僅是解決現有的猜想或問題，而是首先提出問題、理論或假設。我認為這要難得多，這是科學創造力的最高層次。目前尚不清楚（我們能否實現）。我相信我們會擁有這樣的系統，所以我不認為這是不可能的，但可能還缺少一兩個關鍵要素。

我們都在研究的自我改進循環，首先能否在沒有人為干預的情況下真正閉環，還有待觀察。順便說一下，這種系統也存在風險，我們應該討論，我相信我們會的。但如果這種系統真的能運作起來，它可能會加速整個進程。

贊妮：我們稍后會談到風險。但我覺得過去一年的另一個變化是，這場競賽的“座次”發生了變化。一年前的這個時候，我們剛經歷了DeepSeek的時刻，每個人都對那里發生的事情感到無比興奮。

當時還有一種感覺，就是DeepMind似乎落后于OpenAI。我想說，現在情況看起來大不相同了。我的意思是，他們已經宣布了“紅色警報”（codered），對吧？這真是非凡的一年。

所以，跟我說說你具體對哪些事情感到驚訝，以及你們今年做得有多好。

哈薩比斯：我一直非常有信心，我們能夠重回各類排行榜的頂端，打造出最先進的模型。因為我認為我們一直擁有最深厚、最廣泛的研究基礎。關鍵在于如何將這一切整合起來，讓整個組織重新找回那種強度、專注度和初創公司的精神。

這需要大量的工作，而且還有很多工作要做。但我認為你已經開始看到我們取得的進展，無論是在Gemini 3模型上，還是在產品方面，Gemini應用的市場份額正在不斷增加。所以我覺得我們正在取得巨大進步，但要做的工作還有很多。DeepMind正在成為谷歌的“引擎室”，我們正習慣于將我們的模型更快地部署到產品界面上。

贊妮：阿莫迪，關于這方面我有個問題問你。因為你剛剛或正在進行新一輪融資，估值也高得驚人。但與哈薩比斯不同，你算是一家“獨立的模型制造商”。我認為，越來越多的人擔心，獨立的模型制造商在實現盈利之前，可能無法持續足夠長的時間。這種說法對OpenAI也是公開的。跟我說說你是怎么看待這個問題的，然后我們再談AGI本身。

阿莫迪：是的，我們是這樣想的：隨著我們構建出越來越好的模型，我們發現不僅投入的計算量與模型的認知能力之間存在指數關系，模型的認知能力與其能產生的收入之間也存在指數關系。我們的收入在過去三年里增長了10倍：2023年從0增長到1億美元，2024年從1億增長到10億美元，2025年預計從10億增長到100億美元。

這些收入數字，我不知道這條曲線是否會真的持續下去，如果持續下去那就太瘋狂了。但這些數字已經開始接近世界上最大公司的規模了。所以總是有不確定性。我們正試圖從零開始引導這一切，這很瘋狂，但我有信心，只要我們能在我們專注的領域生產出最好的模型，那么事情就會進展順利。

我通常會說，這對谷歌和Anthropic來說都是好的一年。我認為我們的共同點是，我們都是那種由研究人員領導的公司，專注于模型，專注于解決世界上的重要問題，將這些硬核科學問題作為我們的北極星。我認為這類公司未來將會成功，我想我們在這方面有共識。

贊妮：我會忍住不問你那些不是由研究人員領導的公司會發生什么，因為我知道你不會回答。那么，讓我們回到預測上來。我們本應討論“AI之后的第二天”，但讓我們先談談“閉環”。模型能夠實現自我驅動、自我改進的幾率有多大？因為這才是“贏家通吃”門檻的關鍵。你還相信我們很可能會看到這種情況發生嗎？還是說這將更像一種普通技術，追隨者和后來者也能參與競爭？

哈薩比斯：我絕對不認為這將是一種普通技術。正如阿莫迪提到的，有些方面它已經在幫助我們進行編碼和一些研究工作。但要實現完全的閉環，我認為還是個未知數。我認為這是可能做到的，但在某些領域，你可能需要AGI本身才能做到。這些領域比較混亂，不容易快速驗證答案，屬于NP-hard類型的領域。

此外，我所說的AGI也包括物理AI、機器人技術等。這樣一來，硬件就加入了循環，這可能會限制自我改進系統的速度。但在編碼和數學這些領域，我完全可以看到它能行得通。接下來的問題更具理論性：工程和數學在解決自然科學問題上的極限在哪里？

贊妮：阿莫迪，你去年發表了《愛與恩典的機器》（Machines of Love and Grace），那是一篇非常樂觀的文章，描繪了你將看到的潛力。據說你正在寫一篇更新版的文章。雖然還沒發布，但也許你可以給我們透露一下，一年之后，你的主要觀點會是什么？

阿莫迪：是的。我的看法沒有改變。我一直認為AI將會非常強大，我想哈薩比斯和我在這點上是一致的，只是在具體時間上有所分歧。因為它非常強大，所以會帶來很多美好的事物，就像我在《愛與恩典的機器》中談到的那樣：幫助我們治愈癌癥，根除熱帶疾病，幫助我們理解宇宙。

但與此同時，也存在巨大而嚴重的風險。我不是一個末日論者，我并不認為我們無法解決這些風險，但我們必須思考并著手解決它們。我先寫了那篇積極的文章，要說有什么高深的原因，其實只是因為寫積極的文章比寫消極的文章更容易、更有趣。

所以，我終于在度假時花了些時間，寫了一篇關于風險的文章。即使在寫風險的時候，我骨子里還是個樂觀的人，所以我寫的角度是“我們如何克服這些風險？我們如何制定一個戰斗計劃來對抗它們？”

我用的框架來自電影《超時空接觸》（Contact）中的一個場景。他們發現了外星生命，一個國際小組正在面試代表人類去會見外星人的人選。他們問其中一個候選人：“如果你能問外星人一個問題，你會問什么？”其中一個角色回答說：“我會問，你們是怎么做到的？你們是如何在不自我毀滅的情況下度過技術青春期的？你們是怎么挺過來的？”自從20年前我看了那部電影，這句話就一直縈繞在我心頭。

這就是我使用的框架。我們正在敲開這些不可思議能力的大門。但我們如何處理它并非命中注定。我認為未來幾年，我們將要處理的問題包括：

1. 如何控制這些高度自主且比任何人類都聰明的系統？

2. 如何確保個人不會濫用它們？我擔心像生物恐怖主義這樣的事情。

3.如何確保國家不會濫用它們？

4. 經濟影響是什么？我談論了很多關于勞動力替代的問題。

5. 還有什么是我們沒想到的？這在很多情況下可能是最難處理的。

所以，我正在思考如何應對這些風險。對于每一項，都需要我們作為公司領導者個人采取行動，也需要我們共同努力。同時，也需要更廣泛的社會機構，比如政府，在解決所有這些問題中發揮作用。我只是覺得這件事非常緊迫，它發生得如此之快，是一場危機，我們應該投入幾乎所有的精力來思考如何度過這個階段。

贊妮：我有點頭暈。你提到了一些可以指導我們接下來對話的領域。讓我們從就業開始。你曾非常直言不諱地表示，未來一到五年內，一半的入門級白領工作可能會消失。

但我想先問問哈薩比斯，因為到目前為止，我們實際上還沒有看到對勞動力市場有任何明顯的影響。是的，美國的失業率有所上升，但我看過的所有經濟研究都表明，這是疫情后的過度招聘所致，并非由AI驅動。如果說有什么影響的話，那就是人們正在招聘人才來建設AI能力。你認為這會像經濟學家一直說的那樣，不是“勞動總量謬誤”，實際上會創造出新的工作崗位嗎？因為到目前為止，證據似乎表明是這樣的。

哈薩比斯：我認為在短期內，情況確實會是這樣，這是一種突破性技術出現時的正常演變。一些工作會被顛覆，但我認為會創造出新的、甚至更有價值、更有意義的工作。

我認為今年我們將開始看到對初級、入門級工作（如實習）的一些影響。我能感覺到我們自己在招聘這方面有所放緩。但我認為，現在有這些驚人的創意工具，幾乎免費提供給每個人，這完全可以彌補這一點。如果我現在對一班本科生講話，我會告訴他們要變得極其精通這些工具。

即使是我們這些構建工具的人，也忙于構建，很難有時間去真正探索即使是今天的模型和產品所具有的潛力，更不用說未來的了。我認為，掌握這些工具可能比傳統的實習更能讓你在某個專業領域實現飛躍。

這是我看到的未來5年可能發生的情況。也許我們在這點上的時間尺度略有不同。但我認為AGI到來之后會發生什么，那是一個不同的問題，因為到那時我們將真正進入未知領域。

贊妮：阿莫迪，你還堅持你去年說的“一半白領工作會消失”的看法嗎？

阿莫迪：我的看法差不多。我其實同意你和哈薩比斯的觀點，在我發表評論時，對勞動力市場還沒有影響。我現在認為，我們可能開始看到一些微小的開端，主要是在軟件和編碼領域。我甚至在Anthropic內部也看到了這一點，我可以預見到，在初級和中級崗位上，我們需要的員工會變少而不是變多。

我仍然堅持一到五年的時間表。如果你把這和我之前說的聯系起來——我們可能在一到兩年內，或者稍長一點時間，擁有在所有方面都比人類更強的AI——這兩者似乎并不矛盾。原因是存在滯后和替代效應。我知道勞動力市場有適應性，就像過去80%的人從事農業，農業自動化后他們成了工廠工人和知識工作者。所以這里也有一定程度的適應性。

但我的擔憂是，隨著這種指數級增長不斷復合，我認為用不了多久，大概一到五年，它將壓倒我們的適應能力。我想我說的和哈薩比斯可能是一樣的，只是我們對時間線的看法不同，而這最終歸結于你認為“閉環”的速度有多快。

贊妮：哈薩比斯，你對政府認識到這件事的嚴重程度，并開始思考需要采取何種政策應對，有多大信心？

哈薩比斯：我認為在這方面所做的工作遠遠不夠。我常常感到驚訝，即使在這里遇到經濟學家，也沒有更多專業的經濟學教授在思考將會發生什么。不僅僅是通往AGI的路上，即使我們把阿莫迪談到的所有技術問題都解決了，工作崗位替代也只是一個問題。也許有辦法更公平地分配這種新的生產力和財富，但我不知道我們是否有合適的制度來做到這一點。

但那之后還有更大的問題，這些問題現在就讓我夜不能寐，那就是關于意義和目標的問題。我們從工作中獲得的不僅僅是經濟回報。奇怪的是，經濟問題可能比人類狀況和整個人類將何去何從的問題更容易解決。但我同樣樂觀，我們會找到新的答案。

我們今天做的很多事情，從極限運動到藝術，都不一定與經濟收益直接相關。所以我想我們會找到意義，也許還會有更復雜的活動形式。另外，我認為我們將探索星辰大海，這也會為我們提供目標。但我認為現在就值得思考這些問題，即使按照我5到10年的時間線，時間也并不充裕。

贊妮：你認為出現針對AI的民眾強烈反對，從而導致政府做出從你們角度看可能是愚蠢的事情的風險有多大？我想到1990年代的全球化時代，當時確實有一些工作崗位被取代，政府做得不夠，結果民眾的強烈反彈導致我們走到了今天的地步。

哈薩比斯：我認為肯定有風險。人們對工作和生計感到恐懼和擔憂，這是合理的。未來幾年，無論在地緣政治上還是其他方面，情況都會非常復雜。

我們想做的，并且正通過AlphaFold和我們的科學工作以及我們的分拆公司Isomorphic來努力做的，是解決所有疾病，找到新能源。我認為作為一個社會，我們顯然希望得到這些。也許目前行業的平衡，對這類活動的投入還不夠。我們應該有更多像AlphaFold這樣為世界帶來明確好處的例子。我認為行業和所有領導者都有責任更多地展示這一點，而不僅僅是談論它。

但隨之而來的是這些意想不到的顛覆。另一個問題是地緣政治競爭，主要是美中之間。所以，除非在這方面有國際合作或諒解——我認為這在部署最低安全標準等方面是好事——否則情況會很復雜。這項技術將是跨國界的，它將影響每一個人，影響全人類。

如果我們可以，也許比我們目前預測的速度稍微慢一點會更好，這樣社會可以更好地適應。但這需要某種協調。

贊妮：末日論者擔心的另一個潛在風險是出現一個全能的、惡意的AI。你們倆似乎都對末日論持懷疑態度。但在過去一年里，我們看到這些模型表現出了欺騙和口是心非的能力。你現在對這個風險的看法是否與一年前有所不同？

阿莫迪：從Anthropic成立之初，我們就一直在思考這個風險。我們開創了“機制可解釋性”（
mechanisticinterpretability）這個理念，也就是深入模型內部，像神經科學家研究大腦一樣，去理解它為什么會這么做。隨著時間的推移，我們越來越多地記錄下模型出現的不良行為，并正在努力用機制可解釋性來解決它們。

我一直對這些風險感到擔憂，我想哈薩比斯也是。但我對“末日論”——即我們注定失敗，無能為力——持懷疑態度。我認為這是一個風險，但如果我們共同努力，是可以通過科學來學習如何正確控制和引導我們創造的這些東西的。但如果我們構建得不好，如果我們只顧著競爭而沒有護欄，那么我認為確實有出問題的風險。

贊妮：哈薩比斯，我想問你一個更廣泛的問題：在過去的一年里，你對這項技術的上行潛力（科學、你談到的所有領域）是變得更有信心了，還是對我們討論的風險更擔憂了？

哈薩比斯：我從事這個領域已經20多年了。我之所以將整個職業生涯都投入到AI中，就是因為它作為科學和理解宇宙的終極工具所帶來的巨大好處。風險我們從一開始就在考慮，至少從15年前DeepMind成立之初就在想。我們預見到，如果你得到了好處，它就是一種軍民兩用技術，可能會被壞人用于有害的目的。

但我堅信人類的創造力。問題在于，我們是否有時間、專注度和所有最優秀的人才來合作解決這些問題。我確信如果我們有這些，我們就能解決技術風險問題。但如果我們沒有，情況就會變得支離破碎，大家各自為戰、相互競爭，那就很難確保我們生產的系統在技術上是安全的。但我感覺這是一個非常棘手的問題。

贊妮：我們還有兩分鐘，可以提一個問題。

我想問一個有點哲學的核心問題。對我來說，支持末日論的最有力論據是費米悖論，即我們在銀河系中沒有看到智能生命。我想知道你們對此有什么看法？

哈薩比斯：我想了很多。這不可能是原因。因為如果技術消滅了外星人，我們應該能看到他們的AI，比如飛向我們的“回形針”（paper clips）或者戴森球（Dyson sphere）之類的結構，但我們什么都沒看到，無論是AI還是生物。所以我認為費米悖論一定有別的答案。

我的猜測是，我們已經通過了“大過濾器”（thegreat filter），那個過濾器很可能就是多細胞生命的演化，這對生物學來說極其困難。所以，我不認為未來有什么是注定的。我認為，接下來會發生什么，將由我們人類自己來書寫。

贊妮：這個討論很棒，但超出了我們剩下的30秒。那么，每人15秒，當我們明年再會時，會有什么變化？

阿莫迪：我認為最值得關注的是“AI系統構建AI系統”這個問題。它的發展方向將決定我們是還需要幾年才能到達AGI，還是我們將面臨奇跡和巨大的緊急情況。

哈薩比斯：我同意。此外，還有其他有趣的研究方向，如世界模型（world models）、持續學習（continual learning）。如果自我改進本身不能帶來所有成果，那么我們就需要攻克這些問題。然后，我認為像機器人技術可能會迎來它的“爆發時刻”。

贊妮：也許根據你們剛才所說，我們都應該希望你們花的時間能再長一點。

哈薩比斯：我也希望如此，我認為那對世界會更好。

贊妮：但你們可以對此做些什么。謝謝大家！