北京
那個男人回來了。在沉寂許久并創立新公司SSI（Safe Superintelligence）后，Ilya Sutskever終于在鏡頭前開口了。這次他對談的信息量極大，不僅否認了“大力出奇跡”是未來的唯一解，更預言了AI行業正在經歷一次從“Scaling時代”回到“研究時代”的巨大范式轉移。
如果說AI界有一位像“先知”一樣的人物，那一定是Ilya Sutskever。從AlexNet到GPT-4，他幾乎踩準了每一次深度學習的爆發點。
在離開OpenAI并創立SSI之后，Ilya一直保持神秘。最近，他終于接受了Dwarkesh Patel的深度專訪。我看完了這一個多小時的對話，在大受震撼的同時，也感到一絲釋然：那個只會無腦堆算力的時代，可能真的要過去了。
以下是我整理的本次對談的精華總結與思考。
01. 現在的模型：高分低能的“偏科生”
Ilya在對話一開始就拋出了一個非常犀利的觀察：現在的模型在極其困難的基準測試（Evals）上表現出色，但在某些簡單任務上卻顯得非常愚蠢。
他舉了一個生動的例子：你讓AI寫代碼，它寫出了一個Bug。你讓它修，它修好了一個Bug引入了第二個Bug。你再讓它修，它又把第一個Bug改回來了。它陷入了一個死循環。
為什么會這樣？
Ilya給出了兩個可能的解釋：
1.RL（強化學習）的副作用：后訓練階段的RL讓模型變得“急功近利”和“狹隘”。它學會了怎么討好人類裁判，卻失去了對全局的把控。
2.根本性的泛化能力不足：哪怕經過了海量數據的預訓練，模型依然沒有真正學會像人類那樣“舉一反三”。
這一點非常戳中痛點。我們現在的AI就像是一個刷題機器，它背下了所有的題庫，所以考試能拿100分。但在現實世界這種“沒見過的題”面前，它的脆弱性就暴露無遺。這說明僅僅依靠現有的范式，可能無法通向真正的AGI。
這是整場對話中最振聾發聵的觀點。
Ilya將深度學習的發展劃分為兩個階段：
?2012-2020：研究時代（The Age of Research）。那時候大家算力有限，必須絞盡腦汁想新算法、新架構（比如Transformer的誕生）。
?2020-2025：擴張時代（The Age of Scaling）。自從GPT-3之后，“Scaling Laws”統治了一切。大家發現只要無腦堆數據、堆算力，效果就能提升。于是，所有人都變成了“煉丹師”，不再思考底層原理，只是在比誰的集群更大。
但是，Ilya認為，Scaling Laws帶來的紅利正在邊際遞減。預訓練數據快用光了，單純把模型做大不再能像以前那樣帶來質的飛躍。
“現在，算力已經足夠大了，我們重新回到了研究時代?！?/strong>
Ilya指出，如果我們要突破現在的瓶頸（比如推理能力、可靠性），光靠堆算力是不夠的。我們需要像十年前那樣，去探索新的訓練范式，去尋找那條未被發現的路徑。
這對于那些只會囤顯卡的大廠來說是個壞消息，但對于真正的研究者和創業公司來說，是天大的好消息。既然算力不再是唯一的護城河，那么這就意味著“想法”和“智力”重新變得值錢了。那個“Idea is cheap, execution is everything”的硅谷格言，在AI領域可能要反過來了：現在大家都有卡了，但誰有下一個Transformer級的Idea？
03. 預訓練才是AGI，RL只是“緊箍咒”？
Ilya提出了一個非常反直覺的觀點：也許預訓練（Pre-training）本身就已經產生了一種AGI。
預訓練模型看過人類所有的知識，它在某種意義上是通用的。但是，為了讓它變得有用（聽懂指令、不亂說話），我們給它加上了RLHF（人類反饋強化學習）。
Ilya認為，這個過程其實是在讓模型變得“狹隘”。我們在強迫一個博學的通用智能體，去扮演一個特定的、符合人類偏好的客服角色。
他甚至用了一個極端的比喻：預訓練就像是一個學習了整個人類文明的孩子，而RLHF就像是讓他去參加應試教育。
這解釋了為什么很多開源底座模型（Base Model）在創造性上往往優于經過對齊的模型。我們現在的對齊技術（Alignment）可能太粗糙了，它在剔除有害信息的同時，也切掉了模型的智商和靈性。如何既保持模型的安全性，又不閹割它的通用能力？這是下一個階段的核心難題。
04. SSI的野心：不參與“老鼠賽跑”，直通超級智能
談到他的新公司SSI，Ilya展現了一種近乎修道士般的定力。
現在的AI公司（OpenAI、Google、Anthropic）都陷入了激烈的商業競爭（Rat Race）：不僅要發論文，還要做產品、做ToB服務、做App、搞地推。
Ilya認為，這會分散精力。SSI不打算發布任何過渡性的產品。他們的目標只有一個：直通安全的超級智能（Safe Superintelligence）。
他甚至不想利用AI來做短期的商業變現。他只想在這個安靜的房間里，和一群最聰明的人，解決最難的問題。
我覺得其實是非?！胺瓷虡I”的，甚至有點像當年的曼哈頓計劃。只有像Ilya這樣級別的人物，才能融到幾十億美金卻不被要求立即在大模型競技場上廝殺。這是一種巨大的賭注：賭現在的路線圖走不通，賭需要通過長時間的靜默研究才能憋出大招。如果他贏了，他將定義下一個時代；如果輸了，這就是科技史上最昂貴的閉門造車。
05. 什么是真正的“對齊”？
關于安全，Ilya的看法也很獨特。他不再強調寫一堆死板的規則（比如“阿西莫夫三定律”），而是強調“價值觀的繼承”。
他類比了人類的進化。我們的基因里并沒有寫著“要構建民主社會”或者“要尊重人權”，基因里只寫了簡單的生存本能。但是，隨著人類智力的提升，我們衍生出了同理心、社會契約和高級的道德觀念。
Ilya希望超級智能也能通過某種方式，“繼承”人類對于生命、對于意識的尊重。他希望構建一個關心“有感知力的生命”（Sentient Life）的AI，而不僅僅是聽從人類命令的奴隸。
如果AI比我們聰明一萬倍，指望靠幾行代碼這種“狗鏈”拴住它是天方夜譚。唯一的希望是，它不僅比我們聰明，還比我們更有“神性”。這聽起來很玄學，但也許是面對神級智能時唯一可行的路徑。
總結：風暴來臨前的寧靜
看完這場訪談，我最大的感受是：AI行業正在進入深水區。
前兩年的熱鬧是應用層的熱鬧，是Scaling Laws帶來的低垂果實。但現在，真正的硬骨頭來了。數據枯竭、推理缺陷、泛化能力差，這些問題不是靠買一萬張H100就能解決的。
Ilya的選擇——退出喧囂，回歸研究——或許正是給整個行業的一個信號：慢下來，想清楚，然后再出發。
正如他在訪談最后所暗示的：現在的AI看起來還很蠢，很難讓人感受到威脅。但那個臨界點（Tipping Point）終會到來。在那之前，我們需要做足準備。對于我們普通人來說，也許這意味著：不要被眼花繚亂的各種“GPT-5傳言”所干擾，關注那些真正試圖解決邏輯推理、長期記憶和自主學習能力的技術突破，那才是通往未來的鑰匙。
你如何看待Ilya“回歸研究時代”的判斷？歡迎在評論區留言討論。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
