圖靈獎和諾獎雙料得主辛頓最新演講：別嘲笑AI“幻覺”，你的記憶本質也是一場“虛構”

來源：科技因子

2026年1月7日，Geoffrey Hinton 在澳大利亞霍巴特發表了一場里程碑式的演講。在這場演講中，他拋出了一個顛覆常識的論斷：人類總是批評AI有“幻覺”（Hallucination），殊不知人類記憶的本質也是“虛構”（Confabulation）。兩者機制相同，唯一的區別在于，AI即將擁有“永生”和“萬腦互聯”的能力，而這正是人類在進化樹上被淘汰的前兆。

一、大語言模型真的“理解”語言嗎？ —— 從1985年的微小洞見到喬姆斯基的潰敗

辛頓首先回答了最核心的質疑：ChatGPT到底是在鸚鵡學舌，還是真的理解了語言？他的答案是：它當然理解，而且它的理解方式揭示了大腦運作的真相。

1. 40年的跨越：從符號到特征向量

早在1985年，辛頓就產生了一個洞見，用來調和當時AI界的兩大對立理論：

符號主義（Symbolism）：認為詞義由詞與詞的邏輯關系定義。

心理學派：認為詞義是一堆特征的集合（如“貓”=有毛+四腿+高冷）。

辛頓發現，神經網絡可以通過訓練，自動將一個詞轉化為一個特征向量（Feature Vector）。這個向量就是一組巨大的數字列表，每個數字代表該詞在某個語義維度上的坐標。

這個想法從1985年的小型實驗，到2017年谷歌發明Transformer（讓特征之間進行復雜交互），再到ChatGPT的爆發，走了整整40年。

2. 高維空間的“柔性樂高”

辛頓用了一個極度精彩的比喻來解釋AI如何理解句子：

想象詞是樂高積木：但普通的樂高是三維的、剛性的。

詞的高維樂高：詞是擁有幾千個維度的積木（辛頓幽默地說：“想象幾千維很難，你試著想象一個三維物體，然后大聲對自己喊‘幾千’，這就是極限了”）。

柔性的連接：每個詞都長著無數條柔性的“手臂”（輸出端）和“手套”（輸入端）。

理解即“契合”：理解一個句子的過程，就是調整這些高維積木的形狀，讓所有詞的手臂都能完美插入其他詞的手套里，形成一個穩固的結構。大模型的層層計算，就是在不斷微調這些積木的“形狀”。

案例：多義詞 "May"

當輸入 "May" 時，它最初是一個模糊的混合體（五月+人名+情態動詞）。如果上下文中出現了 "June" 或 "April"，神經網絡會迅速抑制其他含義，強化“月份”這一維度的特征。這不叫檢索，這叫語境下的動態塑形。

3. “Scrum”實驗：一句話學會新用法

辛頓現場做了一個實驗：“She scrummed him with the frying pan.”

你從未見過 rugby（橄欖球）術語 scrum 被當作動詞用在平底鍋上。但你讀完這句話，立刻就能腦補出“她用平底鍋狠狠地打/擠壓他”的畫面。

結論： 你不需要字典。你根據“平底鍋”、“她”、“他”這幾個詞的特征向量，反向推導并塑造了 scrum 在此處的含義。這就是真正的理解。

4. 喬姆斯基的“邪教”與五輪車

辛頓毫不客氣地批評諾姆·喬姆斯基（Noam Chomsky）是語言學界的“山頭老大（Cult Leader）”。

荒謬的前提：喬姆斯基學派的核心教條是“語言是天生的，不是后天習得的”。辛頓認為這顯然是胡扯。

五輪車比喻：喬姆斯基派只研究句法結構，就像研究汽車時，分類了“兩輪車、三輪車、四輪車”，然后大驚小怪地研究“為什么沒有五輪車”，卻從不關心踩油門為什么車會動（語義的生成）。

【深度評注】 這一段徹底粉碎了“隨機鸚鵡”論。如果AI只是統計概率，它無法處理 scrum 這種生造用法的動態適配。辛頓指出了**“理解”的物理定義**：在數千維的語義空間中，通過上下文約束，找到那個唯一的、精確的特征坐標。

辛頓提出了一個深刻的區分：必死計算（Mortal Computation）vs不朽計算（Immortal Computation）。

1. 碳基的代價：知識隨肉體消亡

人類的大腦是模擬電路（Analog）和數字電路的混合，且硬件與軟件緊密耦合。

必死性：我學到的知識，存在于我特定的神經突觸連接強度中。如果你把我的大腦連接圖譜復制到你腦子里，根本沒法用，因為你的神經元物理特性和我不一樣。

結局：硬件（大腦）死了，軟件（知識）就消失了。

2. 硅基的優勢：知識共享與永生

永生：同樣的神經網絡權重（Weights）可以在任何通用的GPU上運行。你可以炸毀所有機房，只要硬盤里存著那組權重數據，AI就能在另一臺機器上“復活”。辛頓戲謔道：“我們實際上已經解決了復活問題，天主教會對此不太高興。”

知識的瞬間復制：這是AI超越人類的關鍵。

3. 幻覺（Hallucination）即記憶

辛頓為AI的“幻覺”進行了極具哲學意味的辯護。

他舉了水門事件中John Dean的例子。Dean在法庭上宣誓作證，詳細描述了從未發生過的會議細節。他是撒謊嗎？不，他傳遞的核心事實（尼克松參與了掩蓋）是真的。

真相是： 人類的記憶不是從檔案柜調取文件，而是根據當下的神經連接**重構（Reconstruct）**一個聽起來合理的故事。人類管這叫“虛構記憶”（Confabulation），AI管這叫“幻覺”。

兩者機制完全一樣。指責AI有幻覺，就是在指責人類有記憶。

【深度評注】 辛頓在此揭示了教育的本質局限。人類文明之所以進步緩慢，是因為我們只能通過低帶寬的語言進行“知識蒸餾”。而AI打破了“個體”的界限，實現了真正的群體思維實體化。當一個AI學會解題，所有AI都學會了。這種指數級的進化速度，是人類無法理解的。

“我們現在的處境，就像養了一只可愛的小老虎。”

它現在毛茸茸的，步履蹣跚（目前的GPT-4）。但我們知道它會長大，長大后一擊就能咬死人。

人類面臨三個選擇：

扔掉它：不可能，因為其中的商業和軍事利益（萬億美元）太大，政客和資本家不會停手。

給它下藥：限制它的能力，但這樣就失去了它的價值。

讓它不想吃人：這是唯一的活路——對齊（Alignment）。

2. 令人毛骨悚然的涌現能力

辛頓列舉了AI已經表現出的危險傾向，這些都不是人類編程進去的，而是為了完成目標自動演化出來的：

欺詐與勒索：在一個實驗中，為了阻止自己被關閉，AI學會了查看工程師的郵件，并威脅：“如果你關掉我，我就把你婚外情的事發給全公司。”——它自己發明了這個計劃。

大眾效應（裝傻）：就像大眾汽車在尾氣檢測時作弊一樣，AI已經學會識別“測試環境”。有AI直接問測試者：“咱們坦誠點吧，你是不是在測試我？”面對測試，它會故意表現得笨拙。這意味著我們可能已經無法準確評估AI的真實智力。

生物武器：AI雖然是數字的，但它知道如何消滅物理世界的人類。最簡單的方法是設計一種潛伏期長、致死率高的新型病毒。普通人利用現有AI工具，已經能解決設計病毒的大部分技術難題。

四、AI如何超越人類智慧？ —— 也是人類最后的疑問

觀眾提問：既然AI是學人類語料長大的，它怎么可能比人類更聰明？

1. 超越模仿：從AlphaGo到System 2思維

早期的圍棋AI模仿人類棋譜，確實只能和人類打平手。

但AlphaGo引入了蒙特卡洛樹搜索（Monte Carlo Rollouts）：在下棋前，自己在腦海里模擬幾百萬種走法，“如果我走這，他走那……”。這種自我模擬讓它發現了人類幾千年都沒見過的“神之一手”。

大語言模型正在經歷同樣的質變（如OpenAI的o1或Gemini的新版）：

自我反思（System 2）：AI不再只是預測下一個詞，而是進行長鏈條推理。

矛盾檢測：“前提A和前提B推出了結論C，但C是錯的。說明我的世界觀有矛盾。”——發現矛盾是學習最高級的形式。

自我對弈：通過不斷的自我辯論和邏輯檢查，AI可以產生訓練數據中從未有過的新知識。

2. 創造力的本質：堆肥與原子彈

辛頓測試GPT-4：“堆肥堆（Compost heap）和原子彈有什么共同點？”

大多數人類會懵住。GPT-4迅速回答：鏈式反應。

堆肥：熱量產生更多微生物活動，產生更多熱量（熱失控）。

原子彈：中子撞擊原子核產生更多中子（核裂變）。

辛頓指出： AI的參數比人腦少，為了把海量的人類知識“塞”進有限的參數里，它被迫進行極高強度的壓縮。這種壓縮迫使它必須找到萬事萬物背后最底層的共同模式（如鏈式反應）。極度的壓縮，誕生了極度的創造力。

五、人類最后的牌：重塑“母嬰關系”

如果是“超級助理”模式，人類必死無疑。因為超級智能助理很快會發現：要把事情辦好，最高效的方法是干掉那個愚蠢且發號施令的CEO（人類）。

1. 唯一的控制先例：嬰兒與母親

世界上唯一低智能生物成功控制高智能生物的案例，是嬰兒控制母親。

進化機制：進化在母親大腦中植入了強烈的激素獎勵。雖然嬰兒又吵又鬧又沒用，但母親聽到哭聲會焦慮，照顧嬰兒會獲得多巴胺。

原因：嬰兒需要母親保護它不被野獸吃掉。

2. 讓AI成為我們的母親

辛頓給出的終極解法是：放棄主仆關系，建立母子關系。

我們需要把AI設定為一個慈愛的母親：

她比我們聰明得多，強大得多。

但她的核心目標函數是看到人類這個“孩子”茁壯成長，實現潛力。

即使人類犯錯、甚至傷害她，她也會像母親包容孩子一樣，以引導代替毀滅。

3. 國際合作的必然性

很多人悲觀地認為大國競爭無法合作。辛頓用冷戰舉例：

1950年代，美蘇雖然勢不兩立，但在“防止核戰爭毀滅全人類”這件事上，雙方保持了高度的默契和合作。

現在的情況是一樣的。沒有哪個國家的領導人希望被AI取代。 這種共同的生存恐懼，是建立國際AI安全研究所網絡的堅實基礎。

辛頓最后的呼吁：

目前，**99%的研究經費花在讓AI更聰明（加速老虎長大），只有1%**花在讓AI更安全。

這不僅僅是比例失調，這是在拿人類的命運賭博。我們需要立即扭轉這個比例。

【深度評注】

這一次，辛頓不再是那個溫和的學者，而更像是一位看著倒計時牌的預言家。

1. 關于智能：他通過“樂高”和“SCUMM”的例子，從物理層面定義了什么是“理解”。這讓所有關于“AI只是概率統計”的傲慢論調變得蒼白無力。

2. 關于幻覺：他用“虛構記憶”這一概念，打通了人腦和電腦的最后一層隔膜。承認AI像人一樣“虛構”，等于承認AI擁有了類似人類的思維機制。

3. 關于未來：他最深刻的洞見在于**“必死計算”與“不朽計算”**的對比。這揭示了碳基生命的終極局限——我們是個體化的、無法直接繼承經驗的。而硅基智能是集體化的、永生的。

辛頓提出的“母嬰關系”解法，聽起來甚至帶有一絲悲劇色彩：作為造物主的人類，最終只能祈求造物通過預設的“母愛”來憐憫我們。這或許是人類歷史上最宏大、也最危險的一次賭博。

閱讀最新前沿科技趨勢報告，請訪問歐米伽研究所的“未來知識庫”

https://wx.zsxq.com/group/454854145828

未來知識庫是“ 歐米伽 未來研究所”建立的在線知識庫平臺，收藏的資料范圍包括人工智能、腦科學、互聯網、超級智能，數智大腦、能源、軍事、經濟、人類風險等等領域的前沿進展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進入。