AI教父辛頓WAIC演講全文：必須訓練AI，讓它不想消滅人類

7 月 26 號，2025 世界人工智能大會（WAIC）在上海正式開幕。

這一次，我們迎來了 AI 領域的重量級嘉賓，諾貝爾獎和圖靈獎得主杰弗里·辛頓（Geoffrey Hinton）。

這是辛頓首次踏足中國參加線下活動，對于 77 歲、身體欠佳的他來說實屬不易，也更能體現出他此次中國行的彌足珍貴。

圖 | AI 安全國際對話上海共識簽署現場，辛頓、姚期智等專家合影（來源：資料圖）

就在 WAIC 開幕前一天，辛頓剛參加了第四屆人工智能國際安全對話（International Dialogues on AI Safety，IDAIS）。

他與清華大學交叉信息研究院和人工智能學院院長姚期智、加州大學伯克利分校教授斯圖爾特·拉塞爾（Stuart Russell），以及上海人工智能實驗室主任周伯文教授等 20 余名專家聯名簽署發布了《AI 安全國際對話上海共識》。

今天，辛頓以一場“數字智能是否會取代生物智能”的演講為 WAIC 開幕。

首先，辛頓討論了兩種智能范式。

一種是受邏輯啟發的方法，也就是傳統人工智能（AI）。這種方法的核心觀念是“人類智能的本質在于推理”。要實現推理，就需要建立一套符號表達式，再通過符號規則去操作它們。

而信奉這種方法的人認為，學習可以暫緩，首先要理解只是如何以符號表達的形式進行表示。

另一種方法，則是受生物學啟發的，也就是艾倫·圖靈（Alan Turing）和約翰·馮·諾伊曼（John von Neumann）所推崇的，智能的本質在于（腦細胞）網絡的學習。

對人類而言，腦細胞是學習的關鍵；對計算機來說，就需要模擬。理解學習的機制最重要，而推理可以暫緩。

1985 年，辛頓做了個小模型，嘗試結合這兩種理論，以解釋人們如何理解詞匯。他給每個詞設置多個不同特征，記錄數字特征來預測下一個詞，過程中不存儲句子而是生成句子并不斷預測下一個詞。

“相關聯性的知識，取決于不同的詞的特征與語義特征是如何進行互動的。”辛頓表示。

他接下來提到了推動語言模型發展的幾個關鍵節點。

10 年后，人們沿用此模式建模并擴大規模，成為自然語言真實模擬。20 年后，計算語言學家們終于開始接受并使用“特征向量”（嵌入）技術。

而到了三十年后，谷歌發明了 Transformer 架構，緊接著 OpenAI 向世界展示了基于該架構的大語言模型所具備的強大能力。

如今的大語言模型可視為 1985 年微型語言模型的后代，使用更多詞輸入、更多層神經元結構，建立更復雜特征交互模式。

大語言模型理解問題方式和人類類似，都是將詞語轉換成能夠相互良好配合的特征向量來實現這種理解的，而且大語言模型是真正能夠“理解”它們自己所說的話的。

辛頓將“詞語”視作多維度樂高積木。我們擁有的不是幾種，而是大約十萬種不同類型的“樂高積木”。每一塊的形狀都不是固定不變，而詞語的含義（名字）只是大致告訴你它的“形狀”。

辛頓在此前的演講中就用過這個比喻，他當時的解釋更加細致：

“詞語”的上面還有“小手”。當你改變詞的“形狀”時，“小手”的形狀也會隨之改變。這些詞語與詞語之間，就是通過“握手”來優化意思理解，類似蛋白質組合氨基酸產生有意義內容。

當詞語進入模型，它們在這個高維空間里帶著各自初始的、大致的形狀，身上還布滿了小手。當信息在網絡的層級間向上傳遞時，你就在不斷地調整這些詞的“形狀”和它們“小手”的形狀，試圖為每個詞找到最合適的形態，讓它們彼此之間都能完美地“握手”。

這樣一來，語言其實就是一種建模過程（搭積木的過程），可根據情況調整所需的詞匯（積木）。

最終，這就類似蛋白質組合成氨基酸，詞匯的組合會產生有意義的內容。

“其實人腦和神經網絡理解意思的方式相似，而且‘幻覺’并非大模型專屬，人類也會產生?！?/strong>辛頓解釋道。

接下來，辛頓討論了人類與大模型的差異性。

計算機科學將軟件和硬件分開，軟件中的知識永恒存在，即便硬件毀滅，只要軟件在就能復活。

但人類不同，人腦是模擬的，神經元連接方式因人而異，知識傳播與硬件（大腦）緊密相關，無法像軟件知識那樣輕易轉移。人類的硬件一旦毀滅，所有知識都會煙消云散。所以人類靠學校、老師來傳承知識，但效率極低。

人腦知識難以高效轉移給他人，每秒最多傳遞約 10-100 比特信息。當然，人類的優勢在于生物計算能耗少，如人類大腦僅需 30 瓦特功率。

相比之下，神經網絡之間的知識共享就快多了，盡管能耗很大。

當大模型共享信息時，通過平均化權重，它們一次交互就能分享大量比特的內容。比如在如今大模型的訓練中，每個模型都會部署多個副本，去分別學習不同的數據，然后所有副本再進行同步。

這就像人類學會了分身，同時去上不同的課程，然后只要聚在一起，知識就在每個個體中同步完成了。

最后，辛頓討論了AI 可能帶來的挑戰與潛在的應對方法。

幾乎所有人都相信，一定會出現比人類更智能的 AI，而 AI 智能體為了完成任務，會想要生存、獲得更多控制。

辛頓此前已多次在公開信和演講中指出，當前 AI 系統已經具備自主學習和演化的潛能。

一旦其擁有長期目標，就可能會發展出與人類目標不一致的“子目標”，甚至試圖欺騙人類、操縱人類、逃脫人類的控制。

在此次 WAIC 上，辛頓又拿出了他很經典的比喻：現在的人類就像撫養幼小的虎崽，除非你能非常確定它長大后不會傷害你，否則你就應該擔心。

但人類又無法徹底禁止 AI，因為它在很多領域作用重大，所以只能尋找一種辦法，確保人類不會被 AI 消滅。

說起來容易，做起來難。

辛頓認為，這種努力應該是全球性的。但他坦言：“各國不會在防御 AI 的危險用途上進行合作?！?/strong>因為每個國家都有自己的戰略考量。

因此，他寄希望于國際社會在“預防 AI 統治世界”這一問題上達成一致，防止 AI 從人類手中奪走控制權。

辛頓最后提議，人類應當建立 AI 安全機構的國際社群，研究訓練 AI 向善的技巧。這就好比，“教導孩子成為一個好人”與“讓他們變得更聰明”，是兩碼事。

辛頓提議，各國可在本國主權范圍內研究并分享成果（在允許的范圍內），全球或 AI 領導國家應思考建立相關網絡，研究如何訓練聰明的 AI 輔助人類而非消滅或統治人類。

“因為這將是人類長期面臨的重要問題?！毙令D說道。

杰弗里·辛頓2025WAIC現場演講實錄：

各位同事、閣下、領導、女士們、先生們，首先非常感謝大家給我這個機會，分享我對 AI 歷史及未來的個人觀點。

在過去 60 多年里，AI 發展存在兩種不同的范式和路徑。

一種是邏輯性范式，這是過去一個世紀的主流，認為智能的本質在于推理，通過符號規則對符號表達式進行操作來實現推理，以此幫助我們更好地理解世界。

另一種是以生物為基礎的范式，這是圖靈和馮?諾依曼所認同的，他們認為智能的基礎是學習，是理解網絡中的連接速度，而理解是前提，之后才能進行轉化。

與這兩種理論相對應的是不同的 AI 類型。符號型 AI 關注數字，而這些數字如何成為核心關注點，心理學家則有完全不同的理論 ——他們認為數字的意義在于一系列語義學特征，這些特征的存在使其成為獨特的標志。

1985 年，我做了一個小型模型，嘗試結合這兩種理論，以此理解人們對詞語的理解方式。我給每個詞設置了多個不同特征，記錄前一個詞的特征后，就能預測下一個詞是什么。在這個過程中，我沒有存儲任何句子，而是生成句子并預測下一個詞。其中的相關性知識，取決于不同詞的語義特征之間的互動方式。

如果問未來 30 年會發生什么，從發展軌跡能看到一些趨勢。十年后，有人沿用這種建模模式，但將規模大幅擴大，使其成為自然語言的真實模擬。20 年后，計算語言學家開始接受用特征向量嵌入來表達語義。又過了 30 年，谷歌發明了 Transformer，OpenAI 的研究人員也向人們展示了它的能力。

所以我認為，如今的大語言模型就是我當年微型語言模型的 “后代”。它們使用更多詞作為輸入，采用更多層的神經元結構，由于需要處理大量模糊數字，學習特征之間也建立了更復雜的交互模式。但和我做的小模型一樣，大語言模型理解語言的方式與人類相似 —— 基本邏輯是將語言轉化為特征，再以完美的方式整合這些特征，這正是大語言模型各層級所做的工作。因此我認為，大語言模型和人類理解語言的方式相同。

用樂高積木來打比方或許能更好地解釋 “理解一句話” 的含義。符號型 AI 是將內容轉化為清晰的符號，但人類并非如此理解。樂高積木能拼出任何 3D 造型，比如小車模型。如果把每個詞看作多維度的樂高積木（可能有幾千個維度），語言就成了一種建模工具，能隨時與人溝通，只要給這些 “積木” 命名 —— 每個 “積木” 就是一個詞。

不過，詞和樂高積木有很多不同：詞的符號形態可根據情況調整，而樂高積木造型固定；樂高積木的拼接是固定的（比如正方形積木插入正方形孔洞），但語言中每個詞仿佛有多個 “手臂”，要通過合適的 “握手” 方式與其他詞互動，詞的 “造型” 變化，“握手” 方式也會改變。當一個詞的 “造型”（即意思）改變，它與下一個詞的 “握手” 方式就會不同，進而產生新的含義。這就是人腦或神經網絡理解語義的根本邏輯，類似蛋白質通過氨基酸的不同組合形成有意義的結構。

所以我認為，人類理解語言的方式與大語言模型幾乎一致，人類甚至可能和大語言模型一樣產生 “幻覺”，因為我們也會創造出一些虛構的表達。

軟件中的知識是永恒的，即便存儲 LLM 的硬件被摧毀，只要軟件存在，就能隨時 “復活”。但要實現這種 “永生”，晶體管需在高功率下運行以產生可靠的二進制行為，這個過程成本很高，且無法利用硬件中不穩定的類似特性 —— 它們是模擬型的，每次計算結果都不同。人腦也是模擬型而非數字型的，神經元每次激發的過程都一樣，但每個人的神經元連接方式不同，我無法將自己的神經結構轉移到他人腦中，這就導致知識在人腦間的傳播效率遠低于在硬件中的傳播。

軟件與硬件無關，因此能 “永生”，還能帶來低功耗優勢 —— 人腦只需 30 瓦特就能運轉。我們的神經元連接達數萬億個，無需花費大量資金制造完全相同的硬件。但問題在于，模擬模型間的知識轉移效率極低，我無法直接將腦中的知識展示給他人。

Deepseek 的做法是將大神經網絡的知識轉移到小神經網絡中，即 “蒸餾”，類似教師與學生的關系：教師將詞語在上下文中的關聯教給學生，學生通過調整權重學會表達。但這種方式效率很低，一句話通常只有 100 個比特的信息，即便全被理解，每秒最多也只能傳遞約 100 個比特。而數字智能間的知識轉移效率極高，同一神經網絡軟件的多個拷貝在不同硬件上運行時，能通過平均化比特的方式分享知識。如果智能體在現實世界中運行，這種優勢更明顯 —— 它們能不斷加速、拷貝，多個智能體比單個智能體學得更多，還能分享權重，這是模擬硬件或軟件做不到的。

生物計算功耗低，但知識分享難。如果能源和計算成本低廉，情況會好很多，但這也讓我感到擔憂 —— 幾乎所有專家都認為，我們會創造出比人類更智能的 AI。人類習慣了作為最智能的生物，很難想象 AI 超越人類的場景。其實可以換個角度：就像養雞場的雞無法理解人類一樣，我們創造的 AI 智能體已能幫我們完成任務，它們能拷貝自身、評估子目標，還會為了生存和完成目標而尋求更多控制權。

有人認為可以在 AI 變得過強時關掉它們，但這并不現實。它們可能會像成年人操縱 3 歲孩子一樣操縱人類，勸說控制機器的人不要關閉它們。這就像把老虎當寵物，幼虎很可愛，但長大后可能傷人，而養老虎當寵物通常不是好主意。

面對 AI，我們只有兩個選擇：要么訓練它永遠不傷害人類，要么 “消滅” 它。但 AI 在醫療、教育、氣候變化、新材料等領域作用巨大，能提升所有行業的效率，我們無法消除它 ——即便一個國家放棄 AI，其他國家也不會。因此，若想讓人類生存，必須找到訓練 AI 不傷害人類的方法。

我個人認為，各國在網絡攻擊、致命武器、虛假信息操縱等領域的合作難度較大，因利益和看法不同。但在 “人類掌控世界” 這一目標上，各國存在共識：若有國家找到防止 AI 操控世界的方法，一定會愿意分享。因此我提議，全球主要國家或 AI 大國應建立一個由 AI 安全機構組成的國際社群，研究如何訓練高智能 AI 向善 —— 這與訓練 AI 變得聰明的技術不同。各國可在自身主權范圍內研究，再分享成果。盡管目前還不知道具體怎么做，但這是人類長期面臨的最重要問題，且所有國家都能在此領域合作。

謝謝大家。

杰弗里·辛頓生平簡介

杰弗里·辛頓（Geoffrey Hinton），被譽為“人工智能教父”，是一位英裔加拿大計算機科學家和心理學家，是深度學習的奠基人之一。

1986 年，他與大衛·拉梅爾哈特（David Rumelhart）等人合作提出了將反向傳播算法應用于神經網絡訓練的劃時代方法，使多層神經網絡的訓練成為可能。這一算法成為后來深度學習的基石。

2012 年，辛頓帶領學生亞歷克斯·克里澤夫斯基（Alex Krizhevsky）和伊利亞·蘇茨克維爾（Ilya Sutskever）開發了卷積神經網絡 AlexNet，在 ImageNet 圖像識別競賽中遠超其他模型，引爆了深度學習浪潮。

隨后，辛頓創立的 DNNresearch 公司被谷歌收購，他本人也加入谷歌大腦團隊，成為推動 AI 產業化的重要力量之一。

由于在神經網絡領域的卓越貢獻，他于 2018 年獲得 ACM 圖靈獎，與楊立昆（Yann LeCun）和約書亞·本吉奧（Yoshua Bengio）共享該榮譽。2024 年，他又被授予諾貝爾物理學獎，表彰其在 AI 模型結構方面的突破性貢獻。

近年來，辛頓的研究重心逐漸轉向 AI 安全問題。他認為 AI 的發展速度已經遠超預期，其潛力和風險都不容忽視。在 2023 年離開谷歌后，他更加頻繁地公開發聲，表達對通用人工智能（AGI）未來影響的擔憂。

他此前曾估計，AI 接管并摧毀人類文明的概率在 10% 到 20% 之間，雖然不是必然結局，但足以令人警惕。

至于如何應對 AI 風險，辛頓呼吁科技公司和政府投入更多資源進行 AI 安全研究。他建議至少將三分之一的計算資源用于研究如何確保 AI 系統不會偏離人類意圖。他還批評一些大型科技公司為追求商業利益而游說放松監管，認為這是一種極其危險的趨勢。

在技術層面，他嘗試提出新的神經網絡訓練方法，如“前向-前向算法”（Forward-Forward），希望能找到替代反向傳播的更安全、靈活的訓練機制。

總的來說，辛頓既是深度學習崛起的重要推動者，也成為了重視 AI 安全呼聲中最具分量的聲音發出者：呼吁人類社會保持警覺，在繼續推動 AI 創新的同時，必須正視其潛在的社會風險和生存性挑戰。

點「在看」，給前前加雞腿