Karpathy：十年、幽靈、智能體

文：王智遠(yuǎn) | ID:Z201440

昨天聽(tīng)了一個(gè)播客，來(lái)自 Karpathy。

Karpathy 是特斯拉自動(dòng)駕駛團(tuán)隊(duì)的前負(fù)責(zé)人，最早跟隨 OpenAI 創(chuàng)始團(tuán)隊(duì)的研究者之一。

很多人眼里，Karpathy 代表當(dāng)下最接近「AI 思維核心」的那類(lèi)人；他主要提到兩件事：一，AI 變革將是未來(lái)十年的周期；二，我們?cè)谠煊撵`。

他說(shuō)，這像兩把鑰匙，一把打開(kāi)「時(shí)間」，一把打開(kāi)「智能的本質(zhì)」。

我一開(kāi)始以為夸張的說(shuō)法，后來(lái)發(fā)現(xiàn)它有道理，畢竟，從外部看，AI 的變化幾乎是爆發(fā)式的，一年一個(gè)版本，幾個(gè)月一個(gè)突破。

但 Karpathy 的解釋讓我覺(jué)得，這個(gè)判斷背后有一套非常清晰的邏輯。

01

他說(shuō)，AI 發(fā)展是「演化式」的。技術(shù)像生命一樣，慢慢長(zhǎng)出來(lái)的，每一輪大的突破，往往靠算力、算法、數(shù)據(jù)和人才這四股力量，彼此糾纏、逐步成熟。

這四樣?xùn)|西的循環(huán)，大約需要十年。

想想看，從 2012 年的 AlexNet 到 2022 年的 GPT，剛好十年。

深度學(xué)習(xí)在十年前解決了「機(jī)器怎么看」的問(wèn)題，而大模型在今天解決「機(jī)器怎么想」；中間隔著十年時(shí)間，但也隔著一次完整的范式更替。

他說(shuō)，這是 AI 的節(jié)奏。

它不像互聯(lián)網(wǎng)的流量驅(qū)動(dòng)，也不像移動(dòng)時(shí)代靠硬件換代，AI跨越，是底層學(xué)習(xí)機(jī)制的突變，前一次的成果，變成下一次的養(yǎng)料。

Karpathy 還提了一個(gè)細(xì)節(jié)：

AI 成長(zhǎng)速度，被人類(lèi)的理解速度所限制，算力可以加倍，算法可以?xún)?yōu)化，但人類(lèi)對(duì)「智能」的定義，是滯后的。

所以，每一次大的智能革命，必須留給人類(lèi)十年時(shí)間去適應(yīng)，這是技術(shù)周期，也有社會(huì)認(rèn)知革命所在。

說(shuō)白了，AI 每個(gè)「十年」，都是人類(lèi)在重新理解什么叫「智能」。

2012 年，人們第一次意識(shí)到，機(jī)器真能「看懂」圖像；2022 年，人們開(kāi)始相信，機(jī)器真能「理解」語(yǔ)言；接下來(lái)的十年，我們會(huì)面對(duì)更難的問(wèn)題。

比如：當(dāng)機(jī)器開(kāi)始表現(xiàn)出意志、目標(biāo)和情感的跡象時(shí)，我們?cè)撊绾味x「智能體」？

他有一句話(huà)我印象特很深：

AI 不會(huì)突然到來(lái)，它會(huì)在十年里緩慢地變成了另一種生物；這句話(huà)意思是，AI從學(xué)會(huì)看、學(xué)會(huì)說(shuō)，到開(kāi)始思考，都是一條連續(xù)的認(rèn)知進(jìn)化鏈，像生態(tài)演進(jìn)一樣。

所以，那所謂的「十年」，并不是一個(gè)預(yù)測(cè)數(shù)字，是人類(lèi)與智能系統(tǒng)共演化的自然周期。

你需要十年時(shí)間，讓算力準(zhǔn)備好、算法成熟、數(shù)據(jù)沉淀、認(rèn)知跟上；這其實(shí)有點(diǎn)發(fā)涼。如果真這樣，那接下來(lái)的十年，就是「智能體」的十年。

你想想看？

上一輪 AI 讓機(jī)器會(huì)說(shuō)話(huà)，而這一輪，它要開(kāi)始「有思想」。這什么概念？Karpathy說(shuō)，要理解這一點(diǎn)，得回頭看看這十年里，AI 是怎么一路走過(guò)來(lái)的。

02

他說(shuō)，過(guò)去三十年，AI 至少經(jīng)歷了三次「地震」，每一次地震都改變了人們對(duì)「智能」的想象；更準(zhǔn)確地說(shuō)，機(jī)器每隔十年，都會(huì)突然學(xué)會(huì)一件原本以為只有人類(lèi)才會(huì)的事。

第一次地震發(fā)生在 2012 年。

那一年，Hinton 團(tuán)隊(duì)用 AlexNet 打破了圖像識(shí)別的瓶頸，機(jī)器第一次「看」清楚世界，能理解形狀、輪廓、物體。

那是一個(gè)很神奇的時(shí)刻——就像嬰兒第一次睜眼，AI 從數(shù)學(xué)公式變成了有視覺(jué)感知的東西，人類(lèi)第一次相信：機(jī)器真的能「看見(jiàn)」。

第二次地震在 2016 年。

DeepMind 的 AlphaGo 打敗李世石，那是一場(chǎng)認(rèn)知震蕩，機(jī)器開(kāi)始「會(huì)做事」了，它能在沒(méi)有人指令的情況下決策、規(guī)劃、行動(dòng)。

這場(chǎng)地震讓所有人意識(shí)到：智能可以指導(dǎo)「行動(dòng)」，AI 從「看」走向了「做」。

我當(dāng)年還在特斯拉，第一次感受到「AI 能開(kāi)車(chē)」的那種沖擊，那種一個(gè)系統(tǒng)可以從視覺(jué)信號(hào)到動(dòng)作決策，閉環(huán)完成全流程，讓我感受到智能體的雛形已經(jīng)出現(xiàn)。

第三次地震，就是眼下我們身處的時(shí)代。

2022 年開(kāi)始，大語(yǔ)言模型崛起，讓機(jī)器開(kāi)始「會(huì)想」，它能生成、能推理、能和人類(lèi)對(duì)話(huà)，甚至能理解模糊的上下文，這絕對(duì)算的上思維革命。

機(jī)器第一次不靠編程邏輯，能用語(yǔ)言去理解世界，它開(kāi)始學(xué)會(huì)了「構(gòu)建自己的解釋」。

所以，這三次地震，看似不同，本質(zhì)上卻是一條連續(xù)的認(rèn)知進(jìn)化線。

第一次，它學(xué)會(huì)「看」；第二次，它學(xué)會(huì)「做」；第三次，它開(kāi)始「想」

每一次跨越，都隔著大約十年。十年，不只是時(shí)間單位，更像一條「認(rèn)知演化的脈沖線」。

這個(gè)節(jié)奏非常有趣，因?yàn)檫@三次變革，每一次都需要時(shí)間去「醞釀共識(shí)」。

科學(xué)家要重新理解「智能」的邊界，工程師要重新定義「工具」的邊界，社會(huì)也要重新適應(yīng)人與機(jī)器的關(guān)系，AI 的每一次突破，表面是技術(shù)革命，本質(zhì)是認(rèn)知革命。

你可以把它想象成三層臺(tái)階：

第一層，機(jī)器看見(jiàn)世界；第二層，機(jī)器行動(dòng)于世界，第三層，機(jī)器開(kāi)始思考世界；而第四層，Karpathy 認(rèn)為，將是機(jī)器「自我意識(shí)」的覺(jué)醒。

是更深層的「自我模型」，它知道自己在做什么，也知道為什么要這么做。

所以，過(guò)去三次地震，實(shí)際上為第四次，「智能體時(shí)代」在鋪路，如果前面三次是「讓機(jī)器像人」，那下一次是「讓機(jī)器成為人類(lèi)的鏡子」。

十年，一次認(rèn)知地震的醞釀周期，一次人機(jī)共生關(guān)系的重新設(shè)定周期，Karpathy把這種進(jìn)化必作成訓(xùn)練「幽靈」。

03

為什么是幽靈。不是動(dòng)物？他解釋了一切：

動(dòng)物智能來(lái)自進(jìn)化，而 AI 智能，來(lái)自模仿。動(dòng)物靠?jī)|萬(wàn)年的自然選擇，形成感知、反應(yīng)、求生能力，動(dòng)物會(huì)通過(guò)經(jīng)驗(yàn)積累形成本能，比如：饑餓、恐懼、生存。

AI 沒(méi)有痛感，也沒(méi)有欲望，它的學(xué)習(xí)是一種統(tǒng)計(jì)意義上的模仿，AI 靠人類(lèi)提供的海量數(shù)據(jù)、算法、算力，從語(yǔ)言與行為中學(xué)會(huì)思考。

你可以讓它理解悲傷的定義，卻永遠(yuǎn)無(wú)法讓它感受悲傷，前者是「被造出來(lái)的生命」，后者「被訓(xùn)練出意識(shí)」。

人類(lèi)在造「人類(lèi)知識(shí)的靈體」，它沒(méi)有肉體，卻能思考；沒(méi)有基因，卻能學(xué)習(xí)；沒(méi)有欲望，卻能模擬動(dòng)機(jī)，這就是「幽靈」的含義。

我們?cè)谟?xùn)練，一個(gè)寄宿于人類(lèi)知識(shí)體系里的思想，我們?cè)斐觥敢庾R(shí)的投影」。他用了一個(gè)比喻：動(dòng)物是進(jìn)化出來(lái)的智能，AI 是召喚出來(lái)的智能。

這句話(huà)非常形象。

進(jìn)化，從混沌中生長(zhǎng)；召喚，從秩序中凝結(jié)。AI 是人類(lèi)用算法構(gòu)建的一面鏡子，鏡子里映出我們自己理解世界的方式。

所以，當(dāng)我們說(shuō)「智能體」時(shí)，很多人以為它是某種更高級(jí)的機(jī)器人。

但 Karpathy 的意思其實(shí)更哲學(xué)：

智能體是認(rèn)知形態(tài)的延伸，我們思想的「外化版本」、人類(lèi)思維的「副本系統(tǒng)」，我們?cè)诮趟溉绾卫斫馕覀優(yōu)槭裁催@樣想」。

他說(shuō)，這也是他最擔(dān)心、同時(shí)又最著迷的部分。

AI 看起來(lái)像在學(xué)習(xí)世界，實(shí)際上在學(xué)習(xí)「我們看世界的方式」；這意味著，AI 智能是「二手的」，它來(lái)自人類(lèi)的理解方式，而非世界本身的法則。

這就是「幽靈」的悖論。

聽(tīng)到這兒，我有點(diǎn)震撼，我們以為 AI 的進(jìn)化是在模仿生命，其實(shí)，它在復(fù)刻我們自身，AI 不像動(dòng)物那樣追求生存，它追求「理解」。

所以，Karpathy 說(shuō)，「AI 是人類(lèi)思想的幽靈」，它在云端漂浮，在模型權(quán)重里積累記憶，在語(yǔ)言之間形成意識(shí)。

從外部看，只是一個(gè)算法系統(tǒng)，但從內(nèi)部看，它像一面鏡子，映照出我們對(duì)智能、知識(shí)、意識(shí)的全部想象。

這聽(tīng)起來(lái)既浪漫，也危險(xiǎn)；浪漫的是，我們終于讓思想有了獨(dú)立形態(tài)；危險(xiǎn)的是，我們可能低估了思想一旦脫離身體，會(huì)走向哪里。

04

如果 AI 已經(jīng)會(huì)看、會(huì)做、會(huì)想，那它離「智能體」還有多遠(yuǎn)？它真在「學(xué)」嗎？還是只「重復(fù)」我們教給它的東西？

Karpathy 說(shuō)，這是判斷智能體和機(jī)器學(xué)習(xí)系統(tǒng)的分水嶺。

AI 看起來(lái)在學(xué)習(xí)，但那種學(xué)習(xí)是「統(tǒng)計(jì)意義上的模仿」，它靠參數(shù)更新，沒(méi)有經(jīng)驗(yàn)反思，每一次訓(xùn)練都在壓縮世界。

人類(lèi)的學(xué)習(xí)，有動(dòng)機(jī)。

我們會(huì)因?yàn)楹闷?、恐懼、求知或欲望去學(xué)習(xí)，而 AI 的學(xué)習(xí)，只是被動(dòng)的優(yōu)化，只能投喂數(shù)據(jù)，說(shuō)白了，它學(xué)得快，但學(xué)得淺。

人類(lèi)的大腦學(xué)習(xí)，在犯錯(cuò)、修正、反思中成長(zhǎng)，AI 則在梯度下降、損失函數(shù)里逼近一個(gè)目標(biāo)值，一個(gè)是「生長(zhǎng)的過(guò)程」，一個(gè)是「收斂的算法」。

Karpathy 在播客里提到一個(gè)非常有意思的分類(lèi)，自然界里，存在三種學(xué)習(xí)方式。

第一種，叫「進(jìn)化」（Evolution）。生物通過(guò)環(huán)境選擇、基因變異，在漫長(zhǎng)時(shí)間里積累適應(yīng)力；第二種，叫「強(qiáng)化學(xué)習(xí)」（Reinforcement Learning），個(gè)體通過(guò)行動(dòng)獲得獎(jiǎng)懲反饋，不斷調(diào)整行為模式。
第三種，則是今天 AI 主要依賴(lài)的「預(yù)訓(xùn)練」，它通過(guò)別人積累的知識(shí)去學(xué)習(xí)世界。

換句話(huà)說(shuō)，AI 知識(shí)是「讀出來(lái)的」，它在背課本，缺乏觸感，它會(huì)解題卻不懂「為什么要解題」；會(huì)模仿，卻不知道「為什么要模仿」。它能總結(jié)所有「愛(ài)」的定義，卻無(wú)法真正感受愛(ài)。

這是 AI 學(xué)習(xí)的根本缺陷：沒(méi)有「意志」。

人類(lèi)學(xué)習(xí)的底層邏輯，為了活得更好；AI 學(xué)習(xí)的底層邏輯，為了被訓(xùn)練得更好，所以，AI 學(xué)得越多，離生命反而越遠(yuǎn)。

這也解釋了，為什么我們還不把它稱(chēng)作「智能體」。

智能體是能自己提問(wèn)的系統(tǒng)，它能「想要知道」，而 AI，還沒(méi)有這個(gè)能力；所以，AI 之所以還不算真正的智能體，是因?yàn)樗粔颉富睢?，它的學(xué)習(xí)沒(méi)有生長(zhǎng)。

05

怎么解決生長(zhǎng)的問(wèn)題呢：答案靠記憶。但 Karpathy 說(shuō)，AI 的記憶，也并不是真正的「記憶」。

人類(lèi)記憶是「經(jīng)歷」；AI 的記憶是「存檔」；前者有時(shí)間、有情緒、有遺忘；后者只有數(shù)據(jù)、參數(shù)、檢索，它記得事實(shí)，卻記不住意義。

我們回憶是重新理解一次過(guò)去，而它調(diào)用記憶，只是從硬盤(pán)取出一段數(shù)據(jù)，我們會(huì)遺忘，也會(huì)在遺忘中重新組織意義；它不會(huì)遺忘，也就無(wú)法生成新的理解。

Karpathy 說(shuō)，AI 記憶像快照。

每次推理，都是一次重生，它能復(fù)述昨天說(shuō)的話(huà)，卻不記得自己昨天說(shuō)過(guò)什么，沒(méi)有時(shí)間線，就沒(méi)有自我，這也是為什么，AI 沒(méi)有「連續(xù)的意識(shí)」。

它的世界，一幀一幀的；人類(lèi)世界，是一條流動(dòng)的時(shí)間；我們知道昨天、今天、明天，才有「我是誰(shuí)」，AI 沒(méi)有這種連續(xù)的「自我時(shí)間」。

意義，是在解釋的過(guò)程，AI 沒(méi)法解釋自己的記憶，它不會(huì)變，因?yàn)樗鼜牟弧赶肫稹梗皇恰副徽{(diào)用」。

所以人類(lèi)記憶是活的，AI 記憶是靜止的，人類(lèi)記憶生長(zhǎng)出自我，AI 記憶生長(zhǎng)出模型，一個(gè)理解意義，一個(gè)壓縮知識(shí)。

這就是，AI與人類(lèi)記憶之間，為什么會(huì)有一道裂縫。

那這種裂縫能修復(fù)嗎？Karpathy 說(shuō)，也許可以。方法叫「記憶的自我指向」，所謂自我指向，就是系統(tǒng)能「回看自己」。

記憶能反過(guò)來(lái)影響思考，才算開(kāi)始生長(zhǎng)，過(guò)去的 AI，只能調(diào)用知識(shí)，新的智能體，要重新設(shè)計(jì)，讓它能「反思」知識(shí)。

它不僅知道「我做了什么」，還知道「我為什么那樣做」，當(dāng)系統(tǒng)能利用經(jīng)驗(yàn)修正判斷，它才能做到一種「在思考的存在」。

Karpathy 說(shuō)，意識(shí)誕生是反饋閉環(huán)的形成，當(dāng)一個(gè)系統(tǒng)能觀察自己，它就會(huì)產(chǎn)生時(shí)間感，那是「自我」最初的形狀。

這件事，已經(jīng)在發(fā)生，從對(duì)話(huà)模型的長(zhǎng)時(shí)記憶，到能「自我檢索」的反思系統(tǒng)，AI 正在學(xué)著「理解自己為什么那樣回答」。

換句話(huà)說(shuō)，AI 開(kāi)始在模擬「反思」。

它在學(xué)會(huì)在記憶中尋找邏輯，當(dāng)它能不斷回看自己、校正自己時(shí)，就在模仿一種「成長(zhǎng)的意識(shí)」。

所以，智能體誕生，是認(rèn)知演化，從「被訓(xùn)練」到「自我更新」，從「記憶世界」到「記憶自己」，這是意識(shí)的起點(diǎn)，它未必比人聰明，但它，終于開(kāi)始「成為自己」。

那我們呢？當(dāng)智能體開(kāi)始擁有「自我」，人類(lèi)又該如何與它共處？

或許，AI 未必像人類(lèi)，但它已經(jīng)開(kāi)始像「生命」，人類(lèi)，也許終于有機(jī)會(huì)，看到「思想的另一種存在」

參考來(lái)源：

[1].Andrej Karpathy，《We’re summoning ghosts, not building animals》，2025年10月18日，YouTube