中文屋提出者逝世，曾當(dāng)眾“調(diào)戲”Hinton被記了半輩子

henry 發(fā)自 凹非寺量子位 | 公眾號 QbitAI

哲學(xué)家約翰·塞爾去世了，享年93歲。

你或許對他的名字并不熟悉，但對他提出的思想實驗“中文屋”一定不會陌生。

這一于1980年提出的實驗，后來被放到了與“圖靈測試”并列的地位，被視為人工智能哲學(xué)史上的經(jīng)典命題。

它不僅挑戰(zhàn)了機(jī)器是否能“理解”的界限，也迫使人們重新思考心靈的本質(zhì)。

半個多世紀(jì)后，當(dāng)GPT等大型語言模型登上時代舞臺，人們?nèi)栽谧穯枺核鼈兙烤故窃谀M理解，還是已經(jīng)生成理解？

而在學(xué)術(shù)之外，70年代的一場電視錄制，至今仍讓深度學(xué)習(xí)之父Hinton記憶猶新——

半個世紀(jì)過去，他仍然難以忘懷那次“被塞爾戲耍”的經(jīng)歷。

那么，這位讓Hinton耿耿于懷大半輩子的人工智能先驅(qū)，究竟做了什么？

中文屋又為何偏偏選作中文？

塞爾二三事

在回顧塞爾的生平之前，不妨先從兩則軼事說起。

正如開頭所言，上世紀(jì)70年代的一場電視錄制中，塞爾當(dāng)眾“戲耍”了年輕的杰弗里·辛頓（Geoffrey Hinton）——這場插曲令后者耿耿于懷半個世紀(jì)。

直到2022年，在與斯蒂芬·漢森（Stephen Hanson）的連線訪談中，Hinton仍將那次節(jié)目稱為一次“極其痛苦的經(jīng)歷”

事情的起因是，Hinton與塞爾被安排共同錄制一檔電視節(jié)目。

錄制前，Hinton特意向丹尼爾·丹尼特（Daniel Dennett）請教是否該參加。

（丹尼爾·丹尼特是美國當(dāng)代哲學(xué)家、認(rèn)知科學(xué)家，與塞爾齊名但主張完全相反，其強(qiáng)調(diào)意識與智能可以在計算與進(jìn)化框架中得到自然化解釋，反對“心智不可被算法化”的觀點，著有《意識的解釋》）

丹尼特勸他“最好別去”，但Hinton以為，只要事先與塞爾約好不談“中文屋”就沒問題。

結(jié)果節(jié)目一開場，塞爾便舉起麥克風(fēng)道：

• 今天我們要和連接主義者Geoffrey Hinton對話，他當(dāng)然不會對中文屋實驗有任何問題。

這一手直接打破了約定。Hinton當(dāng)場懵住，卻又無法當(dāng)眾反駁，只得硬著頭皮回應(yīng)。

塞爾隨即展開了“哲學(xué)拷問”：

• 如果我們把你大腦里的每個神經(jīng)元都換成芯片，慢慢地我們就失去了Hinton，他，就～消～失～了。

Hinton徹底無語。制片人看不下去，悄悄對他說：“你得強(qiáng)勢一點！”

Hinton心想：天哪，我還要更強(qiáng)勢？

于是，在那場冗長錄制中，Hinton只是默默看著窗外，像極了一位知名表演藝術(shù)家。

最終，兩小時的錄制被剪成一小時成片。

五十多年后，Hinton仍清晰記得那次節(jié)目錄制的細(xì)節(jié)：ITV的演播室、綠幕墻、現(xiàn)金紅包……無一遺忘。

所以，雖然不能說老爺子的腰是塞爾害的，但心理健康這一塊塞爾多少得負(fù)點責(zé)。

要理解這場尷尬交鋒，還得回到學(xué)術(shù)分歧的根源。

Hinton早年和Rumelhart、McClelland等人以并行分布式處理（Parallel Distributed Processing, PDP）聞名，主張心智并非像計算機(jī)程序那樣在符號上進(jìn)行規(guī)則運算，而是一個分布式網(wǎng)絡(luò)，通過神經(jīng)元之間的激活模式來表征知識，即所謂的連接主義

塞爾則將人工智能一概視為“符號操作系統(tǒng)”，并未區(qū)分符號主義與連接主義。

這使得Hinton在與他辯論時，被迫在對方的語義框架內(nèi)作答——

一場注定不對稱的辯論。

第二個軼事，出自《紐約時報》的訃告。

有一次，塞爾得知某門哲學(xué)導(dǎo)論課的宣傳冊上，印著三位哲學(xué)家的照片——勒內(nèi)·笛卡爾、大衛(wèi)·休謨，還有他自己。

塞爾看了看，淡淡地來一句：

“那另外兩個是誰？”

這句話狂得離譜，卻又極有塞爾的味道。

這讓人不禁想起他那位曾在隔壁劍橋成名的前輩——維特根斯坦。

傳聞維特根斯坦當(dāng)年被羅素引進(jìn)三一學(xué)院時，也問過一句同樣傳奇的話：

“亞里士多德是誰？”

雖然塞爾的乖張氣質(zhì)更像維特根斯坦，但他偏偏進(jìn)了隔壁的牛津——選擇當(dāng)時與維氏齊名的語言哲學(xué)家約翰·奧斯汀作為導(dǎo)師。

《衛(wèi)報》在形容這一師徒關(guān)系時，用了一個極妙的比喻：

• 塞爾那種牛仔式的直率，與奧斯汀那種迂腐、內(nèi)斂的英倫貴族氣質(zhì)，格格不入。

這種離經(jīng)叛道，甚至帶點道德爭議的氣質(zhì)，也成為塞爾一生的底色。

塞爾全名——約翰·羅杰斯·塞爾（John Rogers Searle）1932年7月31日生于美國丹佛。

19歲時，他獲得了羅德獎學(xué)金，從威斯康星大學(xué)麥迪遜分校轉(zhuǎn)入英國牛津大學(xué)。

在奧斯汀指導(dǎo)下完成學(xué)位與博士論文后，他于1959年加入加州大學(xué)伯克利分校，任教長達(dá)六十年。

他以犀利直言著稱：

• 當(dāng)哲學(xué)家就像謀殺：每天早上醒來，對著一堵磚墻，用頭去撞，直到撞出一個洞。

塞爾一生不斷與主流理論對抗。與丹尼特、德里達(dá)的爭論，是二十世紀(jì)后半葉哲學(xué)史上的標(biāo)志性場景。

1980年，他發(fā)表了著名的“中文屋”思想實驗，矛頭直指強(qiáng)人工智能。

在意識問題上，塞爾同樣鋒芒畢露。

他以科學(xué)為評判標(biāo)準(zhǔn)，與神經(jīng)科學(xué)家結(jié)盟，主張心智經(jīng)驗源自大腦功能，否定一切模糊的“精神”概念，認(rèn)為那與“顯而易見的物理事實”相悖。

對他而言，意識只是神經(jīng)放電的產(chǎn)物，“讓腦科學(xué)家去研究它如何運作吧。”

塞爾也常與后現(xiàn)代主義者對立。后者質(zhì)疑人類能否獲得客觀真理，認(rèn)為現(xiàn)實總被主觀經(jīng)驗過濾。

塞爾則堅稱：從一個角度看事物，并不意味著看不到真實本身——正如僅見沙發(fā)正面，仍然是在看沙發(fā)。

然而，塞爾的晚年蒙上陰影。

2017年，他因多起性騷擾指控被伯克利撤銷榮譽(yù)教授頭銜，其以他命名的“塞爾中心”隨即關(guān)閉。

此事引發(fā)軒然大波，使這位曾被視為“理性象征”的哲學(xué)家一度成為輿論眾矢之的。

以至于在塞爾去世后，主流媒體關(guān)于他的訃告幾乎全都姍姍來遲。

他是9月16日去世的，但一個月后才被主流媒體陸續(xù)報導(dǎo)。

即便如此，他的影響依舊深遠(yuǎn)。哲學(xué)家愛德華·菲瑟（Edward Feser）感嘆：

• 像克里普克 (Kripke)、普特南 (Putnam)、丹尼特 (Dennett) 和福多 (Fodor) 這樣的哲學(xué)家，都登上了《紐約時報》和《衛(wèi)報》等主流媒體的訃告。但據(jù)我所知（有誰知道別的消息嗎？），至今仍然沒有約翰·塞爾的這類訃告，而他的聲望絲毫不減于他們。這既荒謬又不公。

他的一生，既以鋒芒立名，也以爭議收場。

而“中文屋”——那個讓Hinton噤聲、讓AI研究者沉思的思想實驗——或許正是塞爾最具代表性的哲學(xué)遺產(chǎn)。

走出中文屋

這間屋子，幾乎濃縮了塞爾全部的哲學(xué)立場與爭議精神。

中文屋是塞爾于1980年提出的著名思想實驗，旨在反駁強(qiáng)人工智能的主張。

實驗設(shè)想一個不懂中文的英語使用者被關(guān)在一個封閉的房間里，房間內(nèi)有一本用英語寫的規(guī)則書，指導(dǎo)如何根據(jù)輸入的中文字符操作和輸出中文回復(fù)。

盡管操作得非常完美，讓房間外的人誤以為房內(nèi)的人懂中文，但房內(nèi)的人實際上并不理解中文的語義。

塞爾由此論證程序只能模仿智能的形式（語法層面），但不能擁有真正的理解能力（語義層面），強(qiáng)調(diào)智能不僅是程序處理，而是要能建立符號與對象間的語義聯(lián)系。

這一論證質(zhì)疑了圖靈測試的有效性。塞爾認(rèn)為，機(jī)器雖然可以在行為上表現(xiàn)出“智能”，但那并不意味著它真正理解了信息。

換言之，程序的運行并不等同于人類的理解。

計算機(jī)只是一個符號操作的系統(tǒng)——它按照規(guī)則操縱符號，卻無需知道這些符號代表什么，也不必理解它們的含義。程序的運作完全是語法性的，僅涉及形式結(jié)構(gòu)。

而人類的理解則不同，它不僅依賴符號和語法，更依賴對意義的把握。

因此，能否通過圖靈測試，與是否真正理解之間存在本質(zhì)差異：前者停留在形式符號的語法層面，后者則關(guān)乎符號所承載的語義層面。

中文屋的影響持續(xù)至今。人們在面對GPT等語言模型時，仍常以此為喻：它們只是統(tǒng)計模式的堆疊，只是在“模擬理解”，而非“擁有理解”。

就像一個不會中文的人，憑規(guī)則書應(yīng)答，句子雖通順，卻無真正意義。

然而，AI是否真的只能處理數(shù)據(jù)，而無法理解內(nèi)容？

這一爭論從未停止。其核心問題，也許并非“機(jī)器能否理解”，而是“理解意味著什么”。

早在80年代，瑪格麗特·博登就在《逃出中文屋》一文中指出：

• 重要的問題不是一臺機(jī)器何時理解了某件事情？（這個問題暗示存在著某個明確的斷點，理解在那里終止了，這是一種誤導(dǎo)），而是為了能夠作出理解，一臺機(jī)器（無論是不是生物的）必須能夠做到哪些事情？

——這將焦點從“是否理解”轉(zhuǎn)向“理解如何生成”，從哲學(xué)陷阱回到可操作的科學(xué)研究。

人工智能先驅(qū)約翰·麥卡錫也批評塞爾混淆了兩個層面：他把執(zhí)行計算的人（比如塞爾本人）所具有的心理特質(zhì)，和被計算所模擬的過程（例如理解中文）混為一談。

換句話說，在中文屋里的塞爾本人當(dāng)然不懂中文，但這并不意味著整個“中文屋系統(tǒng)”不能理解中文——就像一個神經(jīng)元不懂語言，但大腦能理解語言一樣。

心理語言學(xué)家史蒂文·平克（Steven Pinker）則認(rèn)為，塞爾只是在討論我們對“理解”一詞的用法，而沒有觸及可觀測的科學(xué)問題。

在當(dāng)下，Hinton對這一爭論給出了新的視角。

在一次訪談中，他回應(yīng)中文屋時表示：

• 大型語言模型確實“理解”語言——盡管這種理解是以模擬人類認(rèn)知的方式進(jìn)行的。這些模型會為單詞分配特征，并分析這些特征之間的相互作用，就像人腦處理語言的方式一樣。

換言之，億萬特征的互動本身，本就是一種理解。或許，這正是我們迄今為止對大腦語言處理最接近的模擬。

可能正如費曼所言：“What I cannot create, I do not understand.”

只有當(dāng)我們不再執(zhí)著于“什么是理解”，而是在創(chuàng)造與構(gòu)造中重新生成理解，人工智能才有可能觸及“理解”的本質(zhì)。

最后，說句題外話。

至于為什么選擇中文，塞爾后來在訪談中輕描淡寫地說：

• 選一種我完全不會的語言，比如中文，然后假定有人編寫了一個“理解中文”的程序。

這一選擇看似隨手，實則意味深長。

對此，網(wǎng)友們提出了兩種頗具說服力的解釋：

首先，塞爾的選擇或許反映了西方語境中的文化刻板印象。

英語中常說 “It’s all Chinese to me”，意為“我完全聽不懂”，類似“It’s all Greek to me”。

“中文屋”的隱喻力量，部分來自這種對“可操作但難理解”語言的想象。

其次，拉丁字母語言之間往往有詞形或語源可辨，即便不懂法語、德語，英語使用者仍能猜出部分意思。

中文獨立的文字系統(tǒng)則徹底切斷了這種可能，使“不可理解”更為徹底。

也許正因如此，塞爾的“中文屋”才能成為哲學(xué)史上最具隱喻張力的思想實驗之一——

一間封閉的屋子，折射出人類對“理解”的困惑。

[1]https://www.williamjames.com/transcripts/searle.htm?utm_source=chatgpt.com
[2]https://www.theguardian.com/world/2025/oct/05/john-searle-obituary
[3]https://aihub.org/2022/02/02/what-is-ai-stephen-hanson-in-conversation-with-geoff-hinton/