從笛卡爾的角度看GPT的極限

最近ChatGPT越來越火，很多人都擔(dān)心說ChatGPT會不會把人給替代了。實際上在我看來，ChatGPT根本不會替代人，而是會替代很多工作。替代人和替代工作，是完全不同的兩回事。替代人是說人本身就沒用了，而替代工作是說某些工作不需要人了。一旦替代工作，意味著對人的需求就變了。

下面來說說我為什么會有這樣兩個判斷。

01
ChatGPT跟人比，差在哪兒？

ChatGPT跟提問人之間這種往復(fù)交談的過程，看上去似乎真的就是一個有思維的人，但嚴(yán)格說來，ChatGPT并不是對它所說的那些東西有了理解。它仍然是一種概率算法，只不過是它的算法、參數(shù)等等極為強大，其呈現(xiàn)結(jié)果看上去讓你感覺像是在跟人聊天。雖然現(xiàn)在時不時地也會看到它說的有些話是莫名其妙的，但隨著訓(xùn)練越來越多，這種莫名其妙的事情就會越來越少了。

它都這么強大了，為什么我仍然說它沒有對它所說的話的理解呢？一說到理解，其實首先得追問一個事兒，就是到底是誰在理解？如果沒有一個主體去理解的話，那理解這事兒根本就不存在。

咱們可以用一個例子來解釋一下。

很多人都聽說過笛卡爾的一句名言，“我思故我在”（I think, therefore I am），但是可能很多人沒有注意到，他這句名言里面的兩個“我”實際上是不同位階上的。

笛卡爾之所以說這句話，在于他看到，有很多哲學(xué)家在嘗試對于世界到底什么樣、宇宙到底什么樣給出一種整體性的解釋，但是這些解釋很多是彼此矛盾的，不可能都對。笛卡爾說那算了，任何一種解釋，只要里面有一點可質(zhì)疑的，我就把它暫時懸置起來，先擱一邊，然后繼續(xù)去尋找下一種解釋，在下一種里面又有一點可質(zhì)疑的，就再次把它給懸置起來，那么這么往前去質(zhì)疑，到最后，笛卡爾發(fā)現(xiàn)有一個正在質(zhì)疑的“我”的存在是不容置疑的。

那問題來了，是誰發(fā)現(xiàn)了有一個正在質(zhì)疑的我的存在？實際上是一個更底層的我觀察到了一個次底層的我正在進行觀察和質(zhì)疑。更底層的那個我如果開始被觀察，一定是有一個更更底層的我在對它進行觀察，之前的那個“更底層的我”又變成了一個次底層的我，你會發(fā)現(xiàn)永遠(yuǎn)得有一個最底層的去觀察而不被觀察的我去質(zhì)疑、去理解，那個是自我的基礎(chǔ)。

可是因為它是去觀察而不被觀察的，就意味著你不知道該用什么樣的算法來模擬它，原因在于，你要用任何算法去模擬一個“自我”，首先那個自我得被觀察，可是是誰在觀察？是一個不被觀察的自我在觀察。也就是說，你想要去模擬的那個對象是一個永遠(yuǎn)無法被觀察到的對象，只要你一去觀察它，它就不再是你想要模擬的那個對象了。

所以在這種情況下，要把最底層的主體給模擬出來，你根本都不知道這個算法該怎么寫，哪怕是比GPT再高級一層的AI也還是做不到。你要去模擬的那個最底層的自我，它作為一切理解、一切精神動力的出發(fā)點，是無法被觀察的。所以GPT實際上是無法出現(xiàn)自我意識的，沒有自我意識，也就替代不了人。

自我意識帶來了你所有的精神動力，帶來了你所有的行為動力，相當(dāng)程度上，自我意識是一種非理性的能力，是一種非理性的沖動，它確立了一個根本的目標(biāo)。而理性在這兒是干嘛用的？理性是用來給這個目標(biāo)尋找到一個最有效率的方案的。

“非理性來確定目標(biāo)”，仔細(xì)追溯一下會發(fā)現(xiàn)，這并不像初聽上去那么離奇。比如說我為了考100分要好好學(xué)習(xí)，在這里，好好學(xué)習(xí)不是一個根本目標(biāo)，甚至考100分也不是根本目標(biāo)，考100分是為了達(dá)到別的目的。根本目標(biāo)是來自于一種意義感的驅(qū)使，而意義感這東西很神奇，它根本不是用理性能解釋的，但凡能用理性解釋的東西，實際上它的意義感都是很容易枯竭掉的。

真正最底層的意義感來自于非理性，而非理性的意義感的來源，就是那個最底層的“去觀察而不被觀察”的自我。GPT是無法擁有這樣一個自我的，它也就無法去設(shè)定目標(biāo)，從而它所有強大的這種推理能力、計算能力，都是用來為擁有意義感的人所設(shè)定的目標(biāo)服務(wù)的。

02
GPT時代，真正重要的能力是什么？

過去，達(dá)到這個目標(biāo)所需要做的很多工作都是由人來做的，今天你都可以甩給GPT了，于是很多工作會被替代，但是人本身無法被替代。

實際上工業(yè)革命以來，很多工作都已經(jīng)被替代了，有了機器，很多體力活就用不著人來干了。那么在今天，有了GPT，很多腦力活也不用人來干了，因為有很多腦力活，它實際上是偽裝成腦力活的體力活，不過是一些機械的重復(fù)性勞動，都可以甩給GPT了。

于是大量工作就有可能消失了，準(zhǔn)確來說，是這些工作崗位消失了，但這不意味著一般意義上的普遍失業(yè)，僅僅是原來干那些活的人暫時失業(yè)了。歷史上，每當(dāng)出現(xiàn)一個新技術(shù)的時候，很多人都會驚呼可能會讓很多人失業(yè)，但是每一次這種技術(shù)迭代出現(xiàn)，都一定會創(chuàng)造出更多的人們此前從來沒有想到過的新崗位出來。所以在這個意義上并不要太擔(dān)心，需要追問的是，這些新崗位需要的能力特征是什么？

GPT本身具有那么強大的推理和計算能力，然后又有那么龐大的數(shù)據(jù)庫供它搜索，意味著它在回答問題這個層面非常厲害，人現(xiàn)在肯定是比不過它了。但這是回答問題的層面，關(guān)鍵是誰來問問題呢？

問問題的人還得是這個“我”，只有這個自我才知道去問什么問題。但并不是你有了自我，就能問出好問題，有可能你問出的是很糟糕的問題。在未來真正重要的能力，是怎么才能問出好問題，從而把GPT的能力給真正釋放出來。

好問題的提出首先取決于你對社會、對世界有足夠深刻、敏銳的觀察和感受，而你又如何能夠獲得這樣的觀察力和感受力呢？前提是你得擁有一個足夠健全的人格，否則你眼中的世界會是非常狹隘的，也就不可能問出一個好問題。如果你變成這樣一個人，你肯定會被GPT所替代，但這是“你”被替代，而不是“人”被替代。

GPT的出現(xiàn)會改變很多領(lǐng)域，尤其是它會改變教育領(lǐng)域。這意味著對于未來的世界、未來的社會，現(xiàn)行的教育機制也必須得有深刻的改革。

當(dāng)下甭管是教學(xué)方案設(shè)計還是考核機制，其中很多都有那種偽裝成腦力活的體力活，那些東西你即便把它全都練熟了，也仍然跟培養(yǎng)完整人格，從而獲得對于社會、對于世界比較深刻比較完好的感受力沒有多大關(guān)系。

我曾很多次聊到過，任何單一學(xué)科都是一種工具性的存在（）。如果一個人完全沉浸在單一學(xué)科里面，視野會變得狹隘，因為學(xué)科的邊界決定了你的視野，此時你完整的人格有可能受損。

在GPT出現(xiàn)之前，你對于世界的感知力以及人格的完整性就算還不那么到位，也未必是一個太大的問題，但是隨著GPT出現(xiàn)，尤其是GPT不斷地迭代，在社會當(dāng)中的應(yīng)用越來越廣泛，那樣一種學(xué)科教育所培養(yǎng)出來的人實際上是會被GPT所淘汰的。

未來我們需要一種全新的教育，它會是對于古典教育的某種回歸，它會有一個通識教育的外觀特征，但是這必須得是一種能夠適應(yīng)GPT時代的通識教育。

《樞紐：3000年的中國》全新增訂

親筆簽名版限時5.4折優(yōu)惠 點擊下圖前往購買