劉永謀：拜AI教徒們，熱潮正褪去，小心泳褲被卷走 | 讀書(shū)

*中國(guó)人民大學(xué)吳玉章 講席教授劉永謀首發(fā)于微信公眾號(hào)，保留一切知識(shí)產(chǎn)權(quán)，侵犯必究。

2024年初，我在《科學(xué).經(jīng)濟(jì).社會(huì)》上組織專欄，討論“AI發(fā)展現(xiàn)狀反思”，彼時(shí)大家就感覺(jué)這波AI熱潮吹得有些過(guò)頭了。專欄中我們的文章題目是：《警惕AI熱潮中的娛樂(lè)化趨勢(shì)》，指出當(dāng)前AI發(fā)展主要是AI產(chǎn)業(yè)界主導(dǎo)，通過(guò)AI宣傳術(shù)各種AI覺(jué)醒類話題吸引投資，誤導(dǎo)公眾和政府對(duì)AI發(fā)展的看法。

之后一年半，這種感覺(jué)越來(lái)越強(qiáng)烈。一個(gè)重要的現(xiàn)象是：AI圈子不斷炒作新概念，然后沒(méi)有下文，就又搞一個(gè)新概念。先是熱議對(duì)齊，各個(gè)都要AI向善。再說(shuō)通用智能，號(hào)稱立馬要突破。再是具身智能，機(jī)器人似乎很快就要上崗。最后是超級(jí)智能，鼓吹A(chǔ)I正在超越人類。

去年還沒(méi)有實(shí)現(xiàn)通用AI，今年就有人宣布超級(jí)AI已經(jīng)實(shí)現(xiàn)了，還評(píng)出通用AI十大概念股，在股市上圈錢(qián)。面對(duì)這樣的狂熱，稍微有點(diǎn)腦子的人都會(huì)想：這里面水很深，小心被割韭菜。歷史經(jīng)驗(yàn)告訴我們：吹得越是瘋，泡沫就越是到了要破裂的時(shí)候。

不信你回憶一下三年前“元宇宙熱”，吹到“人類的歸宿是元宇宙”的時(shí)候，有人已經(jīng)在偷偷卷錢(qián)下船了。我們寫(xiě)了本《元宇宙陷阱》，書(shū)剛印出來(lái)熱潮就褪去了，根本來(lái)不及提醒大家。

這一波以統(tǒng)計(jì)學(xué)和機(jī)器學(xué)習(xí)為突破的AI熱潮，原理很清楚，能做什么并沒(méi)有那么難以搞清楚。本質(zhì)上，AI仍然是計(jì)算機(jī)技術(shù)和網(wǎng)絡(luò)技術(shù)的進(jìn)一步深化發(fā)展，智能革命仍然是信息革命的深化階段。

然而，這個(gè)領(lǐng)域的專家特別擅長(zhǎng)吹牛，特別會(huì)搞宣傳。這一點(diǎn)20世紀(jì)90年代就有人指出過(guò)。今天更是如此，正如有人說(shuō)的：今天的大科學(xué)家，首先是個(gè)大文學(xué)家、大科幻作家。畫(huà)一張很大的餅，說(shuō)要干很大的事，以此向上面要大錢(qián)。整個(gè)社會(huì)被他們忽悠得一愣一愣的，實(shí)際上他們多數(shù)就是掉到錢(qián)眼里了。

舉個(gè)例子，李飛飛說(shuō)：AI是文明級(jí)別技術(shù)。什么是文明級(jí)別的技術(shù)呢？史前文明的石器技術(shù)，農(nóng)業(yè)文明的種植技術(shù)，工業(yè)文明的機(jī)器技術(shù)，信息文明的計(jì)算機(jī)技術(shù)，這些算文明技術(shù)即一種文明的標(biāo)志性技術(shù)。信息文明得到承認(rèn)，但AI文明沒(méi)有，因?yàn)槎鄶?shù)人認(rèn)為AI文明仍然是信息文明，沒(méi)有什么本質(zhì)區(qū)別。但是，李飛飛這么說(shuō)也不是完全沒(méi)有道理，大家可以探討。

《超智能與未來(lái)》（Hyperintelligence）一書(shū)的觀點(diǎn)更加爆裂：AI是宇宙進(jìn)化級(jí)別的技術(shù)，和宇宙大爆炸后原子出現(xiàn)、生命出現(xiàn)是一個(gè)層次上的。未來(lái)呢，宇宙走向自主機(jī)器人文明、AI殖民宇宙——這才是AI真正的高度。故而，我將這本書(shū)歸為“拜AI教”一類。

從根本上說(shuō)，這是一本普及類自然史著作。自然史從宇宙大爆炸開(kāi)始寫(xiě)，把人類史看作其中一部分，還可以一直想前幻想。此類著作簡(jiǎn)單地說(shuō)，就是某種科學(xué)的宇宙圖景。但是，科學(xué)會(huì)不斷發(fā)展，這種宇宙圖景并非定論，而且某些問(wèn)題如人類的道德起源，科學(xué)上也存在爭(zhēng)論。可是，這類書(shū)的作者往往不了解科學(xué)的假說(shuō)性的一面，把科學(xué)當(dāng)作絕對(duì)真理崇拜得不得了，直追宗教信徒。

《超智能與未來(lái)》認(rèn)為，宇宙像是巨大的實(shí)驗(yàn)室，做的是增加智慧和復(fù)雜性的實(shí)驗(yàn)。所以，宇宙進(jìn)程就是智慧不斷爆炸、復(fù)雜性不斷爆發(fā)的歷史。以前，“智慧”被認(rèn)為只有人和神有，這本書(shū)認(rèn)為動(dòng)物有智慧、生命都有智慧甚至宇宙也有智慧。這是典型的自然神論或泛神論，這也與宗教有關(guān)——不冤枉說(shuō)它是拜AI教。

關(guān)鍵的是它歸納的復(fù)雜性進(jìn)化節(jié)點(diǎn)依次是：宇宙大爆炸，各種亞原子粒子的形成，最初4種原子（氫氦鋰鈹）形成，更重的原子形成，活細(xì)胞形成，細(xì)胞器和多細(xì)胞生命形成，生物地球化學(xué)循環(huán)形成并改造地球，意識(shí)和探索性智能形成，技術(shù)與文明的形成，計(jì)算機(jī)與電信的啟動(dòng)，AI集群智能，基于計(jì)算機(jī)的集體超智能，自主機(jī)器人集群/物理DAO，自主機(jī)器人文明，宇宙殖民，AI引爆新宇宙……顯然，《超智能與未來(lái)》將AI定位到宇宙級(jí)技術(shù)了，人類出現(xiàn)都沒(méi)有排上這個(gè)級(jí)別。人類出現(xiàn)屬于“意識(shí)和探索性智能形成”這個(gè)復(fù)雜性層級(jí)上，但該書(shū)認(rèn)為很多生命形式都有意識(shí)和探索性智能，只是多少不同而已。

簡(jiǎn)而言之，AI出現(xiàn)比人類出現(xiàn)更重要。你說(shuō)這是不是拜AI教呢？接下來(lái)，《超智能與未來(lái)》暢想超級(jí)AI如何解決氣候變化問(wèn)題、如何讓人類永生以及機(jī)器人如何征服宇宙、讓整個(gè)宇宙充滿超級(jí)智能。就是只字不提：超級(jí)AI如此宇宙級(jí)別了，為何要讓人類永生而不是滅絕了事呢？

幸好這本書(shū)是丹麥一家智庫(kù)的作品，這家公司名為未來(lái)預(yù)測(cè)公司。該公司的創(chuàng)始人喊了個(gè)AI公司的技術(shù)專家和一個(gè)管理咨詢公司的人，一塊攢了這本書(shū)。而且，丹麥有什么AI啊，中美是第一梯隊(duì)。《超智能與未來(lái)》吹牛是肯定的，不用太當(dāng)真。但是，這本書(shū)確實(shí)很好地說(shuō)明目前AI圈子的宣傳口徑。

牛吹到這份上——宇宙級(jí)別的份上——讓人擔(dān)心泡沫明天就會(huì)爆裂。

不希望如此，因?yàn)檫@3年集中在做AI研究（AI studies）。不過(guò)，我們不是因?yàn)榛鸲芯緼I的。二十多年前，就開(kāi)始研究網(wǎng)絡(luò)倫理、網(wǎng)絡(luò)文化、虛擬實(shí)在，后來(lái)一直物聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算、元宇宙、區(qū)塊鏈這樣追蹤著，也算是見(jiàn)慣炒作和穿幫。

最近不斷問(wèn)身邊研究AI的同仁們：你們覺(jué)得AI還能火多久？要爆早點(diǎn)爆，爆了大家安安心心技術(shù)上搞點(diǎn)突破。AI歷史上起起落落，成也炒作，敗也炒作。

拜AI教徒們，熱潮正褪去，小心泳褲別被卷走！

中信出版社這次給我三本書(shū)看，另外一本與《超智能與未來(lái)》立場(chǎng)完全相反，中文書(shū)名是《AI萬(wàn)金油：商業(yè)幻想與科技狂潮》。實(shí)際上，這本書(shū)英文書(shū)名是“AI Snake Oil”，什么是Snake Oil？就是跑江湖賣(mài)的大力丸之類，在英語(yǔ)中叫Snake Oil。江湖藥，吃不死人，也治不了病，就是騙騙錢(qián)而已。

明天我看看Snake Oil。兩本書(shū)都找來(lái)，對(duì)照著讀讀挺好。