劉永謀：拜AI教徒們，熱潮正褪去，小心泳褲被卷走 | 讀書

*中國人民大學吳玉章 講席教授劉永謀首發于微信公眾號，保留一切知識產權，侵犯必究。

2024年初，我在《科學.經濟.社會》上組織專欄，討論“AI發展現狀反思”，彼時大家就感覺這波AI熱潮吹得有些過頭了。專欄中我們的文章題目是：《警惕AI熱潮中的娛樂化趨勢》，指出當前AI發展主要是AI產業界主導，通過AI宣傳術各種AI覺醒類話題吸引投資，誤導公眾和政府對AI發展的看法。

之后一年半，這種感覺越來越強烈。一個重要的現象是：AI圈子不斷炒作新概念，然后沒有下文，就又搞一個新概念。先是熱議對齊，各個都要AI向善。再說通用智能，號稱立馬要突破。再是具身智能，機器人似乎很快就要上崗。最后是超級智能，鼓吹AI正在超越人類。

去年還沒有實現通用AI，今年就有人宣布超級AI已經實現了，還評出通用AI十大概念股，在股市上圈錢。面對這樣的狂熱，稍微有點腦子的人都會想：這里面水很深，小心被割韭菜。歷史經驗告訴我們：吹得越是瘋，泡沫就越是到了要破裂的時候。

不信你回憶一下三年前“元宇宙熱”，吹到“人類的歸宿是元宇宙”的時候，有人已經在偷偷卷錢下船了。我們寫了本《元宇宙陷阱》，書剛印出來熱潮就褪去了，根本來不及提醒大家。

這一波以統計學和機器學習為突破的AI熱潮，原理很清楚，能做什么并沒有那么難以搞清楚。本質上，AI仍然是計算機技術和網絡技術的進一步深化發展，智能革命仍然是信息革命的深化階段。

然而，這個領域的專家特別擅長吹牛，特別會搞宣傳。這一點20世紀90年代就有人指出過。今天更是如此，正如有人說的：今天的大科學家，首先是個大文學家、大科幻作家。畫一張很大的餅，說要干很大的事，以此向上面要大錢。整個社會被他們忽悠得一愣一愣的，實際上他們多數就是掉到錢眼里了。

舉個例子，李飛飛說：AI是文明級別技術。什么是文明級別的技術呢？史前文明的石器技術，農業文明的種植技術，工業文明的機器技術，信息文明的計算機技術，這些算文明技術即一種文明的標志性技術。信息文明得到承認，但AI文明沒有，因為多數人認為AI文明仍然是信息文明，沒有什么本質區別。但是，李飛飛這么說也不是完全沒有道理，大家可以探討。

《超智能與未來》（Hyperintelligence）一書的觀點更加爆裂：AI是宇宙進化級別的技術，和宇宙大爆炸后原子出現、生命出現是一個層次上的。未來呢，宇宙走向自主機器人文明、AI殖民宇宙——這才是AI真正的高度。故而，我將這本書歸為“拜AI教”一類。

從根本上說，這是一本普及類自然史著作。自然史從宇宙大爆炸開始寫，把人類史看作其中一部分，還可以一直想前幻想。此類著作簡單地說，就是某種科學的宇宙圖景。但是，科學會不斷發展，這種宇宙圖景并非定論，而且某些問題如人類的道德起源，科學上也存在爭論。可是，這類書的作者往往不了解科學的假說性的一面，把科學當作絕對真理崇拜得不得了，直追宗教信徒。

《超智能與未來》認為，宇宙像是巨大的實驗室，做的是增加智慧和復雜性的實驗。所以，宇宙進程就是智慧不斷爆炸、復雜性不斷爆發的歷史。以前，“智慧”被認為只有人和神有，這本書認為動物有智慧、生命都有智慧甚至宇宙也有智慧。這是典型的自然神論或泛神論，這也與宗教有關——不冤枉說它是拜AI教。

關鍵的是它歸納的復雜性進化節點依次是：宇宙大爆炸，各種亞原子粒子的形成，最初4種原子（氫氦鋰鈹）形成，更重的原子形成，活細胞形成，細胞器和多細胞生命形成，生物地球化學循環形成并改造地球，意識和探索性智能形成，技術與文明的形成，計算機與電信的啟動，AI集群智能，基于計算機的集體超智能，自主機器人集群/物理DAO，自主機器人文明，宇宙殖民，AI引爆新宇宙……顯然，《超智能與未來》將AI定位到宇宙級技術了，人類出現都沒有排上這個級別。人類出現屬于“意識和探索性智能形成”這個復雜性層級上，但該書認為很多生命形式都有意識和探索性智能，只是多少不同而已。

簡而言之，AI出現比人類出現更重要。你說這是不是拜AI教呢？接下來，《超智能與未來》暢想超級AI如何解決氣候變化問題、如何讓人類永生以及機器人如何征服宇宙、讓整個宇宙充滿超級智能。就是只字不提：超級AI如此宇宙級別了，為何要讓人類永生而不是滅絕了事呢？

幸好這本書是丹麥一家智庫的作品，這家公司名為未來預測公司。該公司的創始人喊了個AI公司的技術專家和一個管理咨詢公司的人，一塊攢了這本書。而且，丹麥有什么AI啊，中美是第一梯隊。《超智能與未來》吹牛是肯定的，不用太當真。但是，這本書確實很好地說明目前AI圈子的宣傳口徑。

牛吹到這份上——宇宙級別的份上——讓人擔心泡沫明天就會爆裂。

不希望如此，因為這3年集中在做AI研究（AI studies）。不過，我們不是因為火而研究AI的。二十多年前，就開始研究網絡倫理、網絡文化、虛擬實在，后來一直物聯網、大數據、云計算、元宇宙、區塊鏈這樣追蹤著，也算是見慣炒作和穿幫。

最近不斷問身邊研究AI的同仁們：你們覺得AI還能火多久？要爆早點爆，爆了大家安安心心技術上搞點突破。AI歷史上起起落落，成也炒作，敗也炒作。

拜AI教徒們，熱潮正褪去，小心泳褲別被卷走！

中信出版社這次給我三本書看，另外一本與《超智能與未來》立場完全相反，中文書名是《AI萬金油：商業幻想與科技狂潮》。實際上，這本書英文書名是“AI Snake Oil”，什么是Snake Oil？就是跑江湖賣的大力丸之類，在英語中叫Snake Oil。江湖藥，吃不死人，也治不了病，就是騙騙錢而已。

明天我看看Snake Oil。兩本書都找來，對照著讀讀挺好。