劉永謀：超級智能是目前AI能力被高估的標志性術語

*中國人民大學吳玉章 講席教授劉永謀首發于微信公眾號，保留一切知識產權，侵犯必究。

繼續推進超級AI的研究，它是下半年我研究的一個重點。為此，我在《閱江學刊》組織名為“超級智能與未來人類的跨學科審度”專欄筆談，并在11月9日組織在人大召開“超級智能與未來人類”學術研討會。

筆談主要情形如下：

——筆談主持人：

劉永謀（中國人民大學吳玉章講席教授）

——筆談參與人：

劉永謀（中國人民大學哲學院教授）

龔新奇（中國人民大學數學學院教授）

邱德鈞（蘭州大學哲學社會學院教授）

段偉文（中國社會科學院人工智能文化促進中心研究員）

楊慶峰（復旦大學科技倫理與人類未來研究院教授）

閆宏秀（上海交通大學馬克思主義學院教授）

劉 偉（北京郵電大學人工智能學院特聘研究員）

車 琳（中國傳媒大學戲劇影視學院副教授）

顧 超（北京大學政府管理學院助理教授）

筆談內容：

AI

研究（

AI studies

）領域，

超級智能

近來成為熱議話題。

7

25

2025

世界人工智能大會（

WAIC

）上，諾貝爾獎物理學獎得主辛頓（

Geoffrey Hinton

）認為超級智能很快會出現，呼吁關注超級智能的全球治理問題。何為超級智能？超級智能與人類智能是什么關系？超級智能出現，將會對當代社會產生何種沖擊，導致何種技術風險和技術倫理問題，又應該如何應對？本次筆談聚焦

超級智能與未來人類的跨學科審度

，從哲學、馬克思主義理論、人工智能、藝術和國際關系等視角對超級智能進行研究，拋磚引玉，以期推動該領域研究的進一步發展。

感謝諸位大佬的支持！

對于超級AI（我認為超級智能與之等同）的態度，可以分為保守、激進和溫和三種，我應該是典型的保守派，因為我堅持有限AI的基本立場。慶峰屬于激進派，由此他說超級AI可能已經實現了，只是沒有被發現。

我多次說過，我的基本困惑是：我們為什么要搞超級AI呢？常見理由如下：第一，很多人很懵懂、糊里糊涂，根本沒有想這個問題，就是跟著“AI宣傳術”走的。按照宣傳，專業AI、通用AI、強AI到超級AI的發展順理成章，很“絲滑”，為什么不搞呢？第二，超級AI可以解決現在大家解決無望的復雜性全球問題，如氣候變化、核大戰陰影。這里邏輯是：之所以它們解決不了，因為人類太蠢。第三，我稱之為“超級智能恐怖”，即敵國搞成超級智能，咱們就完犢子了，所以不僅要搞，還要大干快上。最近，蘭德公司幾個“二百五”提出一個MAIM的想法，簡單意思就是估計敵國可能搞出超級智能就直接不惜代價打擊。我感覺這是嗑藥之后的想法。還有一些其他的支持理由，對此，艾志強與我合作的新論文中將一一駁斥，以維護我的有限AI理論。

不過，“超級智能恐怖”的想法倒是啟發我想分析一下，也許就是在此次筆談中，超級智能威懾與核威懾之間的類比問題。眾所周知，核威懾是大家有核武器，但大家都不敢用，誰用大家都完蛋。超級智能可以起到類似威懾效果嗎？其實，當年愛因斯坦要是知道結果是啥，就不會建議搞原子彈了。如果超級智能無敵，我覺得我們應該避免當年愛因斯坦的遺憾，即反對超級智能研發路徑——這就是我的立場，雖然我覺得超級AI完全沒有影子。

很多人已經開始覺得，此次大模型激發的“AI熱”已經開始黔驢技窮了。我以為，基本原理沒有什么突破，大模型在應用上有些作用，但絕不似AI宣傳術說得多么夸張。人文社科研究說的夸張，我說過，主要是作為一種批判法。包括AI4S、AI4SS在內，目前AI的革新力量非常有限。

為此，我問過不少人，大家普遍覺得熱十年沒問題。我沒有這么樂觀，見過互聯網泡沫、物聯網熱、元宇宙熱，估計兩三年AI還行，再往后難說了。不過，火個三年就很不錯了，我差不多也要準備退休了。當AI+被高舉出來的時候，AI發展這一波就差不多這樣了，下面的工作主要是“+”。

我已經批評過AI發展的娛樂化，最近這一點表現非常明顯。各種大會、上春晚，還有機器人馬拉松、拳擊，再玩就是AI上綜藝、吐槽大會了。一窩蜂式的運動式發展有多大作用？肯定還是有的，但想根本性顛覆式發展很難。

還有一個很熱的詞：AI智能體（AI agent），明年我會組織大家研究一下。我的疑問是：有幻覺的東西，你怎么能讓它代理呢？有人提出與agentic AI相對的scientist AI的概念，我非常贊同，與我說的有限AI相契合。科學家AI與代理者AI不同，它的目標不是執行或行動，而是如科學家一般研究世界。遇到問題，科學家AI會給你分析你可以如何，以及你如何會如何，但是它不會做你的代理幫你做事，真正做事還得靠你來決定。

總之，在超級智能熱議中，我發現太多的無意識和非理性。接下來，還要繼續深入研究。