超級智能爭論 | 潘恩榮：接著談關于超級智能的爭論

*中山大學哲學系（珠海）教授潘恩榮首發于微信公眾號，保留一切知識產權，侵犯必究。

編者按：

《超級智能：少數派報告》引發的爭論繼續，見“”“”“”。

潘恩榮教授長期研究技術哲學、工程哲學和設計哲學，近來提出“極境人工智能”的新概念。

楊慶峰在其公眾號文章《我們要如何看待超級智能？》提到：一個《超級智能：少數派報告》的三位牽頭人被劃分為三派。楊慶峰教授被劃為激進派，劉永謀教授被劃為保守派，“閆宏秀則保持她神秘的沉默態度”被劃為溫和派。這倒是有點意外。難道真是“少數派”，所以能分為更少數派？

作為報告的參與者之一，我倒并不認為我屬于以上三派。相反，我更愿意提供一個思考方式，希望三派還是一個“少數派”。

在技術哲學研究領域，我自認為是“謹慎的樂觀派”。一方面是我的工科男和程序員背景，我天然更傾向于技術樂觀。（參見《無科學 不哲學》[1]）當然，也容易被看作是“技術決定論”一派。其實，我不是決定論派。就我的技術哲學研究領域而言，我發現，許多先進性的科學和技術引領了潮流而解釋世界，但并沒有改變世界而讓解釋成為社會文化傳承下來。但是，“工業”，足夠廉價且夠用的科學技術經過規模化使用制造“產品”（技術人工物），能夠改變世界且讓新的“解釋”成為社會文化傳承下來。所以，如果超級智能不進入工業化體系，我對超級智能的看法就是樂觀的；如果超級智能能夠進入工業化體系，我的看法就是“謹慎的樂觀派”。

另一方面是我對“工業革命”的理解，“技術+資本”模式真當令人糾結。西方經濟學工業革命研究是總體傾向是樂觀派，馬克思恩格斯關于工業革命的研究，包括1844手稿、共產黨宣言和資本論，總體傾向是悲觀派。前幾年我在看文本的時候，察覺到馬恩經典論述中有一股“絕望”的氣息。原來的工業革命發明和使用機器是讓人更輕松，誰想到工業革命后機器不僅異化而且“增強”了剝削。更要命的是，這種改變“不可逆”，所以，科技倫理在當時已經無用，唯有“革命”打碎現有體系一部分或者全部，人類才能獲得喘息機會。

當前，人工智能發展已經是“技術+資本”模式，如果不是現在尚處于新工業革命初始階段，科技倫理尚大有可為之時，我估計也會站在革AI命的立場上。因為，如果18、19世紀工業革命的結果在21世界人工智能新工業革命中重現，機器人很可能是下一任資本的人格化代表（參見《人工智能“以人為本”倫理準則反思》[2]），人類都沒資格與之競爭成為資本家，強化學習將成為新的資本邏輯（參見《造化論》[3]）。

關于面對超級智能的立場，確切的說，我不知道我到底屬于以上三派那一方。可能是被劃為左中右變換不定的一方。

我的觀點是：超級智能=極境人工智能+人工智能發展模式（公式1）

關于面對超級智能的立場，是一種“意向”或“評估”。根據現代技術哲學經驗轉向綱領的精神：任何關于技術的反思應該基于可靠的充分的關于技術的經驗研究和使用的效果。我對超級智能的立場會因為關于超級智能的“經驗”而改變。這些“經驗”包括“極境人工智能”和“人工智能發展模式”兩部分。

“極境人工智能”是指通過數據、算法和算力三方的共同作用，使人工智能技術結構性能達到極高水平，進而在應用場景中的效果達到或突破使用者現有認知的邊界。（參見《造化論》2025）通俗來講就是，人工智能已發展出“極境”（Peak）——超級厲害的——能力，智能水平達到甚至超越人類智能的程度，已突破人類以往認知的邊界。

“極境人工智能”已多次達到或突破人類認知邊界。例如，2012年，辛頓帶領伊利亞·蘇茨克弗（Ilya Sutskever）等使用基于深度學習技術的AlexNet算法在ImageNet大型視覺識別挑戰（ImageNet Large Scale Visual Recognition Challenge, ILSVRC）中奪冠，首次將人工智能圖像識別的準確率提高到人類平均水平85%以上，此后深度學習技術成為人工智能算法的底座；2016年，AlphaGo戰勝人類圍棋冠軍，此后人工智能成為各國競爭的關鍵領域之一；2022年，ChatGPT成為現象級應用軟件，此后人機交互從代碼輸入走向對話交流；2024年，研發AlphaFold的科學家因其在蛋白質結構預測領域的革命性貢獻獲得諾貝爾化學獎，人工智能驅動科學（AI For Science, AI4S）成為人類科學研究的新范式。（參見《造化論》[3]）如果把超級智能看作是一個遠處有點模糊的影像，那么，極境人工智能就是在幾個認知邊界點上做標記，勾勒超級智能的輪廓。

在討論我的立場的時候，上述“超級智能”公式1需要變成以下形態：

超級智能=極境人工智能/人工智能發展模式（公式2）

從公式2來看，超級智能是否有風險以及有多大程度的風險，來自極境人工智能與人工智能發展模式之間錯位產生的張力。如果極境人工智能能力遠遠高于人工智能發展模式對人工智能的控制力。這就像小孩（人類）耍大刀（人工智能）。刀（人工智能）會殺人的事實，人工智能研發專家肯定看到了。所以，許多人工智能大牛簽署公開信“暫停GPT六個月”（參見《暫停公開信：人工智能全球治理的關鍵時刻來了》[4]）。我認為，他們希望能加快對人工智能的理解，以便于發展出與人工智能新能力匹配的發展模式。

人工智能發展模式控制力差才是超級智能風險的源頭。關于人工智能滅絕或衰退，與其說是對人工智能本身極境能力的害怕，不如說是對人類自身發展人工智能模式的害怕。在超級智能增強下，如果18、19世紀工業革命的結果再次出現，人工智能運氣社會或者人工智能宗教社會邏輯上是可能的。（參見《超級智能增強與求真社會建構》[5]）所以，我認為，減少極境人工智能與人工智能發展模式之間的張力是首要治理任務，這就是“極境人工智能的性能與倫理相統一”的理念——造化論。（參見《造化論》[3]）

當下，我認為，倫理及價值觀已經跟不上極境人工智能能力的提升，那么，改變當下“倫理”“價值觀”及其背后的人工智能發展模式，匹配超級智能或極境人工智能的能力是當務之急。這比人工智能對齊當前人類價值觀更正當。人工智能應該對齊新的人類價值觀。

關于辛頓的表態，許多人認為當代人工智能“教父”老爺子立場不堅定，變來又變去。我倒是覺得，老爺子也是工科男，他對超級智能的看法方式和我類似，根據人工智能發展的實際情況而定。辛頓從Google離職后開始表達人工智能安全的看法，我認為，他有古典的“騎士”風范。相比于其他沾染商業和資本的人工智能專家，辛頓的看法，盡管變來又變去，但更能準確體現人工智能當下極境能力（性能）與發展模式（倫理）之間的張力程度。沾染商業和資本的人工智能專家，他們經常立牌坊表達倫理態度，做的事情卻處于“技術+資本”模式中難以看清。真當令人糾結。

辛頓“人工智能是母親，人類是嬰兒”的觀點，我支持。辛頓更重“母性”，我偏重“分工”，人工智能可以看家護院，另有能力也可以擔當“育兒”角色。例如，“通俗地講，即便ChatGPT及其他生成式人工智能是機器不是人，我們也可以‘家庭成員’方式對待人工智能，例如，狗可能帶有致命的狂犬病毒，但它也能看家護院、近人情通人性。阿爾法狗可能引發失業和更多混亂，但它也能進化到ChatGPT那樣看家護院、近人情通人性。”（更多參見《ChatGPT不講武德，教育界學術界率先跳出喊“封殺”！》[6]）

注釋：

https://news.sciencenet.cn/sbhtmlnews/2018/12/342121.shtm

潘恩榮、孫宗嶺：《人工智能“以人為本”倫理準則反思——一種馬克思主義哲學的分析思路》，《云南社會科學》，

2022

(6)

30-39.

https://news.sciencenet.cn/htmlnews/2023/4/498026.shtm

[5]

潘恩榮、江家祥：《超級智能增強與求真社會建構》，《理論探索》，

2025

4

13-19.

[6]

https://news.sciencenet.cn/htmlnews/2023/2/493639.shtm