AI文明，人類價值的黃昏還是新黎明？

我們正站在一個文明紀元的裂點之上。

當AI時代如浪潮般席卷而來，我們不僅會看到人為自己造的神，還會看到AI為人造的神——算法通過大數據分析人的偏好、興趣、習慣和品位，用推薦算法向人推送機器為人造的神。幸運一點，我們會被各自隔絕在這些繭房里，動彈不得；不幸一點，我們會被無數神明挑唆得彼此搏殺，血流成河。

AI文明，究竟是人類價值的黃昏，還是嶄新的黎明？我們能否設想一種人機共生的“新文明范式”？面對AI的挑戰，我們應該培育怎樣的“人文精神”來回應這個時代？8月31日，我們邀請到華東師范大學歷史系教授許紀霖，《AI文明史·前史》作者張笑宇，《澎湃新聞·上海書評》執行主編鄭詩亮，共同帶來一場深邃的思想遠征。

以下是對談內容精編。學人Scholar經授權發布。

01

AI革命將直接挑戰人類文明本身

鄭詩亮：

站在一個人文學者的角度，您覺得這次AI帶來的技術變革，跟人類歷史上歷次技術革命帶來的對于價值觀念的沖擊，有什么相同或者不同的地方？

許紀霖：

人類歷史上發生過多次和科技有關的革命，AI這個革命，我們有時候會容易和二十年前的互聯網革命相比。但是在我看來，它比互聯網革命要高一到兩個層次。它可能是人類歷史上幾百年甚至上千年才會出現的大周期、特大周期、超大周期的革命。也就是說，這是在農業革命和工業革命之后，人類歷史上第三次大革命。

農業革命和工業革命把人從體力勞動當中解放出來，今天這場人工智能革命將把我們從腦力勞動當中解放出來，至少是部分解放出來。我們三生有幸，竟然碰到了這樣一場革命，所以今天對它的理解、思考要對得起這場革命。

《AI文明史·前史》這本書，在我看來就是很對得起這場革命的一本書，因為它是從人類文明的角度思考。在這個意義上思考AI，我們才能說是認真對待它。我們思考的不是個人，而是整個人類在自我發現、自我創造的革命，最后會不會成為這場革命的殉葬品。這是一個真正嚴肅的問題，背后就是人類文明未來究竟何去何從的問題。因為這是人類歷史上第一次發生的一個自己發明的工具，最后挑戰人類文明生存本身，不僅是生存的問題，還有一個存在的問題。生存只是一個生理的意義上，存在是文化意義上。所以，我是在這個意義上理解這場AI革命，而這個革命將直接挑戰人類文明本身。這個本身可能是挑戰，也可能是讓文明鳳凰涅槃、浴火重生，這兩種可能性都有。但是問題是，這兩種可能性都意味著我們有一種自覺，這種自覺是理性的自覺，也就是我們怎么選擇。

張笑宇：

剛才許老師說了第一次農業革命、第二次工業革命、第三次AI革命，是人類文明史上的真正三件大事。但是如果你真的做科技史你會意識到，我們從過去對前兩次革命到今天對第三次革命的敘事都有嚴重的問題，背后都是技術進步主義。技術進步主義輕飄飄的一句話就是每個人身上一座大山，這就是敘事結構的霸權。我們沒有意識到技術進步其實跟人類的福祉在脫鉤，沒有意識到實際上這個過程會造成一個巨大的轉向。

人類有可能面臨第二次哥白尼轉向，人類的意義感、價值感和尊嚴的哥白尼轉向。作為人，過去幾千年的文明史、幾萬年的物種史，我們對自己的理解就是這個地球上最聰明的物種，我們對人的中心、對人的尊嚴、對人的一切的力量相信都來自于我們的智力表現。但是這個事情從今天開始恐怕就結束了，如果我們認為每個人應該按照你有多聰明、有多智慧來劃分，那在AI面前，你誠實地去看，你有什么勝過它？更進一步，我在書里面提了一個概念叫逆軸心時代，可以叫黑暗軸心時代。我們知道一大批偉大的思想家，伯拉圖、亞里士多德、孔子、孟子這些，他就在思考人應該怎么活著、人應該選擇怎樣的政體、應該選擇怎樣的制度，面對生死的時候做怎樣的選擇。他們的回答在過去的幾千年里面一直給我們力量，我們每當遇到重大疑難的時候總會回到那個時代尋找力量。

但是今天，AI有沒有可能成為這種新的力量來源？想象一下，我們把自己的命運、制度、思想交給算法決定，我們就純把我們看作是一個數學公式決定的參數，我們的物種就是這個樣子的，搞不好你可以打開更多的想象力，然后給歷史更多的可能性。你可能要面對哥白尼革命這個轉向的巨大感和沉重感，因為如果你把這樣巨大的歷史發展的前景、命運和脈絡都交給算法甚至都交給AI，然后把你自己看作就是一個由數學參數驅動的物種，你反而搞不好能過得更好，反而搞不好還能給自己的可能性打開更多的想象力，這到底是你尊嚴的喪失還是有益于你的進步？

許紀霖：

你剛才講的非常有意思，農業革命、工業革命，事實上任何一次新的解放都意味著一種新的奴役。我們都知道，天下沒有免費的午餐，難道有免費的解放嗎？有免費的文明嗎？沒有，都要付代價的。所以三次大的解放、大的革命又帶來新的奴役，這個奴役的方式，第一個是土地、第二個是機器，現在是系統。土地也好、機器也好，還是一個物理性的存在。但是今天我們所面臨的系統是一個無物之證，它好像看不見摸不著，但是它又無所不在，所以這是今天我們面臨的一個困境。

而我想說的是這個困境剛剛開始。一切取決于系統，系統背后又是那套算法，如果我們意識到這個算法是屬于非人的，人本質上應該是自由的，笑宇剛才說市場經濟好就好在這是兩個自由意志之間自愿的交易，但是今天這套我們用算法推薦的系統決定，已經超越了我們的意志，甚至強加擺布了我們的意志，人已經變得不自由了。

那問題來了，既然這樣，人類為什么不做另外一個選擇呢？能夠保留我們的自由呢？但是困境恰恰在于很可悲的，今天整個人類分裂為不同的民主國家，而國家之間的較量，說句大白話，即使沒有意識形態的因素，某種意義上也是你死我活的，是一場永恒的生存斗爭。今天這個世界比軍備競賽更厲害的是一場AI的競賽，最后推動了一個更強的技術進步主義。

我就想起盧梭說的那句話，人是自由的，卻無所不在枷鎖之中，這個枷鎖今天就是被算法所決定的系統世界。

02

AI審判讓我們復歸中世紀

鄭詩亮：

當我們談到AI對文明影響的時候，有的時候我們對文明有兩種理解，一種文明是開放的、包容的、多元的、欣欣向榮的，但還有一種可能就是文明走向封閉、走向壟斷，走向一種霸權一樣的存在。我們應該怎么樣讓AI更多地推動人類文明的發展？

張笑宇：

我們為什么用文明史這個關鍵詞去理解AI，我認為系統性今天是有可能復活某種超越性的。

算法進化的速度是以秒為單位的，而人類治理的速度是以年為單位的。你可以想象到時候幾萬個DeepSeek互相聊天，那個思維鏈的生成幾億行幾十億行，人是看不過來的。所以你只能做一件事情，就是讓AI check AI，讓AI治理AI、讓AI來制衡AI，這就是我們今天說對齊的一種主流思路，叫AI憲政主義。你把真正決定人類社會重大事務、重大價值的執行交給AI，你看起來做的是選擇，但是你選擇的東西非常非常少。人類可能會逐漸接受這樣一種觀念，AI重新成了某種超越性的體系，因為這個過程你會下意識想象，把它交給AI說不定更好。第一，它智力效率比99%的人高，第二，它透明、真誠、很公平地給你你想要的東西。從這個角度重新思考推薦算法的時候，你會發現如果我們給AI也上了這套權力制衡的程序正義，最后你有可能用技術手段讓它變成一面徹徹底底的鏡子，在治理中給予每一個人該得的東西。

從這個角度，我們再重新反思今天的大國競爭和AI競爭，本來我們應該討論哥白尼轉型的重要性，但是大國們在干這些事情，大國們在用技術進步主義為這個事情做辯護，只要我全力投入AI，我的問題就可以解決了，美國的失業問題、社會撕裂問題、制造業回流問題等等問題就可以解決。但是，不要忘記一個事情，只要把AI引入到人類系統中，你就必然問它涉及到某種價值觀的問題。在AI的審判席上，我們的語料和言行就是證據，而它也會根據我們的語料和言行給我們應得的這些東西。

所以，如果用這樣一個角度去思考未來AI文明，其實我寫這個書寫到最后，我甚至覺得我們在面臨一種復歸，向著古典時代和中世紀的復歸。尼采說上帝已經死了，但是今天對我們進行公正審判的一個系統好像又在復活。我們在這個系統面前唯一的機會是用我們的語料和言行來證明我們依然是一個有價值觀的物種。如果證明不了這一點，你注定是被困在算法中，你也可以理解成人類這個物種的基因就是有一種自毀傾向，以至于最后你戴上算法的枷鎖，對你而言是一個比較公正的下場。

許紀霖：

我聽到了一個末日審判的預言，今天是系統重新降臨，AGI重新降臨。降臨的那一刻，按照笑宇的說法，一切都會受到損壞。今天AI所提供的系統也是一個超越世界，它不是一個現實世界，就像神一樣，是一個超越世界。過去我們總是覺得神無論是上帝還是天命，主宰了我們的命運。到了近代，我們說要解放、要啟蒙，但是最后這股人文的解放力量追趕不了技術的力量。技術也是一種進步，但是最后它創造了一個對人的新的主宰物，這就是我們說的這樣一個即將要出現的AGI。

這個前景聽上去是毛骨悚然，解決方案是什么呢？也就是說最重要的要以惡制惡。我們想象一下，如果這個世界上只能有一個ChatGPT，然后ChatGPT主宰了我們整個世界的系統會怎么樣，也許是善，也許會造成一種技術集權主義的惡。因為人性是不靠譜的，人不可能永遠是天使，因為不能是天使，所以即使是好人掌握權力，我們依然要有制約，因為有可能權力會腐敗，會使人變壞。系統也是這樣，系統的進化，當它無所不在的時候，現在看來它是去意識形態化、去道德的，但是它畢竟是人創造的，我先不說它是否會自我墮落，既然是人創造的，人也是把系統按照自己的面目來塑造了這樣一個AI。

我們都知道人性是既有神性的一面也有可墮落的一面，所以我們不能期待未來的AI這樣一個系統是只能善沒有惡的。所以，未來當AGI實現以后，如果真的某一天這套系統無所不在的時候，這種新物種將構成對今天自然人極大的挑戰，也是一場生存斗爭。

03

人類如何約束“超級智能”

鄭詩亮：

我們不能光聊生了什么病，還得開藥方。面對如此具有巨大感和沉重感的變革，有沒有一些可能的解法，來幫助我們避免不管是我們想象中或者現實中正在發生的悲劇？

張笑宇：

你可以想象一下，超級智能誕生的第一秒鐘，我們就結束了，它自己就可以自給自足地存在，而且它可以自己做出更多的agent，讓agent來制衡agent。將來的超級智能可能就跟人看狗一樣，為什么他們不會毀滅我們、奴役我們或者不給我們戴上項圈，這是我們要討論的一個問題。

其實我在《AI文明史·前史》的最后一部分，提出了一個概念叫文明契約。雖然我們大概率阻止不了它把我們當狗，但是假設我們還有什么東西可以期待，讓我們之間的關系能夠好一點，我大概列了三個理由。

第一個理由，AI不是一個外星文明。假設將來智能體跟智能體之間有一些共存代碼，那么人在社會演化中已經發現并且敘事了、描繪了這些共存代碼，比如愛、平等、自由、正義等等這些東西。AI對這些共存代碼的理解是從人的語料中學習的，它不是從三體的語料中學習的，它也是讀伯拉圖、讀亞里士多德、孔子、孟子等等的。如果他們學習了我們的語料，在這個基礎上發展出更好的智慧，但還是覺得人類是值得被當作狗對待的，這說明我們自己的語料中有一種自毀和自我奴役的傾向，我們的言行沒有克制住這種傾向。

第二點，AI看不上人的資源，就像人看不上狗窩一樣。因為AI是硅基文明，它既然是硅基組成的，它的壽命比我們長，它可以去往銀河系。所以它的資源支配的能力和可拓展的空間，假設它能夠發展成一個文明，它注定比我們強，不是非得要跟你爭地球這點地方。

第三點，我們都知道社會契約這個概念，按照這個理論，人和超級智能之間不存在這樣的平等性，因為我們不可能威脅到它們。假設我們做出來超級智能的名字叫做ASI 1.0，它可以用同樣的方法做出一個比它超出一個數量級的ASI 2.0，它必須要做這件事，如果不做的話，三體那邊出來一個超級智能就把它干掉了。但是如果它做的話，它就進入的一個跟我們平等的道德困境，就是ASI2.0為什么不毀滅和奴役它？當它處在這個平等處境的時候，它會反過來反思這個問題，其實這種道德處境、這種生存處境跟智力表現無關，再聰明的文明在進化過程中也可能面臨同樣的問題。如果它對人類好一點，這個事情可能會成為ASI2.0對它好一點的語料，因為它用言行證明自己稍微那么可信一點，所以它的生存概率會更大一點。

這是我在這本書最后講文明契約的這一點給出的一個答案，我作為一個人類，讓我用人類之間共存代碼的理解試圖回答這個問題，我不知道這個問題能不能讓將來的超級智能滿意，但是我盡力了。

鄭詩亮：

笑宇老師這本書讀下來我覺得最受啟發的、讓我最受觸動的也是這一段，就是人類的價值觀在語料中的體現，可能會影響未來AI文明對待人類文明的態度。您覺得今天我們作為知識分子、作為學者，是不是有可能通過這種人文精神的倡導也好、灌注在人類的文明當中也好，有可能會影響AI文明對待我們的態度？甚至說未來可以發展出一種新的所謂人機共存的文明范式。

許紀霖：

過去關于AI有可能對人類構成威脅這個問題，已經談了兩三年了，包括我之前也想，既然它對我們威脅這么大，我們拉閘，閘拉掉，沒電了，它就完了。但實際上我們在各個領域都開始全面運用AI，這個系統和我們一刻也不能分離，它自己可以生產代碼來控制我們，這是一個最大威脅。我們越是把各種功能交給它，越是創造了一種操縱我們的這樣一種空間和機會、可能性。那么問題來了，怎么辦？不管怎么說，我們還是回到軸心文明，軸心文明不管用什么方式，它還是以人為本位的，從來沒有見到過，最后這套以人為本位的文明有可能被自己的創造物所顛覆，這是第三次革命這樣一個大革命所面臨的前兩次都沒碰到過的困境。

所以，今天我再說由于技術自身的內驅力，它自身有一種動力，再加上今天整個世界都要獲取控制大權的外驅力，這雙重趨力影響之下，技術進步主義似乎是無可阻擋。人文學者怎么面對這個事情，我今天對于這個世界很多問題上，包括地緣沖突、包括對待人工智能，我比較接近歐盟的立場。歐盟還是堅守自己的人文的人本位的立場，還在強調對人工智能一種審慎的態度、監管的態度。從人類自身的安全立場來說，似乎這根弦還要繃緊。

今天這場對話有點悲壯感，但是說實話，悲觀的人永遠是正確的。