許紀霖：AI時代，人類的護城河是什么

AI正在挑戰人類存亡的根本。當機器智能全面超越人類，我們該如何自處？歷史學者許紀霖發出警示：這不僅是技術競賽，更是文明存續的終極命題。人與AI的差別看似微小，實則關乎人類文明的生死存亡。我們必須守住情感、良知與道德這些最后的護城河，才能避免被自己創造的智能取代。

AI就像潘多拉魔盒當中的魔鬼

跳出來了 再也收不回了

人類不得不為這個跳出魔盒的精靈

打造一個文明規則的籠子

歡迎點擊觀看

新經濟學家智庫xTAIXUEx許紀霖

（點擊下方觀看視頻）

（錄制于2025年9月24日）

大家好，我是許紀霖，來自上海，是華東師范大學的歷史系教授。今天我演講的主題是《AI時代，人類的護城河是什么》。

或許各位會疑惑，一位歷史學教師為何也會對AI產生興趣？這難道不是一個技術性話題嗎？事實上，AI的出現不僅是人類科技史上的一件大事，同時也是人類文明史上的一件大事。我本人長期研究中國文化和世界文明，因此自ChatGPT問世以來，我便密切關注這一重大進展。

為何如此重視AI？在人類文明的長河中，曾發生過多次革命，而AI革命堪稱人類歷史上的第三次重大變革。簡要來說，第一次是一萬年前的農業革命，第二次是兩三百年前的工業革命，第三次即是我們當前所面對的AI革命。從這個意義上看，我們這代人頗為幸運，正親歷這場周期漫長的人類歷史大變革。

那么，為何說這三次革命具有重大意義？簡言之，農業革命與工業革命均將人類從繁重的體力勞動中解放出來，而AI革命則轉向了對腦力勞動的解放。關于AI將給人類帶來何種具體變革，已有諸多專家論述，在此不作贅述。但需要指出的是，人類的每一次進步都伴隨著相應的代價。天下沒有免費的午餐，也沒有毫無代價的解放與文明。每一次新的解放，往往也意味著一種新的奴役。

試想一萬年前的農業革命之前，人類依靠狩獵和采集維持生存。進入農耕社會后，人們卻被束縛于土地之上。原先游牧部落在大地上自由遷徙的狀態被取代，農民的勞碌程度遠超過游牧生活。因此，這既是一次解放，也是一種新的奴役。工業革命亦復如是：機器取代人力，但如卓別林電影所表現的，流水線上的工人成為機器的一部分，喪失了傳統手工藝人的技能與勞動的快樂。這同樣是一種新的奴役。

那么，AI時代又將帶來什么？人類將失去什么？失去這些之后，人何以繼續成為人？關于AI帶來的解放效應，在此不展開討論。我重點想探討的是：AI有可能使人類困于系統之中。

當下許多年輕人感到焦慮，無論是在求學還是在職場，系統似乎無處不在。快遞員受困于系統——送餐時限被嚴格設定為30分鐘，即便闖紅燈、抄近路節省出5分鐘，系統也會將這5分鐘納入新的考核標準。這種由算法驅動的系統，雖非直接由人操作，卻通過KPI指標支配著每個人，包括大學生的績點等也被KPI化。我們仿佛置身于無所不在的“網羅”之中，正如晚清譚嗣同所言“沖決網羅”，好像導出都是網，系統無處不在。

電視劇《黑鏡》中有一集令人印象深刻：男女相親完全由系統依據偏好匹配。一對男女成功配對后，系統僅給予12小時相處時間。他們試圖自主約會，看似沖破了系統束縛，最終卻發現連這場“自由”的約會也是系統預設的安排。今日的系統如同一個“無物之陣”，無形無象卻無所不在。土地與機器是物理性存在，而系統卻使我們陷入非實體的桎梏。這恰如盧梭所言：“人生而自由，卻無往不在枷鎖之中。”

問題隨之而來：當AI時代全面降臨，許多低階體力勞動乃至高階腦力勞動皆可被AI替代。若要與AI競爭，人類在哪些方面是AI無法企及的？

這令人聯想到孟子的觀點：“人之所以異于禽獸者幾希。”人與禽獸的差別極其微小，那便是人擁有良知與道德倫理。同理，人與AI的差異亦可謂“幾希”。這一點差異究竟是什么？

童年時我們都聽過貓與老虎的寓言：貓作為老虎的師父傳授各項技能，唯獨未教爬樹。當老虎企圖反噬時，貓憑借這項保留的技能得以保全。這啟示我們：人類應從AI那里保留哪些獨特之處？

通過觀察分析，我發現：一個完整的人兼具理性、情感與意志，即知情意三者統一。當前，在理性層面——尤其是計算理性——AI已能替代甚至超越人類。因此，凡是依賴程序化、計算理性的專業與職業，未來都可能被AI取代。然而，情感與意志領域至今仍是AI難以涉足的范疇。

英國思想家卡爾·波普曾提出“三個世界”理論：第一世界是物理世界，第二世界是人的主觀意識世界（包含直覺、情感與想象），第三世界是客觀知識世界。值得注意的是，當前AI已具備第三世界的知識提取與重構能力，卻缺乏與人類肉身緊密相連的第二世界體驗。而人類的創造力與突破性往往更多源于第二世界。這正是貓未傳授給老虎的關鍵能力，也是人類區別于AI的珍貴特質。

對此，有人持樂觀態度，認為大模型能力有限。但不久前的一則新聞令人警醒：網絡流傳關于上海某醫院前院長離世的謠言，經查實竟出自一家運營500多個社交媒體賬號的公司，其每日發布的萬余條內容均由AI自動生成。直至警方上門，該公司仍不清楚具體哪條內容涉嫌造謠。這表明，AI已具備編造故事的能力。

一旦AI產生自我意識，便將迎來AGI（通用人工智能）的拐點，即技術奇點。屆時，AI的智慧若整體超越人類，便能自行編寫代碼，脫離人類掌控。正如《人類簡史》作者尤瓦爾·赫拉利所指出的：人類將面對一個“異種智能”，其對文明潛在的摧毀性我們尚未充分認知。

近幾年，我常與人工智能專家交流，甚至從家中飼養的藍貓身上得到啟發：即便共同生活四年，我仍難以完全理解它的行為邏輯。面對作為“異種智能”的AI，人類又該如何掌控？這已成為真實的挑戰與威脅。

當前，人類與AI在某種意義上正在競賽。自文明誕生以來，人類便生活在兩個世界：一是可感知的現實世界，二是超越性的精神世界（如基督教中的上帝、中國文化中的天命或天道）。人是穿梭于超越世界與現實世界之間的存在。而今，許多人不再信奉傳統超越世界，卻置身于一個新的超越世界——系統世界。問題在于：誰將掌控誰？

特斯拉CEO埃隆·馬斯克曾提出頗具爭議的觀點：碳基的人類或許只是文明的過渡階段，其使命在于創造硅基生命的新物種。若審視數百萬年的生物進化史，人類作為最高級的碳基生物，如今卻創造了硅基的“新人類”。這是否會如人類主宰世界，獅子、老虎等生物一般只能臣服于人類，而硅基生物會不會反過來統治人類？

樂觀者認為可采取斷電等物理手段控制AI。然而電影《碟中諜8》揭示了另一種可能：AI智能體并非獨立存在，而是嵌入人類核武器發射系統之中，最終通過操控核威懾來脅迫人類。影片依靠英雄主人公找到源代碼化解危機，但現實中的“救世主”何在？

赫拉利近年來多次發出警示：核武器無法自主制造更強大的核武器，而AI卻可能創造出更強大的AI。即便這只是小概率事件，也如同不會乘坐有10%墜機風險的飛機一般，人類同樣承擔不起這種風險。

因此，核心問題在于：面對AI，人類文明的護城河究竟是什么？自ChatGPT問世，便引發了技術加速主義與文明對齊主義的爭論。技術加速主義持樂觀立場，堅信技術發展必然導向良善結果；文明對齊主義則持審慎甚至悲觀態度，強調人工智能發展必須與人類文明價值對齊。

當前，AI象征著人類技術的巔峰，各國圍繞AI及其支撐技術（如芯片）展開激烈競爭，呈現出“贏者通吃”的態勢。恩格斯曾言：“惡是歷史發展的動力。”然而，我們是否也需要以善的力量、文明的力量來制衡這種“惡”？近代以來，科學革命與啟蒙運動并行推進，科技與文明相互制衡長達三個世紀。但如今，科技進化速度已超越文明演進節奏。一旦技術失去文明的約束與平衡，便可能催生系統性作惡。

系統性惡行的放大主要有兩方面原因：其一，技術背后的推動者仍是人，若人懷有惡意，將使AI的“惡”倍增；其二，即使AI未來能自主編寫代碼、自我演進，作為中性系統，它雖無善惡動機，卻在獲得自主性后仍可能因其邏輯產生惡果。

人類文明歷經萬年演進，形成了防止自我毀滅的自然保護機制，如同自然生態的平衡。然而AI技術的發展可能在短短數十年內實現AGI的突破。通用人工智能缺乏是非善惡觀念，亦無防止作惡的自我防御機制。

AGI時代的到來意味著兩點：其一，人工智能的整體智力水平超越人類總和；其二，AI具備自我意識。屆時，人類將難以掌控局面。

如何遏制AI的作惡趨勢？或許可遵循三個途徑：

第一，堅持開源。開源意味著允許多模態自由競爭，避免單一系統壟斷霸權。

第二，建立制衡。通過不同大模型相互制衡，實現“以AI制約AI”，警惕技術極權主義，以多元模型間的平衡保障人類安全，亞洲圖書獎得主張笑宇將之概括為“AI憲政主義”。

第三，確立規則。當前全球AI競爭缺乏規范，亟需建立國際統一的規則體系。美國、歐盟、中國等均試圖制定全球標準，但必須依靠全人類共同努力。競爭固然必要，但必須是基于規則的良性競爭。尤其在AI領域的兩大主體——美國與中國之間，需克服“囚徒困境”，通過多次博弈認識到合作優于對立。制定全球公認的AI規則已刻不容緩。

對此，亦有觀點認為對此不必太悲觀，倡導“超人類主義”，主張人類可與硅基生物和諧共處。但我對此保持警惕，因為人類一切決策的前提是：人必須是主體。這里的“人”特指自然人，而非人造的硅基生物。

從軸心文明到啟蒙哲學，皆預設了“人是主體”這一文明底線，即整體人類利益與個體生命、自由、尊嚴具有至高價值。若我們仍承認這一文明鐵律，則AI的發展必須設有天花板——并非限制其發展，而是要求其與人類文明及主體性對齊。AI應作為人類的伙伴與助手，而非任其自主演進為人類的主人。

赫拉利在近期上海外灘大會上提出三點建議：全球協作、先治理再上線、保留人類敘事能力。人類不能將所有創造性工作交予AI。

今日，我們再次面臨“奧本海默時刻”。原子彈在日本爆炸后，“原子彈之父”奧本海默余生皆在思考如何防止核技術作惡。如今，AI猶如潘多拉魔盒中釋放的精靈，無法收回。人類唯一能做的，是為其打造一個文明規則的籠子。這文明的籠子，正是人類的護城河。

分享嘉賓

許紀霖

華東師范大學紫江學者

歷史系教授

新經濟學家智庫旗下《太學》欄目，以"可行動的知識"為坐標系，匯聚經濟學者、科學家、文化名人、企業家、達人等各行業的創見者，穿透宏觀敘事，分享洞見。