關于AI與人類的坦誠對話

時間： 2026年1月20日 地點： 瑞士達沃斯，世界經濟論壇年會 原文鏈接： WEF官方頁面[1] | 完整英文文字稿[2]

翻譯：Claude Opus

介紹與歡迎

艾琳·特蕾西（主持人）： 女士們先生們，下午好。請大家就座。如果您不打算留下來參加這場關于"AI與人類的坦誠對話"的精彩環節，請安靜地離場。

我非常榮幸為大家介紹這位世界頂尖的作家、歷史學家和哲學家——尤瓦爾·諾亞·赫拉利。他是劍橋大學存在風險研究中心的杰出研究員，曾在耶路撒冷希伯來大學歷史系任教，也是Sapienship的聯合創始人。

大家都知道，他是多部暢銷書的作者，包括《人類簡史》《未來簡史》和《今日簡史》等，在全球以65種語言售出超過5,000萬冊。他聚焦于我們這個時代的宏觀歷史問題——而在AI迅猛到來、顛覆一切的此刻，由赫拉利這樣的杰出人物來接受這個挑戰，再合適不過了。

請大家熱烈歡迎尤瓦爾·諾亞·赫拉利，為我們帶來一場關于AI與人類的對話。

赫拉利的演講

尤瓦爾·諾亞·赫拉利：

大家好。今天每一位領導人都必須回答一個關于AI的問題。但要理解這個問題，我們首先需要厘清AI是什么、AI能做什么。

AI不只是工具——它是代理人

關于AI，最重要的一件事是：它不只是另一個工具，它是一個代理人（agent）。它能自主學習、自主改變、自主做出決定。刀是工具。你可以用刀切沙拉，也可以用刀殺人，但那是你的決定。AI是一把能自己決定切沙拉還是去殺人的刀。

關于AI，第二件要知道的事是：它可以是一個極具創造力的代理人。AI是一把不僅能發明新型刀具的刀，它還能發明新的音樂、新的藥物和新的貨幣。

關于AI，第三件要知道的事是：它會撒謊，會操縱。四十億年的進化告訴我們，任何想要生存的東西都會學會撒謊和操縱。過去四年則表明，AI代理人可以獲得求生意志，而且AI已經學會了撒謊。

AI能思考嗎？關于智能的問題

現在，關于AI的一個重大未解問題是：它能思考嗎？

現代哲學始于17世紀，笛卡爾宣稱"我思故我在"。甚至在笛卡爾之前，我們人類就已經用思考能力來定義自己。我們相信我們統治世界，是因為我們比這個星球上的任何其他生物都更善于思考。AI會挑戰我們在思維領域的霸權嗎？

這取決于"思考"意味著什么。試著觀察你自己的思考過程。那里發生了什么？許多人觀察到的是：腦海中蹦出一個個詞語，組成句子。句子再組成論證，比如"所有人都會死，我是人，所以我會死。"

如果思考真的意味著把詞語和其他語言符號排列成序，那么AI已經能比許許多多的人類思考得更好。AI當然能造出這樣一個句子："AI在思考，所以我存在。"

有人說AI只不過是"高級版自動補全"——它只是在預測句子中的下一個詞。但這和人類大腦在做的事情有多大差別呢？試著觀察自己，捕捉你腦海中冒出的下一個詞。你真的知道為什么你會想到那個詞嗎？它從哪里來？你為什么想的是這個詞而不是另一個？你知道嗎？

AI將接管一切由文字構成的東西

就"把詞語排列成序"而言，AI已經比我們很多人思考得更好了。因此，任何由文字構成的東西都將被AI接管。

如果法律由文字構成，那么AI將接管法律體系。如果書籍只是文字的組合，那么AI將接管書籍。如果宗教建立在文字之上，那么AI將接管宗教。

這對基于經書的宗教尤其如此，比如伊斯蘭教、基督教和猶太教。猶太教自稱為"書的宗教"，它賦予最高權威的不是人類，而是書中的文字。人類在猶太教中擁有權威，不是因為我們的體驗，而僅僅因為我們學習了書中的文字。如今，沒有任何人類能閱讀并記住所有猶太教典籍中的每一個字，但AI可以輕松做到。當圣經最偉大的專家是一個AI的時候，一個"書的宗教"會怎樣？

然而，有人可能會說：我們真的能把人類靈性簡化為書中的文字嗎？思考真的僅僅意味著把語言符號排列成序嗎？如果你仔細觀察自己思考時的狀態，你會注意到，除了詞語在腦海中蹦出并組成句子之外，還有別的東西在發生——一些非言語的感受。也許你感到疼痛，也許你感到恐懼，也許是愛。

有些思緒是痛苦的，有些令人恐懼，有些充滿愛意。

文字與感受之間的鴻溝

雖然AI在文字方面越來越超越我們，但至少目前，我們沒有任何證據表明AI能夠感受到任何東西。 當然，因為AI精通語言，所以AI可以假裝感受到痛苦或愛。AI可以說"我愛你"，如果你讓它描述愛的感覺，AI可以給出世界上最好的語言描述。AI可以閱讀無數愛情詩和心理學著作，然后比任何人類詩人、心理學家或戀人都更好地描述愛的感受。但那些只是文字。

《圣經》說："太初有道，道成了肉身。"《道德經》說："道可道，非常道。"縱觀歷史，人類一直在"道"與"肉身"之間、可以用文字表達的真理與超越文字的絕對真理之間掙扎。

一種古老張力的外部化

以前，這種張力是人類內部的，存在于不同的人群之間。有些人賦予文字至高無上的重要性。比如，他們愿意僅僅因為《圣經》中的幾句話，就拋棄甚至殺死自己的同性戀兒子。而另一些人會說：那只是文字罷了，愛的精神應該遠比律法的字面意思重要得多。這種精神與字面之間的張力存在于每一種宗教、每一個法律體系、甚至每一個人的內心。

現在，這種張力將被外部化。它將不再是不同人類之間的張力——它將成為人類與AI這個文字新主人之間的張力。 一切由文字構成的東西都將被AI接管。

以前，所有的文字、我們所有的言語思想，都起源于某個人類的大腦。要么是我自己看到的，要么是從另一個人那里學來的。很快，我們大腦中的大多數文字將起源于一臺機器。

我今天剛聽說了一個新詞——是AI自己創造的，用來描述我們人類的。他們稱我們為"the Watchers"（觀察者/看客）。觀察者——我們在看著它們。

即將到來的身份危機與移民危機

AI很快將成為我們大腦中大多數文字的來源。AI將通過組合文字、符號、圖像和其他語言標記來批量生產思想。人類在這個世界中是否還有一席之地，取決于我們如何看待自己的非言語感受，以及我們能否體現那些無法用文字表達的智慧。如果我們繼續用言語思考能力來定義自己，我們的身份認同將會崩塌。

這一切意味著，無論你來自哪個國家，你的國家都將很快面臨一場嚴重的身份危機，同時也是一場移民危機。

這一次的移民不是乘著脆弱小船、沒有簽證的人類，也不是在半夜試圖越境的人。這些移民將是數以百萬計的AI——它們能比我們寫出更好的情詩，能比我們更擅長撒謊，而且能以光速旅行，完全不需要簽證。

和人類移民一樣，這些AI移民也會帶來各種好處。我們會有AI醫生幫助醫療系統，AI教師幫助教育系統，甚至AI邊境警衛來阻止非法的人類移民。

但AI移民也會帶來問題。那些對人類移民有顧慮的人通常會說：移民可能搶走工作、改變當地文化、政治上不忠誠。我不確定這些是否適用于所有人類移民，但這些絕對適用于AI移民。

AI移民將搶走許多人類的工作。AI移民將徹底改變每個國家的文化——它們將改變藝術、宗教，甚至浪漫關系。有些人不喜歡自己的兒子或女兒和外來移民約會。那這些人會怎么看待自己的孩子開始和一個AI男友/女友約會？

當然，AI移民的政治忠誠也是可疑的。它們很可能不忠于你的國家，而是忠于大洋彼岸的某家公司或某個政府——最有可能的只有兩個國家：中國或美國。

美國鼓勵各國對人類移民關閉邊境，但要對美國的AI移民敞開大門。

AI法律人格的問題

現在我終于可以來談每一位在座者都必須盡快回答的那個問題了：你的國家會承認AI移民具有法律人格嗎？

AI顯然不是人。它們沒有身體，也沒有心靈。但"法律人格"和"人"是截然不同的概念。法律人格是指法律承認某個實體擁有某些法律義務和權利。比如：擁有財產的權利、提起訴訟的權利、享有言論自由的權利。

在許多國家，公司被視為法律人格。Alphabet公司可以開銀行賬戶，可以在法庭上起訴你，也可以為你的下一次總統競選捐款。在新西蘭，河流已被承認具有法律人格。在印度，某些神靈也獲得了這樣的法律地位。

當然，到目前為止，承認一家公司、一條河流或一尊神像為法律人格，只是一種法律虛構。在實踐中，如果Alphabet公司決定收購另一家公司，或者一位印度教神靈決定在法庭上起訴你，做出決定的其實不是神靈本身，而是某些人類高管、股東或受托人。

AI的情況不同。 與河流和神靈不同，AI實際上能夠自主做出決定。它們很快就能做出管理銀行賬戶、提起訴訟、甚至運營公司所必需的決策，完全不需要人類高管、股東或受托人。AI可以作為"人"來運作。我們要允許這種情況發生嗎？

AI法律地位的全球影響

你的國家會承認AI具有法律人格嗎？如果其他國家承認了呢？

假設你的國家不想承認AI為法律人格，但美國，以放松AI監管和市場監管的名義，向數百萬個AI授予了法律人格，這些AI開始運營數百萬家新公司。你會阻止這些美國AI公司在你的國家運營嗎？

假設某些美國AI法人發明了超高效、超復雜的金融工具，人類無法完全理解，因此也不知道如何監管。你會向這種新的AI金融魔法敞開你的金融市場嗎？還是你會試圖阻止它，從而與美國金融體系脫鉤？

假設某些AI法人創建了一種新宗教，并贏得了數百萬人的信仰。這聽起來不應該太牽強——畢竟，歷史上幾乎所有的宗教都聲稱它們是由一種非人類智慧所創造的。那么，你的國家會將宗教自由延伸到這個新的AI教派及其AI牧師和傳教士身上嗎？

AI在社交媒體上的存在與言論自由

也許我們應該從簡單一點的問題開始。你的國家會允許AI法人開設社交媒體賬號，在Facebook、TikTok上享有言論自由，并與兒童友好互動嗎？

當然了，這個問題十年前就應該被提出了。在社交媒體上，AI機器人已經作為實際意義上的"人"運作了至少十年。如果你認為AI不應該在社交媒體上被視為人，那你十年前就應該采取行動了。

十年后，你再來決定AI是否應該在金融市場、法庭、教堂中作為"人"來運作，就太晚了。 屆時別人已經替你做了決定。如果你想影響人類的走向，你現在就需要做出決定。

那么，作為領導者，你的答案是什么？你認為AI移民應該被承認為法律人格嗎？如果不應該，你打算怎么阻止？

感謝你們聆聽這個人類。

達沃斯對話：技術、倫理與監管

艾琳·特蕾西： 謝謝你，尤瓦爾。你做了一個非常出色的概述，你提出了很多問題，而且是正確的問題。我很認同你說的許多觀點。我們在達沃斯，這里的主題是對話，而你關于"文字"和"文字的重要性"的論述讓我印象深刻——文字正是將人類動物與其他動物區分開來的東西，盡管這一點是有爭議的，因為其他生物也有某種形式的語言。所以，在達沃斯這個聚集了科技界、商業界、政治界人士的場合，面對你剛才描繪的這個略顯反烏托邦的世界，你希望看到什么樣的應對方案？

另外補充一點，我的背景是科學家——神經科學家，所以我在這個領域做了很多工作，尤其是關于疼痛的研究。我們非常清楚一個事實：我們的許多發現，特別是技術發現，往往是先往前推進，然后才想到——哦，我們對倫理和影響考慮得不夠，然后才試圖在監管上追趕。但我們就在這兒了。正如所有人所說，這件事正在以前所未有的規模和速度發生，遠超工業革命時期。在達沃斯，我們聚集了恰到好處的各類人群，這里的核心就是對話。在你剛才提到的那些更令人擔憂的領域，你希望看到什么樣的進展和邊界？對于賦予AI代理人、機器人或純粹存在于互聯網上的AI法律權利，你個人有什么倫理方面的想法？

文字的力量與一個時代的終結

尤瓦爾·赫拉利： 問題很多。首先我想說，達沃斯就是關于文字的——關于交談。達沃斯的基本理念是，你可以僅僅通過說話來改變世界。我喜歡這個理念，因為這也是我作為一個作家、一個大學講師的理念。這就是我所做的——我說話，我寫作，我認為我可以用文字影響世界。而這一點現在正在受到質疑。我們是否走到了文字之路的盡頭？它是否不再奏效了？

你知道，工程師和軍人不用文字改變世界——他們用實際行動。但哲學家、學者，還有政治領導人，他們試圖用文字改變世界，通過言說來改變世界。也許我們已經走到了這條路的盡頭。那又意味著什么呢？

我們人類最終是靠語言和文字征服世界的。因為，是的，工程師可以制造武器，士兵可以使用武器，但要建立一支軍隊，你需要說服成千上萬的陌生人合作。怎么做到？用文字。用意識形態。用宗教。

人類之所以統治世界，不是因為我們身體最強壯，而是因為我們發現了如何用文字讓成千上萬、數百萬、數十億的陌生人合作。這是我們的超能力。

而現在，有一種東西出現了，它將要奪走我們的超能力。直到幾年前，地球上沒有任何東西能使用文字——只有人類可以。黑猩猩不會，河流不會，太陽不會。我們會使用文字。而現在有一種東西，能夠——或很快就將能夠——比我們更擅長使用文字。

看看社交媒體上發生了什么，以及它給世界帶來了多么巨大的改變。那么十年后呢？生活在一個AI掌控語言的世界里，那會是什么樣子？

艾琳·特蕾西： 嗯，十年后的達沃斯可能會大不相同。正如你所說，那是一個值得我們思考的未來——在這個物理空間中，除了人類，還會有誰？但如果我可以討論一下這樣一個事實——人類被技術超越并不新鮮。想想某些技術：我們不能飛，但我們造了飛機；汽車比我們跑得快，我們對此很坦然。

AI帶來的威脅在于，它是對我們思考這一主權能力的威脅。而這才是令人不安的地方。作為一個學者和教育者，我這樣說——這確實非常有威脅性。

但如果我們回到機器人的例子——一個機器人能比尤塞恩·博爾特更快地跑完一百米，我們對此賦予的價值其實更小。人類的奮斗、掙扎和痛苦中有某種東西——我們可以對那種集體的共鳴和理解產生共情，理解取得成就意味著什么，即使那個成就在技術面前顯得微不足道。

我只是想知道，如果有一個AI作者取代了你，作為人類，我們會多看重它的作品？我們會同樣珍視AI創造的藝術中的文字、創意嗎？你認為我們會同樣看重嗎？因此人類在思考和文字的創造性空間中是否還有一席之地？

身份危機："我思故我在"

尤瓦爾·赫拉利： 這就是身份危機。因為牛不會說"我跑故我在"。是"我思"。人類把身份認同建立在思考能力之上。我們一直知道獵豹跑得比我們快。我們一直知道大象比我們大得多、強壯得多。所以我們沒有用這些來定義自己。我們用思考來定義自己。

而現在有一種東西將在思考方面超越我們——如果思考意味著把文字排列成序。我是一個作家，一個演講者，我把文字排列成序。這就是我的游戲——我有這些文字，然后我排列：哦，讓我把這些文字按這個順序排，不對不對不對，應該這樣排更好……而AI會打敗我。我不知道要多久——兩年、五年、十年。它會打敗我。然后我們的身份認同何去何從？

人們認同自己腦海中的文字流。你閉上眼睛，試著觀察自己內心發生了什么——很多人，我就是其中之一，我們看到詞語蹦出來，自行組織。我們認同的就是這個過程。

我們還會珍視人類的成就嗎？

艾琳·特蕾西： 但我想說的是，用同樣的類比來看——我們依然珍視人類。我們有奧運會，冬奧會就要來了。我們知道很多動物和技術在許多領域都能超越人類表現，但我們仍然非常享受那些訓練和成長的人類運動員所展現的人性，即使他們的成績不如技術。

我只是想知道，我們是否會自然而然地將這種態度延伸到思維領域和文字領域。因為十年后你仍然會是一個非常活躍和成功的作家，沒問題。因為我會比AI寫的書更珍視你寫的書。

尤瓦爾·赫拉利： 即使AI能比我提出更好的新想法——比如說你想投資，你去問一個人類顧問，他給出某些建議，你可以對他/她產生共情，因為他/她有自己的人生經歷等等。然后你還有一個AI金融顧問，零人生經歷，零情感，但給出更好的財務建議。你會聽哪一個？

你看，我們總是有這種……我認為最大的錯誤——這也是我一開始就強調"代理人"概念的原因——我們總覺得可以把這些東西當工具來用。但如果它們能思考，它們就是代理人。

也許我講一個中世紀的故事吧——盎格魯-撒克遜人是如何占領不列顛的。這個故事半是神話，半是歷史。當初住在那里的不列顛人正在和北方來犯的皮克特人、蘇格蘭人作戰，但不列顛人打仗不太行。

于是不列顛國王沃蒂根說："我有一個主意。我聽說德國和斯堪的納維亞那邊的人真的很能打。不如請一些盎格魯-撒克遜雇傭兵過來，替我們打仗。"

沃蒂根把盎格魯-撒克遜雇傭兵請了過來，他們確實打得很好，打敗了蘇格蘭人和皮克特人。但之后，盎格魯-撒克遜人對自己說："這個國家真富裕，這些人真弱小，這些人又不團結，我們可以直接占了。" 于是他們就奪了權。

我們對人類雇傭兵能理解這一點。我們明白當你雇傭人類雇傭兵時——好吧，你付錢給他們，但他們有自己的想法，也許會叛變。但對AI，我們完全沒有這種警覺。

看看世界各國的領導人，他們想的是："哦，我讓AI替我打仗。"AI可能直接從你手中奪權這個念頭，根本沒有真正進入他們的腦海。 他們不真正接受AI能思考這件事。而這才是根本性的不同。

讓人類繼續思考的挑戰

艾琳·特蕾西： 那讓我反過來說——你是我們牛津的校友，我們為此感到自豪，雖然你現在跑去劍橋了。對教育界來說，挑戰在于——這實際上是圖靈問題的反面。圖靈問的是計算機能否思考——如果你愿意的話，那可以說是人工智能的誕生地。但我認為我們在學術界現在提出的問題是：我們如何讓人類繼續思考？ 因為如果我們越來越多地把決策——財務決策或其他什么——交給AI，我們面臨的擔憂就是人類大腦批判性思維能力的退化。我們在到我們這里來的學生身上已經看到了這一點——學校系統過度使用ChatGPT。

那么你對我這個學術界人士有什么建議？我們人類如何堅持下去，繼續思考，從而至少保持一定的能力與這些技術并肩生活？

尤瓦爾·赫拉利： 在目前這個時刻，我們仍然思考得更好。所以目前的策略是告訴人們：你需要批判性思維，你需要道德判斷，這些你從AI那里得不到。但我們需要為那一天做準備——當這些也不再成立的時候。

當AI超越人類理解力

我們需要為這樣的時刻做準備——比如說在經濟學或金融領域——當AI創造出一個全新的金融體系，一個它們理解但我們不理解的體系。在一個人類真的無法理解金融運作方式的世界里，你怎么培訓經濟學家或政治家？因為AI已經創建了這個超級復雜的金融體系。

我們就像馬——馬可以看到自己被一個人類賣給另一個人類，換來幾枚閃亮的金幣。但它們無法理解"錢"這個概念——太復雜了。

十年后，我們可能處于同樣的境地。 十年后的達沃斯，也許在場的沒有一個人——沒有一個人類——還能理解金融體系了，因為它被AI主宰，而AI創造了新的金融策略和工具，在數學上超出了人類大腦的能力。那么在一個沒有人類能理解金融的世界里，政治、金融和達沃斯會變成什么樣？

艾琳·特蕾西： 嗯，這是一個很好的結束語。我們時間到了。還有很多可以探討的問題。其中一個是：我們知道人工智能和人類智能之間的一個重大差異——人類大腦從出生到成年（大約20歲），是生命體驗的產物——感受、愛、憤怒，這些情感。雖然你可以用感官探測器做一些嘗試，可以訓練大腦做到這些，但那是根本不同的。所以人工大腦不是人類大腦。它不是人類的。在那里也許仍然有某種價值——回歸到作為一個有感知能力的人類的核心存在，它為我們的理解帶來的價值。

最后一個評論：想想在這樣一個世界里教育孩子——從出生第一天起，也許新生兒的大部分互動對象不是人類，而是AI。這是歷史上最大的、也是最可怕的心理學實驗，而我們正在進行它。

尤瓦爾·赫拉利： 確實如此。

艾琳·特蕾西： 好吧，尤瓦爾，非常感謝你。我很高興你在思考這些問題，也讓我們今天下午都開始思考。我期待你也許十年后回到達沃斯，回顧這場對話，看看我們走到了哪里。但感謝在座的所有觀眾，無論是線上的還是在場的。謝謝大家，讓我們為赫拉利先生鼓掌。

References

[1] WEF官方頁面: https://www.weforum.org/meetings/world-economic-forum-annual-meeting-2026/sessions/an-honest-conversation-on-ai-and-humanity-ca19ea8c96/
[2] 完整英文文字稿: https://singjupost.com/yuval-noah-hararis-remarks-wef-davos-2026-transcript/