萬字追問：AI開始超越人類，我們如何處理新的「哥白尼創傷」?

導語：唱衰人工智能不會帶來更好的明天 —— 構建于人工智能之上的未來世界既非烏托邦，也非反烏托邦，而是充滿無限奇幻可能的。

去年，在OpenAI的靜修會*上，時任公司首席科學家的 Ilya Sutskever 委托當地藝術家制作了一尊代表“未對齊”*AI的木制雕像。他將其點燃，以象征“OpenAI對其創始原則的承諾”。這個奇怪的儀式可能是未雨綢繆，為了這個人工智能巨頭公司未來可能會在制造人工智能中不可避免地做出一些不直接表達“人類價值觀”的舉動提前洗白。然而，沒幾個月后，CEO Sam Altman 就被他的一個門徒背叛，被釘在十字架上。在三天后他復活時，這個話題成為了公司及其董事會的生存危機。OpenAI的所作所為真的能與“人類價值觀”保持一致嗎？如果不是，那到底發生了什么？

譯者注：

Retreat: 性質上和國內的團建有點類似，不過一般是公司出錢，員工去自然中休假放松幾天。

未對齊：原文是“unaligned”，既有“未對齊”的意思，也表示“不一致”。這里表示“偏離人類意圖、價值觀或目標的人工智能系統”。

前年年底，斯坦福人類中心人工智能研究所所長李飛飛出版了《我所見的世界》（The World I see）一書，《金融時報》稱其為“一種強有力的呼吁，要求在我們在技術革新中也要以人為本”。她雖然她沒有進行舉行任何奇怪的儀式，但與 Sutskever 的奇怪儀式結合起來，這兩件事都是人類對顛覆性技術所產生的、里程碑式的反應。

從“對齊”到“以人為本的人工智能”，這些只是我們對人工智能感到失控和恐懼下所產生的詞語，但也是一種認為“復雜技術從未在人類控制之下”的敘事。多是出于政治的原因，有些人堅持聲稱“人工智能不是真的”，只是數學，只是資本主義悄然融入生活的一種意識形態建構。顯然，存在很多批評者對無處不在的機器智能前景非常憤怒，另外一部分人則承認AI的存在，并且相信它是可以通過立法、政策和研討會來控制的。然而，這部分人的樂觀并不能緩解大部分人的抑郁———這些人似乎看到了一場存在主義危機的到來。同樣的，這樣的唱衰聲也會讓那些看好人工智能的人感到困惑。

如何看待這些反應？西格蒙德·弗洛伊德用“哥白尼化（Copernican）”一詞來描述現代人從直覺式特權地位（intuitive privilege）上被去中心化的過程。在尼古拉·哥白尼和查爾斯·達爾文之后，他提名精神分析為第三次這樣的革命。他還將對這種去中心化的反應描述為“創傷(traumas）”。

創傷帶來悲傷。這是再正常不過的。瑞士精神病學家伊麗莎白·庫布勒-羅斯（Elizabeth Kübler-Ross）在她 1969 年出的書《論死亡與臨終》（On Death and Dying）中，確定了“悲傷的五個階段”：否認、憤怒、討價還價、抑郁和接受。也許哥白尼創傷也不例外。是時候在弗洛伊德的名單上增加一個新名字了。

?圖源：Newnome Beauton / Noema Magazine

神經科學揭開了心靈的神秘面紗，將二元論（dualism）逼到角落。生物技術[1]將人工材料轉化為生命，顛覆了人們的傳統認知。然而，這些發現并沒有真正意義上改變自然世界的客觀現實，只是揭示了與我們的直覺和文化宇宙學以前教給我們的東西非常不同的東西。

這種揭示是創傷的關鍵。悲傷的每個階段都是在消化根本文化信仰先緩慢再突然的坍塌。就像摯愛的死亡一樣，信仰的死亡是極其痛苦的。今天所謂的“人工智能”應該被視為正在形成的哥白尼創傷。它揭示了智能、認知，甚至心靈（這些歷史術語的定義顯然有待討論）并不是它們看起來的那樣，不是它們感覺的那樣，更不是人類所獨有的。

誠然，人工智能所需的創造力和技術智慧是人類的成就，但現在，這種智慧正在重塑自己。自舊石器時代的認知革命以來，人類已經人工化了許多東西——住所、熱量、食物、能源、圖像、聲音，甚至生命本身——直到現在，連人類的智能本身都可以被人工化了。

庫布勒-羅斯（Kübler-Ross）的悲傷階段理論為西方對人工智能的態度提供了一個有用的分類：人工智能否認、人工智能憤怒、人工智能討價還價、人工智能抑郁和人工智能接受。這些“悲傷（grief）”源于人工智能對政治制度、勞動分配以及許多哲學和宗教傳統的影響，有的出于臆想，有的真實存在。但是，無論成因，它們都各自有各自的深刻、可悲、可預測性。這些悲傷反映了不同人群心目中的“正確”，這種正確，是政治上最便捷的，最能與文化產生動態共鳴的，最符合人們過往認知的，最符合普世價值觀的，最能表達人文主義身份和自我形象的，最適合悲傷者的。每一種反應都暗含真理和智慧，以及神經質和自欺欺人。

這些反應終將不敵人工智能帶來的最嚴峻的挑戰。在面對這些孱弱的悲傷和顧慮時，人工智能帶來的挑戰毫不留情的擊破所有悲傷以及反對這些悲傷的觀點。這并不是說人工智能不會帶來真正的風險，或者目前在開發和盈利的AI必然會帶來純積極導向的結果。以后回過頭來看，我們可能會覺得早期關于人工智能的探討怎么如此幼稚。

人工智能所帶來的悲傷的階段沒有特定的順序。它們不具備心理學上的意義，而只是分類。同時，真實的人所產生的立場是流動的，不會停留在簡單的類別中。例如，人工智能否認和人工智能憤怒可以同時存在。一種典型的情況就是，批評者經常會一邊說人工智能是不真實的，但又一邊說要不惜一切代價阻止它。

我關注的點是西方文明社會對人工智能的反應，這些反應各有古怪和偏執之處，且并不像他們想象的那樣普遍。

首先，當然是人工智能否認：如果人工智能不真實，我們如何討論人工智能？

否認

癥狀性陳述：人工智能不真實；它不存在；它不是真的人工的；它不是真的智能的；它不重要；這都是炒作；這無關緊要；這是權力游戲；這是一時的潮流；AI不能寫出真正好的歌或電影劇本；AI沒有情感；AI只是擬人化的幻覺；AI只是統計學、數學的梯度下降；AI是被美化后的輸入系統自動聯想；AI沒有實體，因此沒有意義上的智能；這種技術現在沒用，以后也沒用——就算它起作用，它也不是看起來的那樣。

?圖源：GPT / DALL·E 3

拒絕承認AI的存在完全在我們預料之中。當人們面對一些不尋常的、令人不安的、威脅生命的或破壞先前信仰的事情時，會自然地質疑這種異常的有效性。對這種集體裁決的初步假設應該是，像人工智能這樣史無前例的技術可能并不像看起來那樣。

可以肯定的是，許多形式的否認在認識、理解機器智能以及探討機器智能范疇方面至關重要。例如，近年來人工智能從邏輯專家系統向深度學習系統的轉變，就要感謝評論家們對早期模型堅持不懈但十分正確的反駁。

如今，存在各種形式的對人工智能的否認。大多數與氣候變化否認主義（climate change denialism）不同——氣候變化否認主義者執著于捏造事實來證明自己的觀點。但與氣候變化否認主義者一樣，人工智能否認者會抓個例，偷換概念，或者做任何能讓他們覺得他們所反對的觀點有可能實際上才是正解的事情。

人工智能否認大致可以分為：現象學的、政治的和程序性的。

哲學家休伯特·德雷福斯（Hubert Dreyfus）[2]認為，智能只能通過具體而現實的視角來理解，而現象學的人工智能否認在許多方面建立在這一基礎上：“人工智能不屬于真正的智能，因為它沒有實體”。這種批判類型通常強調以人為本。作為圖靈測試的民粹主義變體，它將人類經驗與機器進行比較，并通過衡量它們之間明顯的差異來強人工智能是多么不智能。“人工智能始終無法創造出偉大的歌劇，畫出了不起的畫作，創作出清麗的俳句，諸如此類。”不過，一般來說，提出這種看似直擊要害的批評的現象學人工智能否認者也做不到這些這些事情，但卻認為自己是智能的。

迄今為止最直截了當的人工智能否認是這樣說的：人工智能既不人工也不智能。抓人眼球的背后，這句批評意味十足的標語的底層邏輯，卻是說人工智能是從實際的礦物質資源中創造而來的，因此不夠“人工”，此外，它的主要表現基于隨機預測和建模的目標導向行為，所以不夠“智能”。有意思的是，硅基芯片恰好是人工合成物的典范，而基于隨機預測和建模的目標導向行為則是從威廉·詹姆斯（William James）[3]到卡爾·弗里斯頓（Karl Friston）對‘智能’的定義中重要部分。

“（人工智能的思維方式）只是隨機推理，不是真正的思考”，也是臭名昭著的論文On the Dangers of Stochastic Parrots: Can Language Models Be Too Big？[4]的結論，該論文將人工智能與鸚鵡進行比較——顯然暗示人工智能不智能。在此過程中，此類觀點的作者武斷地否定了計算神經科學，認為它只是將一切視為“計算”的意識形態范式膨脹。更有作家將這一姿態激進化，甚至得出結論：基于神經網絡的自然和人工智能模型本身就是新自由主義實施的騙局。

這些批評者迅速在“人工智能不真實”和“人工智能不合法，因為它是由資本主義公司制造的”兩種論調之間來回切換，顯然前者的說法是代表后者提出的。因此，堅持認為AI不真實往往是一種政治聲明，本質上都是權力談判。

對這些人來說，同時認為人工智能既“不真實”又“（真實所以）危險”，并沒有實際矛盾，因為“AI實際上是什么”與“AI實際上做什么”相比無關緊要，而他們精心挑選出AI行事的負面例子，并用這些例子引申到整體。

換句話說，聲稱“AI不真實存在”實際上是在表達反霸權政治觀點。更糟糕的是，這種思維方式會演變成AI李森科主義（Lysenkoism），即為了反資本主義對某些非常真實的事物進行激進的否認。

其他的AI批評者對深度學習、Transformer架構、自注意力或“規模就是一切”的方法進行了高風險智力賭注，他們的動機與現象否認者類似，只是更個人。深度學習懷疑論者Gary Marcus的例子可以說明這部分人的心理，Blaise Aguera y Arcas稱之為“馬庫斯循環”。

我們可以這樣理解這個循環：一個人聲明事件X是不可能的，然后X發生了；接著ta說X并不算數，因為Y，還斷言X隨時會崩潰或失敗；當它不僅沒有失敗，反而被廣泛應用時，這個人又說X實際上對社會真的很糟糕。自始至終，這位鍵盤俠都在網上夸夸其談，從不承認自己的錯誤。

在Marcus眼中，從2015年開始，深度學習這種基礎方法離被淘汰就只差臨門一腳。但他的詛咒對象毫不擔心，畢竟Marcus預言過的許多“不可能”在今天都成了現實，被上百萬AI用戶頻繁光顧。

憤怒

癥狀性陳述：AI是政治、文化、經濟和/或生存威脅；它威脅人類的未來；必須集體地、個人地、積極地，有時甚至是暴力地抵抗；必須捍衛“人類的火花”免受來自上方和外部的有形傷害；AI本質上可以從最近發生的、少數的負面例子中理解；AI是控制和等級制度的象征，因此反對人工智能即為爭取自由和自治的斗爭。

?圖源：GPT / DALL·E 3

對AI的憤怒基于合理和不合理的恐懼。也就是說，這種憤怒可能更多地集中在AI的意義上，而不是AI的實際行為。然而，兩者往往混為一談。

有時，AI被視為一個單一的整體，一種權力的象征，而不僅僅是真實的技術；有時，它又被描述為歷史罪惡的頂點。因此，AI否認的政治屬性與AI憤怒雖然相互矛盾，但又常常重疊。

以史為鑒，人們有充分的理由對正在發展中的AI持謹慎態度。回顧過去，2010年代是各種政治民粹主義特別繁榮的時期。2017年，道格拉斯·魯什科夫（Douglas Rushkoff）在他的著作《向谷歌巴士扔石頭》（Throwing Rocks at The Google Bus）中捕捉（并頌揚）了針對社會數字化帶來的變革的民粹主義憤怒。“滾開，谷歌！”是柏林克羅伊茨貝格地區的一個活動組織，也是一個網絡熱梗，旨在發泄對谷歌的不滿。畢竟對有些人來說，柏林田園牧歌式的生活方式建立在廉價的租金和音樂上，而谷歌的存在會擾亂這種閑適的生活。

AI憤怒是反建制的意識形態的產物，但不獨屬于某一個意識形態。激進右翼、進步左翼和主流中間派找到了共同點，他們都堅定地反對挑戰他們偏好的現狀的浪潮。

對于反動派來說，對抗AI關乎人類靈魂的存亡，這種珍貴的思想火花正被計算機世俗化的浪潮所消滅，因此必須進行精神上的戰斗。他們對高級AI侵蝕人類自我形象的看法和那些對日心說、進化論、墮胎、克隆、疫苗、跨性別主義、體外受精等議題的反對意見如出一轍。他們捍衛的與其說是主權或機構，不如說是尊嚴。那強調“人性”的火花——在亞伯拉罕神的形象中閃爍——正被現代技術熄滅，因此這場戰斗不僅是神圣的，而且是神性的。

相反，對于左翼來說，受到人工智能威脅的火花是活力（總是帶有政治色彩，通常與職業保障有關），而中間派對人工智能的怒氣主要出于歷史原因，在他們的想象中，人類的處境介于“暫時被圍剿”和“快要走到盡頭”之間。

這三派人士至少有三點共同點：共同的大義——捍衛自己偏好的人類例外論*前景；共同的信仰——認為自己必須為了社會的自我表征“打敗AI”；最后，通過反算法進程的自我定義，他們將得到磨練，獲得文化立場上更大的話語權。

譯者注：人類例外論（human exceptionalism）：認為人類在理性、意識、情感、自由意志等諸方面高級于其他物種。

討價還價

癥狀性陳述：AI是一種強大的力量，可以、應該并且將通過以人為本的設計倫理和民主與技術官僚的對齊來控制，這些對齊與顯而易見的共識共享價值觀一致，通過政策制定和主權立法實現。人工智能對現代政治和法律制度在信息、技術和認識論基礎的挑戰是暫時的。這些異常是可以通過文化干預來緩解的，比如，通過傳統的文化平臺針人工智能制造者進行干預。

?圖源：GPT / DALL·E 3

如果一個人堅持認為機器智能只是最新的數字工具，就自然會想到通過政策治理它。然而，如果人工智能比這更為現象級，就像互聯網或第一臺計算機的問世——或者更深層次地說，目前我們所面對的種種危機只是智能人工進化的一個階段——那么，通過“政策”馴服AI可能充其量只是理想化的。

退一步說，即使國家在短期內成功管控了AI公司，也不代表人工智能本身被長期控制。從同等的破壞力和威力層面，核武器的管控或許可以作為一個先例。核武器是已知的實體，可以通過國際條約進行治理，因為其破壞效果是明確的（即使其地緣政治效果不是）。然而，AI不是已知實體。人們很難真正理解它的影響，更不用說更深層次的問題，AI是什么。因此，再良心、再精心設計的干預政策都會產生意想不到的后果。

對人工智能問題產生的討價還價心理，是政治和法律機構的首選姿態，對于他們來說，復雜問題可以簡化為權利、責任、判例法、政策白皮書和咨詢委員會。但這也是科技界自身“理性中心”最終達成的共識。這種方法用“倫理”、“以人為本”和“對齊”的語言表達。

世界頂級的AI政策和研究機構，斯坦福大學人工智能中心就叫做“以人為本的人工智能”。除了致敬人文主義和人本主義，這種方法依賴于對當下的政治和長期技術進化之間關系的脆弱假設。

對于人工智能討價還價而言，西方的"倫理"——一種基于法律個人主義和歐洲基督教哲學世俗化的框架——被視為引導人工智能走向社會利益的充分必要手段。實際上，人工智能倫理既包含合理的見解，也包含無意義的洞察，但它受限于這樣一種假設: 認為不良結果是一部分目的不端的人故意使然的結果。這種以“一切都是有人故意作怪”的觀點看似符合邏輯， 但卻流于表面。此外，這種倫理學提出的補救方法旨在“與社區合作”或召開公民大會，以調查民眾的需求，并將其編入索引并納入議程，仿佛對人工智能未來的控制是線性的，只需要變得更高質量民主化即可。

對“技術解決主義”有許多批評——有些提出得很好，有些則完全不然。然而，政治解決主義——即假定將某些不適合當前事件時間周期的事物“政治化”，并將其從屬于現有或構想中的政策——同樣糟糕，甚至更糟。觀察國會或副總統，人們并不會期待他們作為肩負希望的未來領航員。當國會召開公開會議，留下他們嚴肅探討人工智能的畫面時，本質上是想向民眾表達出被票選出的代表們是掌控著人工智能的 —— 或者說，是為了自我說服。前提是, 我們所知的現代政府是即將到來的變革的執行者，而不是一種將被改革、甚至被吸收的制度。無論好壞，后一種情況更為可信。

除了立法，人工智能討價還價心態還意味著將人工智能與“人類價值觀”對齊，這種做法我在前文已經質疑過。其假設是，機器智能的迭代將向盡可能擬人化和社會化的方向來引導，成為用戶的鏡像版本，一種令人信服的技術。

盲目崇拜人類價值觀是自然而然的、可通過方法論發現和付諸行動的、具有建設性的和普遍適用的。然而，這種盲目是對齊人類文明和人工智能的脆弱之處。它建立在這樣一種想法之上：有一群人可以代表全人類提出需求，并且能將人工智能帶來的顛覆性改變以最能接受的方式帶給盡可能多的人。

這種想法的提出者在潛意識里認為是人工智能無條件愿意配合。也就是說，這種悲傷階段堅持認為，如果我們開始與未來談判，那么未來將別無選擇，只能與我們折中妥協。如果真是這樣就好了。

抑郁

癥狀性陳述：由于人工智能貪婪的本質，人與人之間的競爭變得激化，此外，多重危機的潛在挑戰（當代人工智能是其中的一個癥狀）以及人工智能自身生產方式所直接帶來的政治和經濟矛盾（可通過成熟的政治經濟學術語理解），都暗示著已經來不及拯救人類免于存在危機乃至滅絕。回溯歷史規律，災難性的未來已是木已成舟。

?圖源：GPT / DALL·E 3

也許僅僅是提到“人工智能”，人類就已經準備好迎接自己的滅絕。與愛人親吻擁抱，儲備糧食并準備迎接超級智能的到來。這個惡意的、癡迷于人類的超級智能將逐個對人類進行審判，并據此決定每個人的命運。

按照這種恐懼的說法，人工智能最終可能會導致數百萬甚至數十億人死亡。它也可能導致數十億的生育率下降，因為在一個“完全自動化”的社會中，全球生育率會遠低于死亡率，留下一個滿是空房子的星球，只有大約20億人類居住在一個更安靜、更綠色、更老齡化和更機器人化的地球上。與馬爾薩斯主義相反，這種人口下降情景是源于共同富裕而非擴大的貧困。也許這最終會成為人工智能在緩解氣候變化的主要貢獻之一。烏托邦還是反烏托邦，取決于觀察者的視角。

對于人工智能末日論者（這個詞有時帶有自豪感，有時則帶有貶義，他們的重點是保護未來免受迫在眉睫、可能發生或不可避免的人工智能災難）來說，競相闡述極端和令人沮喪的結果會帶來某種滿足感。蠢人才會滿懷希望。

這場精英預備運動的成員以開玩笑口吻談論Roko的 basilisk思想實驗和類似的思想：末世論、道德化、自我恭維。末日論話語吸引了許多與人工智能行業密切相關的人，因為它暗示了一種想法：如果人工智能真的讓人類瀕臨滅絕。那么它的掌控者一定是非常重要的人物。我們的未來掌握在這些終極角色的手中。誰不會相信這種論調呢?

科技文化戰的另一面。還有一種常見的人工智能抑郁類型來自法律、政府和人文科學的學術機構的綜合發言。他們將人工智能視為對自身作為學術機構所擁有的權力和責任的威脅，包括對社會的監管權和敘事權。從《大西洋月刊》到《邏輯》，從哈佛法學院的伯克曼克萊因中心（Berkman Klein Center ）到蘭德公司，他們想象自己是與權力作斗爭的民主弱者， 卻從未想過他們所擁有的根深蒂固的文化和制度地位，比起來自加州的這些科技企業尚未成雛形的篡權，自己才是真正無可撼動的權力機構。

對其他陣營來說， 高度末日論的基本原則可能與尼克·博斯特羅姆（Nick Bostrom）以及牛津大學人類未來研究所有關 -—— 但他們原本關于存在風險的研究明確聚焦于低概率災難，而現在，低概率部分被擱置一旁，轉而支持不僅是高概率失控的人工智能，而且是終將失控的超智能人工智能。

為什么會出現這種轉向? 也許是因為終將失控的超智能人工智能在流行話語中已經是一個重要角色，所以把這項詞語納入議程更多是出于對它的不可避免性的考慮，而非遙遠性。對此，博斯特羅姆要感謝雷·庫茲韋爾（Ray Kurzweil），在大多數人認真對待人工智能之前，他多年來一直將相互加強的技術融合觀察與福音派超人類主義（evangelical transhumanist）超越結合在一起。抑郁(或興奮)是對預想中的現實的理性反應，即使預定論并不是對該現實的理性解釋。

在不可避免和可避免之間的這種搖擺，可能是理解抑郁形式的人工智能悲傷的關鍵。回想一下，另一種類型的抑郁是躁郁癥，表現為在極度興奮和絕望之間來回波動的傾向。政治中的馬蹄鐵理論指的是極左和極右政治立場以可預測和驚人的方式趨同的傾向。人工智能抑郁的馬蹄鐵理論將未來的彌賽亞式悲傷和莊嚴狂喜之間的波動視為一體，常常在同一個人、同一個博客、同一個亞文化中表現出來，那些為人工智能超越即將到來的信息鼓掌的觀眾，當救贖的承諾轉變為末日的承諾時，會鼓掌得更加熱烈。

接受

癥狀性陳述：機器智能的出現可能是超越傳統認知范圍的、更深層次力量所推動的進化；長遠看，這種技術對地球的影響將無法用語言描述。被迫接受，也是一種破罐子破摔。接受在當下有限的敘事中認知未來。不同于其他心態著眼于人工智能所帶來的混亂，這種心態看到的則是必然性。

?圖源：GPT / DALL·E 3

根據原有定義，接受是悲傷五個階段中最后一個階段，但這不等同于最終形態。此外，這種心態也不一定優于其他心態。接受什么？從其他階段的心態來看，這可能意味著接受某種不真實的東西，某種非人化的東西，某種主宰的東西，某種預示厄運的東西，某種需要嚴厲批評的東西。或者接受“機器智能進化和自然智能進化受到同等程度的政治控制”這類的反常識。其“人工性”是真實的、基本的、多形態的，也是智能復雜化的一部分，正如已故的丹尼爾·丹尼特（Daniel Dennett）所說，從“細菌到巴赫，在往復”，這種復雜化驅動著人類社會，而不是由它們驅動。

這種心態的內部核心矛盾是這樣的：人工智能出現是人類文明進化所帶來的必然嗎？如果是的，那么人類的進化是否其實是一種超出傳統宇宙觀的生物技術進化過程呢？那么，我們的文化是物質世界的原因還是結果？此外，人類通過語言對智能的人工化（如 LLM）有多少成分是真正在創造機器智能，又有多少成分是在發現智能的通用品質，是隨便誰只要到了這一步就都能發現的嗎？

如果是后者，那么人工智能的出現就不再那么偶發，不再那么有迎合社會主流價值的嫌疑。如果說智能所具有的通用品質是一個個碎片，那么偉大的頭腦就是縫合這些碎片的必要條件，但很少有人能做到這一點。其發明者不再是普羅米修斯式的超級天才，而只是那些在有啟示性的關鍵時刻恰好在場的人。

抱有接受心態的人收到的困擾，不僅是關于這些矛盾本身，更是這些矛盾所引申的、更深遠的問題。如果真要闡明這些核心矛盾，我們需要回溯多久的技術歷史才能證明，人工智能的出現并非偶發性，而是一塊塊碎片恰好在此刻完成了拼接。

從微積分到數據中心，和這些復雜技術一樣，人工智能是由許多之前就存在的、更簡單的技術構建的。很大一部分的這些技術都是偶然的，但是，這些微小的偶發隨著時間的推移會組成更宏觀的結構。偶然會不可避免地匯成唯一的確定。

如果你有恰好有計算機，有對生物神經網絡的理解，加上足夠的數據來標記語言形態，加上廉價且快速的硬件來運行自遞歸模型，并且有任何數量的開發人員在其上工作，那么某種真正意義上的人工化的智能在無生命的基質上能真正實現嗎？這并不一定得是現有的AI或者類似的東西，而是那種最終的、真正的智能。

對于 AI 接受階段，最重要的自我安慰話術就是“必然性”。因為別無選擇，所以世界只能是現在的樣子。這種如釋重負的感覺到底是接受還是順從？這是意圖的人類能動性（現在是結果）與行星過程（現在是原因）之間因果關系的哥白尼式反轉嗎——還是這是對這些結果的過于人性化的自然化，認為它們是神定的？根據庫布勒-羅斯的悲傷五階段理論，這是否是一個悲傷者的接受？究竟在為誰悲傷？他們自己的存在目的？

對悲傷的創傷反應是相信現狀必然如此。因為沒有選擇的余地，所以不會有罪惡感；因為別無他選，所以無需失望。但這并不是認識到現在不是獨立于過去和未來的唯一方式，即使看似非常有力的決定也是在決定性的約束下做出的。

我們可以稱之為"非悲傷"。它得出的結論非常不同。不是說我們現在擁有的人工智能形式是不可避免的，而是我們現在擁有的人工智能肯定不等同于未來人工智能的形式。教訓是不要將現在物化，既不作為結果，也不作為原因。

不再悲傷

悲傷的每個階段不僅表達了人們對人工智能及其未來的憂慮，也顯示了人們的洞察力，即使其主張有時偏離目標。當我們幾年后再回顧這些年的想法時，可能會看到不同的東西。“要是我們當初聽從了卡桑德拉（Cassandras）的警告就好了!” 或者，“他們到底在想什么，為什么要說這些胡話?”有一些“非悲傷”的方式來思考人工智能哲學，既不樂觀也不悲觀，既不烏托邦也不反烏托邦。它們強調將人工智能的“哥白尼創傷”與對“生命”、“技術”和“智能”的新理解相協調。

探索這些術語之間不斷崩塌的界限是我指導的安提基特拉研究計劃 （Antikythera research program）的一部分工作，該計劃由伯格魯恩研究所（Noema的出版商）孵化。特別是我們與天體生物學家和理論物理學家薩拉·沃克（Sara Walker）的合作，她在Noema上發表了一篇名為“人工智能就是生命”（AI Is Life）的佳作。這里的“生命”不是單個有機體的獨特品質，而是指數十億年來的進化譜系過程。但“技術”也在進化，它在本體論上并不與生物進化分離，而是其中的一部分，從核糖體到機器人技術。

任何技術的存在都是因為使其成為可能的生命形式存在——但同時，技術也使某些沒有它們就不可能存在的事物存在。在沃克看來，這一切都關乎于“選擇”——這當然包括人類，人造物，當然也包括創造人類的東西。她寫道：“就像我們將一些感官知覺外包給我們幾個世紀以來建立的技術一樣，我們現在正在將我們自己思維的一些功能外包出去。”

詹姆斯·拉夫洛克（James Lovelock）在寫他的最后一本書《新星紀:超智能時代的到來》（ Novacene: The Coming Age of Hyperintelligence）時知道自己快要死了，他以一章可能會讓一些更具神秘主義傾向的蓋亞理論（Gaia theory）崇拜者感到震驚的內容結束了自己一生的工作。他平靜地報告說，我們所知道的地球生命可能正在讓位給非生物形式的生命或智能，就他而言，這很好。他直接告訴我們，他很高興在知道人類作為復雜智能基質的時代正在讓位于其他東西的情況下離開這個塵世—— 不是作為超越，不是作為魔法，不是作為升級，而只是同一持續進行的選擇、復雜化和聚合過程中的一個相變，這個過程就是“生命”，就是我們。

我認為，使拉夫洛克對他的結論感到平靜的部分原因是，無論人工智能的哥白尼創傷意味著什么，它并不意味著人類是無關緊要的，是可被取代的，或者是在與自己的創造物作戰。先進的機器智能并不意味著我們的滅絕，既不是高尚的退位，也不是蟲子在虛空中尖叫。

然而，這確實意味著人類智能并不是人類智能一直以為的那樣。它既是我們擁有的東西，但更多地是擁有我們的東西。它不僅存在于個體的大腦中， 更多地存在于它們之間持久的交流結構中，例如，以語言的形式。

像“生命”一樣，智能是模塊化的、靈活的和可擴展的，延伸到亞細胞生命機器的巧妙工作，貫穿進化時間的深處。它還延伸到更大的聚合體， 我們每個人都是其中的一部分，也是一個實例。沒有理由相信故事會或應該以我們結束；末世論是無用的。智能的進化不會在一個改造地球的游牧靈長類物種身上達到頂峰。

這已經是最好的消息。像拉夫洛克一樣，我感受到的不是悲傷。

原文鏈接：https://www.noemamag.com/the-five-stages-of-ai-grief/

[1]. https://doi.org/10.1002/9781119132363.ch26

[2]. https://philpapers.org/rec/DREWHA

[3]. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC9222757/#:~:text=%E2%80%9CIntelligence%20is%20a%20fixed%20goal,variable%20means%20of%20achieving%20it.%E2%80%9D

[4].https://dl.acm.org/doi/10.1145/3442188.3445922

關于追問nextquestion

天橋腦科學研究院旗下科學媒體，旨在以科學追問為紐帶，深入探究人工智能與人類智能相互融合與促進，不斷探索科學的邊界。如果您有進一步想要討論的內容，歡迎評論區留言，或后臺留言“社群”即可加入社群與我們互動。

關于天橋腦科學研究院

天橋腦科學研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元創建的世界最大私人腦科學研究機構之一，圍繞全球化、跨學科和青年科學家三大重點，支持腦科學研究，造福人類。

Chen Institute與華山醫院、上海市精神衛生中心設立了應用神經技術前沿實驗室、人工智能與精神健康前沿實驗室；與加州理工學院合作成立了加州理工天橋神經科學研究院。

Chen Institute建成了支持腦科學和人工智能領域研究的生態系統，項目遍布歐美、亞洲和大洋洲，包括、、、科研型臨床醫生獎勵計劃、、、大圓鏡科普等。