“偽人橫行”的背后，是一場被精心掩藏的社會性退化

投稿郵箱：wenhuazongheng@gmail.com

《文化縱橫》郵發代號：80-942

? 劉禾

美國哥倫比亞大學比較文學與社會研究所

? 訪談、整理 | 郝煜東、戎漸歆

文化縱橫編輯部

【導讀】11月24日，美國總統特朗普簽署行政令，推出由能源部主導的國家級戰略”創世紀計劃“（Genesis Mission），旨在傾舉國之力調配、集結科學資源，通過人工智能變革科學研究范式、加速科學發現。分析人士稱其為AI領域的“曼哈頓計劃”或“阿波羅太空計劃”，標志著數字技術領域的大國競爭進一步激化。

迫近的現實，敦促我們重新審視數字技術的緣起，改換“天才發明技術”的敘事邏輯。在本篇專訪中，劉禾圍繞她最新譯為中文的著作《弗洛伊德機器人》，講述了技術與時代的密切關聯。劉禾指出，作為當今AI技術的前身，控制論與通信技術是資本主義戰爭機器的產物，二戰與冷戰的歷史社會場景，從最初便塑造了人們對人機關系的想象。在地緣政治中信奉”你死我活“的零和博弈的人們，將人機關系局限在“控制”與“被控制”的主奴關系之中；自戀心理的投射，又使機器得以深入而全面地改造人類社會的組織方式。

本文作者的反思，超越了常見的將數字技術作為“社會現象”的表層討論，從哲學維度深入分析了數字技術的內在運作邏輯，揭示了它對人類認知形態與社會組織方式帶來的根本沖擊——與改造生產關系的歷次工業革命不同，AI正在重塑人類本身；離不開機器的人類，可能漸漸成為自動運轉的、與之類似的無意識個體。

歷史需求的更迭，為技術進步提供了土壤；技術對人類社會的改造，又對現有的認知哲學與社會科學范式提出了挑戰。我們的世界正在經歷天翻地覆的變化，亟需尋找新的思想資源，打開新的討論空間。下一輪技術與認知革命，或許也將是當今時代的回音。

本文原載于《文化縱橫》2025年第6期，僅代表作者觀點，供讀者參考。

揭開“數字文明”的真相：

人如何被機器改造？

文化縱橫：您的著作《弗洛伊德機器人》的中譯版剛出版，主要討論的是人與機器的關系，這個話題其實已經在眾多科幻題材的作品中大量出現了。比如，我們常喜歡講人類能不能真的控制機器，機器人會不會造反，就像《2001太空漫游》中的哈爾9000；或者是我們能不能讓機器人服務于更良善的社會目標；再或者像《銀翼殺手2049》里一樣，討論如果機器人有了靈魂、有了意識，那它到底是不是人，人和機器的區別到底在哪里。但劉禾老師您的討論方式，似乎和這些傳統話題有所不同？

劉禾：我們通常看到的人和機器的關系，在人工智能的敘事表達中，往往被想象成“主奴關系”。有意思的是，“機器人”的英文單詞“robot”源自捷克語，本意就是“奴隸”。很多人就望文生義，認為機器和人必須要從主奴關系的角度去思考。的確也有不少科幻電影和小說在探討這個問題，而且都在表達同一種焦慮，就是萬一主奴關系顛倒過來，怎么辦？萬一奴隸要造反，然后反過來奴役我，怎么辦？這聽起來有點像通常統治階級常有的那種焦慮，例如庫布里克那部電影，《2001太空漫游》就是典型的由奴隸變成造反派的故事，哈爾9000要謀殺他本來應該服務的主人，也就是人類。我認為這種科幻的想象掩蓋了很多需要進一步思考的問題：數字技術出現的前后，我們發明機器人的真實原因是什么？人和機器的關系到底是怎么發展過來的？都有哪些重大的變化？

說到底，人和技術的關系是人類文明進化史的核心。如果我們回看古代文明，就會發現其中有一些技術發明我們至今仍然還在使用，比如書寫技術。通常我們不把書寫技術也看作是技術，是因為太熟悉了。大家會認為，學寫字不就是學一些符號嘛，比如學漢字，你花那么多年要把字寫好，學英文不但要認識26個字母，你還得學會拼寫——你把這些符號記住不就行了嗎？而且在電腦發明之前，長期以來大家不都是用手寫的嗎？這個跟技術有什么關系？

當然有關系。古人發明書寫技術時，他們知道需要幾個特定的技術條件。首先需要書寫平面，比如古代中國的竹簡或者木簡、古代兩河流域的泥板、古埃及人用的莎草紙，以及后來紙張的發明等等。其次就是書寫工具，可以是刻刀，可以是毛筆。然后是我們所說的漢字或者拼音字母，也就是一套符號。但僅僅靠一套符號是不能解釋書寫系統的，在這個意義上，古代的書寫技術和我們現在通過電腦鍵盤打字，然后由電腦晶片的電路處理數字和文字符號，兩者之間在本質上是相通的。

這也是為什么考古學家喜歡用有沒有書寫技術的標準，去衡量古代文明發展的程度。因為不是所有使用口頭語言的文明，最后都發展出了書寫技術。一般來說，考古學家認為，世界上有四大文明區最早發明了書寫技術，中國是其中之一。但中國一直是多語種的歐亞大陸的一部分，并不是所有的地方語言都發展出了書寫技術。這不是一個先進與落后的問題，長久以來，有沒有必要去發明書寫符號，或者借用一套符號系統，才是事情的關鍵。

我在書中提到一位科技史學者，名叫哈羅德·伊尼斯，他也是媒體學創始人麥克盧漢常常引用的歷史學家。伊尼斯寫過一本書叫《帝國與傳播》，其中提到，為什么古羅馬帝國需要書寫技術？因為它在海外征服的時候，需要進行遠距離的信息傳遞，如果沒有這種傳播交流的需求，就用不著書寫技術。再比如蒙古帝國發跡的時候，同時也發明了自己的文字，因為在他們往歐亞大陸擴張的時候，也有遠距離傳遞情報信息的需要。古代遠距離的通訊方式大致有兩種：如果你有書寫技術，就可以騎馬送信，如果沒有的話，就只能靠吟唱詩歌，因為詩句有韻律，便于記憶。古代世界有很多地區就用這些辦法來傳遞戰爭的消息。

因此，我們在思考人和技術的關系時，一定要關注它的政治、社會、和經濟的必要條件——注意，我這里說的不是“背景”，因為即使在同樣的環境下，沒有到“必要”的時候，也不會出現生成某種技術的客觀條件。可是現在我們在談論人和機器的關系，談論機器人、人工智能的時候，往往把這些必要條件拋在腦后。已經有大量的學術研究說明，蒙文、滿文的出現，都和帝國征服與擴張有關系，都是為了滿足遠距離通訊的需要。反而在當代技術的重重包圍之中，我們卻不大思考這些技術的來龍去脈，總覺得是有一群聰明人發明了新技術，把它付諸應用，然后這個技術不斷改善，最后達到了很高的水平。當前這種故事講得太多了，我們恐怕要講一些新的故事。科技史學家在討論科技的發明時，一定會看到更大的政治、文化、經濟的場景，同樣的，我們在思考當代數字技術和我們的關系時，也需要特別注意數字技術是在什么場景下出現的。注意，我在這里說的是場景，而不是背景。

通信技術的發明，控制論的發明，還有書中提到的博弈論，這些數字技術，就是今天人工智能的前身，它們與二戰和冷戰有千絲萬縷的淵源關系。比如通信數學理論的發明者、通訊技術的鼻祖香農，他在二戰期間負責一個叫做“Project X”的絕密計劃，到40年代二戰結束時，其中的一部分內容得到解密，作為香農的《通信的數學理論》發表，影響巨大。這個解密項目是針對加密技術，尤其是對電話通訊的加密，比如美國總統和英國首相之間的通話。另一位科學家，發明控制論的維納，他當時試圖解決的問題是，戰斗機如何能準確地擊中在空中運動的敵機。在這些研究的基礎上，他發明了“反饋回路”（feedback loop）的理論。博弈論之父的馮·諾依曼，在美國設計出第一部存儲程序計算機，把數學家圖靈的設想變成了現實，他也是深度參與了美國二戰期間的科技開發,包括研制核武器的“曼哈頓計劃”。也就是說，所有的這些技術突破，都是為了解決戰場上的具體需求，為了更新軍事裝備，其最初的目標都是解決軍事技術上的問題。后來進入冷戰階段，尤其是美蘇軍備競賽開始后，美國由于缺少閱讀斯拉夫語、俄語的人才，而有蘇聯科技相關的大量情報需要解讀，因此才試圖借助機器解決這個問題，于是機器翻譯就開始出現。機器翻譯處理的是自然語言，而人工智能的核心領域“自然語言處理”（NLP）就是在冷戰期間的機器翻譯研究中誕生出來的。

“信息論之父”香農的著作《通信的數學理論》，就源自他在二戰期間負責的絕密項目

文化縱橫：換言之，最開始的數字技術，和“理解”或“模仿”人類幾乎沒有關系，相反，它試圖解決的只是處理符號、處理語言的問題——可以說是一條和人們常規的想象中完全不同的技術路徑。那旨在解決這些具體問題的研究，是如何影響人們對自身的理解，以及對人機關系的理解的呢？

劉禾：圖靈把計算機叫做“處理符號的機器”，它的核心就是一套簡單的但能延伸出無限的符號組合。最早設計計算機和通訊電路的科學家，比如圖靈和香農，都是在這個基礎上開發數字技術的。由此產生的問題是，這一套符號跟語言有什么關系？機器處理符號，等于它能“理解”符號嗎？但是，這其實是個很荒唐的問題，因為機器不需要理解，它只要處理0101的組合，也就是處理符號本身就行了。

總之，所有技術的出現，都有這個特點，都要有解決特定問題的必要性。19世紀的摩爾斯電碼是為了實現快速的遠距離信息傳輸，尤其是軍事信息的傳輸，而當時的電報機很原始，無法處理復雜符號，只能用“一短”“一長”的代碼構造出最簡易的符號系統。而拼音字母，比如英文中的26個字母表，碰巧也是比較簡易的符號系統。香農在發明通信的數學理論的時候，就反復研究了電報時代的摩爾斯電碼，他發現電報代碼除了“一短”“一長”以外，還有一個不可或缺的符號，那就是“空格”。他接著又發現，空格對拼音文字的系統來說，也是至關重要的。為什么？因為通訊機器依靠是書寫符號，它只能以數字或字母的形式進行傳輸，如果字母在書寫中不加空格，那英文詞的邊界也會消失。香農將這個空格稱作英文字母表的“第27個字母”。

香農接下來追問的是，英文書寫中的數學結構是什么？空格在英文字母的組合中占多大概率？比如字母a出現的頻率有多高，字母e出現的頻率有多高，ea這兩個字母組合起來的頻率高，還是ae組合的頻率高等等？香農不僅計算出空格在英文中出現的頻率，而且還能預測任何字母后面最有可能跟著哪個字母，或者任何詞后面最可能出現哪個詞。這也是目前人工智能技術中最常用的預測方法。香農在這個基礎上發明了包含27個字符的“機識英文”的字母表——我在書中說，香農把英文字母由拼音文字系統變成了表意符號系統，這是一個重大的符號學轉向。

香農發明的機識英文，和機器能不能像人一樣“理解”它所處理的符號，其實毫無關系。反倒是，這個發明無意間對我們一直怎樣誤解語言，提出了很直接的挑戰。因為既然機器在處理語言文字符號的時候，要根據符號組合的概率自動運作，那么，人和語言的關系是不是也遵循同樣的邏輯呢？在這里，通訊理論和控制論的研究為我們提出一個深刻的問題：人們真的了解自己所使用的語言嗎？比如人們在思考和說話的時候，在多大的程度上是被文字和語言本身的組合概率所驅動的？

香農在研究過程中發現，機器根據頻率計算得出的結果，經常是無意義的句子，也就是我們常說的“亂碼”。但機器并不能區分出有意義和無意義的句子。那么和機器相比，人的所謂“理解力”又是從哪里來的呢？這時候我們會發現，幼兒學習語言，是一個非常漫長的習得過程，需要不斷地重復、糾錯、記憶，并受到整個社會生活邏輯的規范。兒童從不懼怕沒有意義的音節，反而會興高采烈地去模仿這些；兒童接受“無意義”的言說沒有任何障礙，反而是受過教育的成年人不知道如何處理，因為“無意義”對我們來說就是胡言亂語。在實際生活中，成年人其實也被大量的無意義的言說所包圍，但我們通常做法是將這些一概從視野中排除出去，只留下對自己有意義的東西。問題在于，這種情況下，我們評判意義的有和無，其依據是不是也受制于詞句組合的“頻率”的支配呢？正如香農通過計算，得出了英文書寫的數學結構（即字母組合的頻率計算），那么人和語言符號的關系，里面有沒有類似的概率邏輯呢？換言之，人對語言文字的處理，是不是很像通訊機器對數字和文字的處理呢？

這是控制論的重要發現之一。控制論研究的，是機器行為和動物行為——包括人的行為——之間存在什么共生性，尤其是在信號的傳輸系統上。控制論的兩個代表人物，麥卡洛克和沃爾特·皮茨早在1943年就發表文章，指出人的大腦神經元的行為很像數學符號的邏輯行為，它們都受制于信號的有和無。這兩個人堅持認為，驅動腦神經活動的命題邏輯，跟驅動機器的命題邏輯是同一個東西。他們的這篇文章對后來的神經網絡研究影響深遠。

文化縱橫：研究控制論的科學家實際上將人腦看作一臺機器。按照他們的說法，人類理解世界，也是通過概率的無意識結構進行的，這似乎完全挑戰了一直以來對自由意志的討論。從這個意義上說，您覺得控制論的研究，對我們的認識論，或整個西方哲學的傳統帶來了怎樣的沖擊和挑戰？

劉禾：“自由意志”（free will）來源于古老的西方神學，我在這里按下不談，因為它涉及很多問題，會干擾我們談話的重點。控制論研究小組的數學家和工程師，把他們的注意力集中在解決冷戰時期出現的具體問題上，完全無意將它們上升到哲學的層面來思考。但其中的個別成員確實有某種直覺，他們在研究技術問題的時候，倒是提出一些很有意思的哲學洞見。

比如香農，他做了很多玩具機器——他把它們稱為“沒用的機器”——比如迷宮里會找路的機械老鼠等等。其中，他做了一個小盒子，盒子上面有個按鈕，一按下去蓋子就會打開，伸出一只手把按鈕關上，它就縮回去了——香農將它稱為“終極機器”。亞瑟·克拉克，《2001太空漫游》的作者，在貝爾實驗室看到了這個盒子。后來克拉克描述道，那是一個“什么都不做，只會把自己關掉”的機器，讓他看了之后“毛骨悚然”。那似乎是在模擬弗洛伊德所說的死亡驅動，也就是自殺。現在很多科學家說，我們可以用假肢替換人的肢體，還能將芯片植入人的大腦里，人將獲得永生不朽。這似乎還是在尋找從秦始皇開始就在尋找的靈丹妙藥，也就是如何克服死亡。在現代科技條件下，大腦出問題了可以加芯片，胳膊沒了可以換假肢，甚至有人幻想人的大腦儲存的記憶總有一天也可以上傳下載。可是香農的“終極機器”，它只會把自己關掉，這里的“終極”意義就意味深長。

另一個可以參照的例子是“恐惑谷”（the uncanny valley），它是70年代一位專門研究機器人的日本工程師森政弘提出的概念。他所在的實驗室制造仿生手臂，可以將它做的非常逼真，無論是手和胳膊的運動方式，還是皮膚的觸感，都像真人的手。但當你去握這只手時，你會發現它是冰涼的——它看起來像活人，摸起來像死人，這種不確定性突然讓人產生一種恐惑感。森政弘最后從弗洛伊德的理論里引用了“uncanny”的概念，設計出一套影響深遠的工業標準。其實，森政弘體會到的恐怖，也是克拉克在香農的實驗室里遇到的那種恐惑感。而森政弘對此的解釋是弗洛伊德式的，即這種恐惑感來自介于死人和活人之間的不確定性。

當然，我們在面對機器人的時候，可以從人機關系的角度，引申出更深入的哲學問題。森政弘的設計標準本質上是在回答一個問題：我們在制造機器人的時候，或者在制造任何模擬人的部件的時候，我們要做到什么程度，才不會讓人升起疑惑，甚至感到威脅呢？也就是說，我們生產的必須是機器，而不是人，不是活物，它不會威脅到人。但是，這歸根結底仍然是如何處理人機關系的問題——也是人們反復提出的“人能否控制機器”的問題。

為什么我們對人機關系的想象始終無法擺脫這個框架？這就又回到了我在前面提到的“主奴關系”問題——人類總覺得自己是世界的中心，比起動物和機器，人是更優越的生物。但為什么同時又害怕被自己所制造的機器取代呢？因為控制論的世界觀是“控制和被控制”的關系，一旦機器能控制人類，機器就可能消滅人類——這種世界觀和整個冷戰，甚至和更早的二戰的戰爭技術有著深刻的關系。比如，二戰時期出現的博弈論，就將整個世界的地緣政治看作是一盤棋，我戰勝你或者你戰勝我、我消滅你或者你消滅我，也就是所謂你死我活的“零和游戲”。而所有這一切想法和觀念，都通過各種途徑折射在了我們對人機關系的論述之中。

那么，這種世界觀有沒有更深層的心理根源呢？這就需要引入一個有關精神分析的重要概念，就是人的自戀，以及由自戀延伸出來的侵略性。我們最常見到的是教科書對人的定義：人是“會發明和使用工具的動物”，可事實上，科學家發現其他動物也會使用工具，從邏輯上講，這是不是應該修改對人的定義了？但是沒有，事實上，人們不但沒有對原來的定義作修改，反而開始贊美會使用工具的動物。這說明了什么？說明人一直在贊美自己，肯定自己，卻不真正反省自己。在人和聊天機器進行對話的過程里，我們經常可以看到這種不可遏制的自戀——人們把自己的愿望、恐懼和焦慮都投射到機器中，幻想自己在跟另一個人說話。當然，這是人自身的問題，不是技術問題。

實際上，聊天機器只能讓我們跟他人離得越來越遠，你甚至失去了想了解別人的意愿，從而永遠沉迷于自戀。所以，經常發生的情形是，一個人一旦進入了沒有聊天機器的場合，他不得不和他人建立真實關系的時候，往往就會在現實中碰到種種感情上的挫折，這時候，他躲開挫折的辦法，又往往是再回到聊天機器前面，在那里進行自戀式的投射。這里的問題是，人能脫離社會關系嗎？

我們不難想象由此而來的嚴重的社會后果，甚至一種病態文明的出現。其實，人工智能發展史中最早的一款聊天程序，就是用來模擬人們的病態心理的。它叫“伊莉莎”，是麻省理工學院的計算機科學家約瑟夫·維森鮑姆在1966年發明的。維森鮑姆當時寫了一個很簡單的程序，他讓機器充當“醫生”，用戶充當心理病人。用戶把問題輸入機器，“醫生”就會和它“對話”，于是用戶就開始進入幻覺，好像真的在和“醫生”對話。在七十年代初，為了推動聊天程序，斯坦福人工智能研究所有一位教授進一步開發人機對話，他讓機器模擬精神分裂癥患者，和它對話的人充當醫生。這基本上就是聊天機器的發展譜系最早的發端：聊天機器從一開始就在模擬人的心理病態，而不在模擬什么智能。但隨著人工智能技術的進步，又有人說，聊天程序終于獲得與人流利對話、甚至深度交流的能力，這說明它達到了與人相匹配的智能水平。果真如此嗎？那么我們如何解釋病態文明的出現呢？

回到你的問題中所說的認識論轉向，和它對傳統西方哲學的沖擊。我認為在很大程度上，現代西方哲學雖然有很大發展，流派和門戶很多，但是其主流是“意識哲學”（philosophy of consciousness）。笛卡爾以來的心物二元論，其實很大程度上還是深刻影響著當代哲學，可是在他的理論中，有太多的關于大腦、意識和理性的假設，從不承認無意識的存在。還有一些哲學家，比如萊布尼茨和康德，他們對無意識的結構感興趣，但整體上，讓西方哲學家焦慮的核心問題，仍然是圍繞“人的主體是什么”展開的。然而在今天，當我們在試圖理解人機關系這個新課題的時候，就必須面對一些不同的問題，比如無意識的結構是什么？恐惑感從哪里來？為什么人控制機器還是機器控制人的問題變得如此尖銳？可是，一旦進入這些思考，所謂的“自由意志”，還有它與技術決定論之間的矛盾，以及在其深處的“意識哲學”的傳統，都無法面對控制論以來出現的新的哲學問題。

文化縱橫：您剛才提到了二戰和冷戰的大歷史背景，如何塑造了特定的社會心理，進而影響了人們看待人機關系的視角。現在我們走出冷戰許多年，已經進入了一個新時代，您認為這種結構，或這些問題，它會出現怎樣的變化？

劉禾：我15年前出版這本書的時候說，如果人類和機器之間的關系處理不好，人就會變成“弗氏人偶”，也就是弗洛伊德機器人。它的特征就是機器模仿人的行為方式，人再反過來模仿機器——在這種“人機擬像”的互動關系中，機器和人一起進化、互相模仿。它本身也形成一個控制論的反饋回路。

文化縱橫：機器在模仿人，這件事情相對來說更容易理解。人模仿機器是什么樣的？

劉禾：圖靈在發明計算機的時候用打字機做參照，說計算機比打字機高明之處是，它既能寫、也能讀、還能儲存，其中“讀”的用詞是scan，就是“掃描”。為什么我要提這個？我們現在多少人讀文章，拿著手機，其實不是在“讀”，而是在“掃描”。在這個情形下，記憶力會大幅度退化，記憶能力不但被“轉移”到了電子設備里，而且眼睛和大腦之間的關系，已經被機器從根本上改變了。在這時候，人們也已經漸漸不再愿意掌握尼采所說的“慢讀”藝術了，因為只有加快閱讀的速度，才能處理海量的信息。盡管實際上只有慢讀，甚至反復讀，人才能思考，才能真正有理解，但是人的閱讀方式越來越像機器，越來越只追求效率和速度——這帶來一個非常根本性改變：由于機器不能思考，人也漸漸變得不能思考。人和機器互動產生這個后果是極其嚴重的，也是可怕的，它不僅對如何認識人的能力和局限，如何建立人和世界的關系，以至如何定義什么是“人”，都帶來危機，而且對人類未來該如何生存，也帶來很多疑問。

我在書中還提到《莊子》中“漢陰老農”的寓言，講子貢碰到一個老農，在用特別笨拙的方式，一罐一罐汲水澆地。子貢就問他，你為什么不用機械，機械可以特別容易地解決這個問題。老農回答說，“有機械者必有機事，有機事者必有機心”。這里的“機心”指的是人的精神世界，包括心理、思想、情感、倫理等。莊子的寓言是在說，機器能改變我們的精神，也改變我們的社會關系。因此，我反復強調說，如果沒有想清楚人機關系，那么我們必然會進入人機擬像的反饋回路，變成弗氏人偶，也成為某種機器。

這個趨勢是不是必然的？是不是不可逆轉的？現在很難預見。但我覺得起碼我們要開始思考這些問題，一旦能討論、反省這件事的時候，就打開了一個思想空間。

文化縱橫：人類模仿機器，追求效率和速度的準則，這聽起來其實也特別像資本主義的邏輯。您在今年的中譯版序言中也提到了這個正文中不太常出現的關鍵詞。您覺得資本主義的發展和弗氏人偶之間有怎樣的關系？

劉禾：有關資本主義邏輯的著述很多，包括對后工業社會和當代媒體社會的研究。我對這些研究不太滿意，因為它們有一個共同的短板，那就是很少看到深入到數字技術本身的邏輯中去做細致入微的研究和哲學分析。馬克思的《資本論》之所以重要，是因為他不是在所謂的“社會現象”層面進行描述的，而是深入到商品本身的內在邏輯，對商品的兩重性和勞動兩重性，進行層層的剖析，提出剩余價值、社會必要時間等等概念。那么，當今天的數字技術對人類社會產生巨大的沖擊，當人和機器關系變得如此糾纏不清的時候，我們同樣也不能停留在“社會現象”的層面上來看待數字技術。我們面臨的真正考驗是，能不能對數字技術本身的內在邏輯做出細致和深入的哲學分析，由此把握我們生活在其中的時代命脈，正如馬克思當年對商品的內在邏輯所分析的那樣？我寫《弗洛伊德機器人》就是在回答這個關鍵問題。這本書的所有努力都在于此，都是針對數字技術本身的邏輯，盡量做出透徹的歷史分析和哲學上的思考。

從歷史上看，人工智能和數字技術的根基在控制論，而控制論的發展源自于二戰和冷戰。因此，無論人工智能，無論數字技術，都不是單純的科學和技術自身發展的結果，它們和資本主義的歷史發展，特別是和資本主義的戰爭機器有密切關系。如在二十世紀的兩次世界大戰中，軍事機器的強大動力就不斷地鼓勵科技創新，利用這些創新為戰爭服務，而控制論的發展過程，就是這個戰爭邏輯最典型的表現。這些我都在書里做了詳盡的分析，這里就不重復了。

數字技術和資本主義發展的內在邏輯還有另外一面，即資本的盈利本性，使其在逐利過程中降低成本，尤其是對低廉勞動成本的無休止的追求，也是促進弗氏人偶的發展的一個重要動力。自工業革命以來，機器的自動化取代了體力勞動，而在數字革命開始之后，計算機和人工智能的普及則開始取代腦力勞動，諸如在法律文書，程序編碼，公務員報告，醫療、教育、娛樂等諸多就業領域，很多人會因此而失業或將要失業，人們不僅會被從勞動崗位中剝離，而且由于失去社會紐帶，反而會越來越依賴機器——這些變化，都是大量人群可能變為弗氏人偶的歷史條件。

文化縱橫：既然聊到了資本主義和工業革命的問題，那不妨我們就回到那個歷史語境中。現在我們談論AI和數字技術如何改變人的行為方式和思維結構，這一趨勢，是不是在工業革命中自動化機器替換人類的過程中已經出現過一次？比如，在當時，流水線上的工人也越來越像自動化的機器，要操作精確、盡可能地守時、高效，日復一日地做相同的工作，就像人肉的機械臂。它和我們現在談論的弗氏人偶有什么異同？

劉禾：我們談工業革命，主要針對的是機器對體力勞動的替代和重組，比如流水線將人變成非人，導致工人和自己的勞動以及勞動產品之間出現異化關系——這是馬克思的經典理論。馬克思通過對商品和勞動價值的分析，提出了人的異化理論，這是分析資本主義生產方式和生產關系的重要角度。而當我們談論數字技術時，我們就不能局限在人如何被機器異化的論述里，而必須從根本上重新考察什么是人，開始思考我在書中提出的弗氏人偶的問題。

當然，不少研究人工智能的人會說，白領的腦力勞動被AI取代，也沒有關系，因為我們可以像工業革命時期那樣，努力創造新的工作崗位，讓白領轉而從事別的工作，甚至不用從事任何生產。但是所有這些假設，都在默認數字技術對我們社會的沖擊，會限于勞動、生產和所謂的經濟基礎。我認為不是這樣的。就像所有的機器一樣，人工智能會給我們的生活和工作帶來很多方便，這是毫無疑問的。但弗氏人偶的出現，意味著人機關系從根本上發生了變化，它有可能導致人類自身的一種過去歷史上從未有過的演化。這個演化絕不會僅僅限于我們的勞動實踐這些方面，它已經在根本改變人的日常生活中的所有行為模式——我們的閱讀方式、寫作方式、思維方式、生存方式、和自己相處的方式、與他人交往的方式，情感方式，甚至家庭關系和社會關系等等，這一切都將會以機器作為媒介進行重組。

文化縱橫：現在其實有不少技術樂觀主義者會提出，當人類的工作被AI替代，不事生產之后，社會又會回到從前的美好狀態。人從工作中解放，會有更多機會去充分交流，重建社會關系。但根據您剛才的分析，事實上到那個時候，人類已經被徹底地改變了，不僅不會自然地回退到理想狀態，反而極有可能面對一個全新的困境。

劉禾：是的。我在書里給弗氏人偶下了個定義，即“任何網絡化的存在，只要體現了人機擬像的反饋回路，又不能擺脫控制論無意識的，都是弗氏人偶”。控制論無意識，指的是一種習得的自動性、重復性，比如之前說到的語言。再比如說我們在日常生活中，人與人的交流，已經沒有辦法脫離機器了。“人”已經變成了“我+手機”或“我+電腦”的復合體，這不是工業革命給大家帶來的那種困擾，甚至也不是我們熟悉的所謂勞動異化問題。至于“網絡化的存在”，是說現在的人其實已經不是所謂原子化的個體了，每個人都是大數據的一份子，都在這個網絡里面——這是一種社會化的行為，它是超脫于個人的，在個人身體之外的。在這種情況下，誰統治了這個網絡，誰就能統治所有人，因此，其實統治關系也發生了根本的改變。

談到控制論無意識，我要提到20世紀的一位重要的思想家，那就是法國精神分析理論家拉康。拉康曾說語言的運作很像機器，它具有某種自動性和重復性，人和人之間的交往是被語言驅動的，而不是相反。語言是連接社會的根本紐帶，社會無法離開話語運行，而語言本身又是自動運作的、外在的東西，很像外在于人的機器。控制論無意識的出現讓我們認識世界變得尤其困難，必須拋棄所有傳統的意識哲學的概念，比如人的能動性。拉康的這個概括抓住了我們和語言的關系，他之所以得出這些結論，就是因為在冷戰期間，他持續關注科技發展的趨勢，尤其是控制論、博弈論和通訊理論。

拉康進一步看到，概率的統計方法如何從根本上改變了人認識社會、認識自然的方式，不但使整個科技研究的范式發生了轉型，而且還挑戰了傳統哲學的因果論。比如現在的醫學，開始依靠大數據，而不僅思考單一的因引起單一的果。事實上，控制論的前驅早就意識到自己研究工作的哲學意義，比如當時他們提出“循環式的因果關系”（circular causality），以及維納提出反饋回路，這一切最終都要回到計算機對符號的處理方式和控制論無意識。

文化縱橫：說到認知方式的改變，我們會注意到，控制論或者“人腦就是機器”這一概念剛剛出現的時候，其實對人們的自主性、自由意志的信仰造成了很大沖擊。但經過了這么多年，大家仿佛已經默認了這個概念，很自然地接受自己的大腦是由神經電控制的，但卻依然假設人類擁有自主性。控制論無意識的概念在今天，反而不會給人們帶來如此劇烈的認知沖擊。這是為什么？

劉禾：這可能恰恰是人們正在變成弗氏人偶的跡象，機器在那里自動運轉，機器沒有認知，更不用說自主性了。弗氏人偶有認知嗎？也許它可以假裝有自主性。拉康說，如果機器不出問題，你不會意識到它在工作，就像人只有在膝蓋出問題的時候，才會發現自己原先是這么走路的。我們都知道人腦是神經元的網絡，但并不覺得這和自己的行為有什么關系，自動地接受了它的運轉。

我在美國觀察到的一個典型案例，就是民主選舉。每當選舉這個機器開始運轉的時候，就有人出來贊美自己的民主體制，但“民”是什么他們不考慮，自己為什么投票也不考慮，信息是從哪里來的也不考慮——這事實上就是愚民政策。美國已經沒有民主了，但這并不是因為它被某一個統治階級控制，而是因為民主政治本身已經變成了選舉機器，統治階級只要控制了選舉機器，就控制了選民。美國的民主黨和共和黨經常讓數學家來幫他們計算，哪些選區重新劃分一下，選票分布就會隨之改變，這根本就是蔑視選民。而選民中多數人，要么沒有意識到民主政治已墮落為選舉機器，還以為去投票就是捍衛自己的利益或堅持自己的信念，要么明知它是一個選舉機器，但別無選擇，只好去投票。總之，每一次的投票行為都讓選舉機器繼續運轉下去。

說到底，我們都生活在一個網絡化的、控制論無意識的時代。舊有的政治理論、社會理論和文化理論等等，都無法解釋我們這個世界正在經歷的天翻地覆的變化，怎么辦？我認為，我們需要尋找新的思想資源，打開新的思想空間，不然我們全都會變成弗氏人偶。

編輯 | RJX

本文原載于《文化縱橫》2025年第6期，歡迎個人分享，媒體轉載請聯系本公眾號。

打賞不設上限，支持文化重建

訂閱服務熱線：

13167577398（微信同，節后回復）