習以為常其實非常不正常

圖片由AI工具生成

田松教授：好，非常感謝劉鈍教授，給我們提供了很多可以討論的東西。講了很多歷史的，然后又和現在相關聯的，我就不多做評論了。我們還有大概半個小時的時間，大家有什么問題可以提出來，可以舉手。應該說這個演講我是期待很久了，我在南科大開過一門課，叫《科學倫理與技術倫理》名家講堂，這個課就是邀請國內做科學倫理和技術倫理的學者到南科大來講。第一輪開這個課的時候，還是在疫情時期，幾乎都是在網上進行的。第二輪課開的時候，劉鈍老師人在美國，沒有來成。這個課現在已經不能開了，因為我們的課程進行調整，外聘老師的課幾乎都停了，所以完全由邀請來的老師講課就停止了。這次有機會請劉鈍老師，不能在我課堂上講，但是可以做一個南科大講堂。南科大講堂是南科大級別最高的一個講座，所以在這講也是非常合適的。我覺得有很多有意思的地方，當初“科玄論戰”的時候，張君勱是在清華學堂，面對的都是一些將要出國的理工科學生，我們在南科大也只有理工科的學生，劉鈍老師來這，也是面對理工科的學生。然后講這樣的話題，和那個事件相隔100年，很多話題過了100年，但并沒有過時，也并沒有消失，反而顯得更加突出，更加尖銳了。我是墊一些話，期待著大家舉手。

同學一：我是大一的同學，我叫李XX。我剛剛聽的是，困擾霍爾丹和羅素的兩個問題。霍爾丹覺得倫理在阻礙著科學的進步，羅素擔心科學的進步被政府所掌握之后，會去控制人民的行為，但是看現在這個環境，你會發現，正好這兩點困擾的東西都被占了，政府又掌握著各種最先進的技術來控制人民，整個社會的倫理發展又極大地限制著科學的進步。這種情況是否會持續呢？如果持續下去，會造成什么樣的結果？

劉鈍教授：（這個問題）很好，也很大，我很難給予準確的回答。科學探索無止境，這是美國范內瓦爾·布什（Vannevar Bush）提出來的。他在1945年二戰結束時給美國總統的報告，被我們譯成《科學，無盡的前沿》，這里的“前沿”（Frontier）本來有疆域的意思，令人想起美國18世紀末開始的西進運動，說科學是一個無盡的前沿，就是說科學中存在著無窮盡的未知疆域，所以它總是在發展的。我們作為智人這么一個種群，天性就是好奇，科學家更是好奇者中的佼佼者。從非常久遠的古代開始，我們的祖先剛剛走出非洲，領頭的一定是非常聰明的人，頭領也好，酋長也好，肯定是最優秀的，也最具有好奇心的個體。于是后來就有了巫術、神話和宗教，再后來就有了科學和技術。

對自然奧秘的探索永無止境，這是人類的天性決定的，但是沒有止境不意味著科學沒有禁區。在我看來，有些東西是應該設禁區的，當然不是每個科學從業者都同意。生物工程就非常明顯，像賀建奎那樣的實驗就不應該做，絕對不能做。只是不能做不意味著沒有人做，我猜想有些人在偷偷地做。說不定在大洋深處的某個島上，就有個米諾斯王般的億萬富翁出錢在做。如果不用倫理或法律來限制，大概率是不可以的，很難防止可怕的負面結果出現。所以在這時候，我們更需要羅素先生提出來的，需要良心，需要道德，需要倫理。

另外一方面，你剛才講的政府，我不準備多評論了。我們確實感到科學的進步，有一種超出了我們想象的力量，或者超出人類之本性所能接受的程度，比方說“新冠”之后大家都習慣了進大學要報備，前兩天我在深圳另一所大學，進了一道門，到了第二道門又被攔住，還要給東道主打電話。北京也是，本來是用人民的錢辦的高等學府，外地的老人家想帶著兒孫看看名牌大學，但是進不去。黌宮非皇宮，學府乃天下公器。就是想看看宏偉壯觀的大城樓，也得通過種種安檢且不能停留，沒有辦法，只有年輕人騎共享單車快速通過。不過大家對這已經習以為常了，其實是非常不正常的。

此外，大數據完全知道你要干什么，哪怕你不喜歡的東西，偶爾看過一眼，它就會推送給你。每個人都被watched，有人盯著，對此我的感覺非常不好。我們看哲人羅素，他已經談過這些了，這種東西會影響我們這個種群的健康生存。這方面不能展開太多了，我們確實面臨著很多問題。一方面享受著科學技術帶來的便利，最happy的是我夫人，一天到晚買買買，不用上街了；最麻煩的是什么東西都在別人的掌控當中。大數據時代，或者我們叫信息社會，赫拉利也寫了這個問題，信息就是力量（Information is Power），這原來是從弗朗西斯·培根的名言“知識就是力量”（Knowledge is Power）借來的。這個Power既可以理解成力量，也可以理解成權力。到了福柯那里，他就把主語和賓語倒過來了，也就是“權力就是知識”，這就是他的知識-權力論。有了權力就是學界老大，有錢能招一大堆博士替他干活，能擴充實驗室，能批量制造論文，而且老大會變得越來越大，這是馬太效應。套用福柯的知識-權力論，赫拉利的口號就變成了“權力就是信息”，這是對大數據后果的一個最精彩推論。誰掌握了信息，誰就掌握了人類族群的命運。過去是巫師、酋長、君王、教皇、元首，未來是能夠玩透大數據的家伙，是不是硅基文明呀？我發揮得多了點，就到這里吧。

同學二：老師好，我是大二的，也是來自數學系的本科生。我的問題是，今天的主題是由希臘神話引申出來的，西方或者歐洲有很多比如說《圣經》，包括希臘神話那一系列相關的一些來自于古代的故事，那么后面會有很多人，無論是出于宗教信仰原因，或者說想表達自己的觀點，創作出了一系列衍生的作品，比如說像荷馬，我想他肯定會在其中加入一些自己的想法，表達自己的觀點。我想問的就是，當我們有了這么多衍生的作品，例如說像《圣經》，或者說希臘神話，它其中的核心剩下的是什么？后人在希臘神話或者《圣經》中加入了自己的解釋，那么希臘神話或者《圣經》或者其他的一些本體作品，它本身到底是有意義的還是無意義的？

劉鈍教授：作為人類文化遺產的繼承者，我覺得先人創造出來的所有事物都有意義，不管是什么信仰，什么樣的理念或意識形態，文化遺產都應該得到尊重，都應該學習，但你不要全部相信。我還是回到剛才講的《人類簡史》，其作者赫拉利說智人之所以能夠戰勝其他類物種成為地球的主宰，最重要的就是他們有語言，會講故事，編故事，這里面包括八卦與謊言，上面提到的各種權威文本也不例外，這是一種組織民眾的強大手段。赫拉利自己是一個猶太人，但他不信任何宗教。他的意思說白了就是，《圣經》、荷馬以及各種權威文本跟希臘神話沒有多少區別，都是聰明人編的故事。他根據動物行為學的研究結果說道，像大猩猩、黑猩猩這種跟人類最相近的靈長類動物，具有很強的社會性，但是動物學家觀察到沒有50個以上的大猩猩或黑猩猩群體，多了就要打架。反過來，智人卻能組織起千百萬數目的個體，在聰明人編造的故事的引導下與大自然或者敵人戰斗，所以他們能夠戰勝其他的種群，猶如我們的祖先在歐洲淘汰了尼安德特人一樣。人類社會發展到現在，有了大數據這種東西，故事就編得更完滿了。所以要看你從什么觀點來看，從文化學來講，人類創造的所有美好東西都應該學習和繼承。但你要注意，要辨別里面的東西，我剛才講的那兩位英國紳士，都是利用神話做隱喻，他們并不相信什么代達羅斯、伊卡洛斯，只是借過來講自己的故事。

田松教授：剛才劉鈍教授推薦的赫拉利的幾本書，大家應該找時間看一看，非常好，像《人類簡史》已經很有名了，后來還有兩本。

同學三：老師您好，我是大三的本科生，專業是生物醫學工程。關于您剛才講的故事，我有一點要補充一下，赫拉利講的這個故事，它不一定是虛構的，它有可能也是在一定程度上反映現實的，但是它比現實要更加容易聽懂，所以他更加容易被別人接受。我想就您剛才講的赫拉利的觀點，進行一個延伸的提問。現在大家都知道人工智能的信息革命時代已經到來了，是人類有史以來，或者說幾次革命以來性質最為不一樣的一次革命，因為出現了硅基生命。在赫拉利的這個觀點里面，現在AI自己就會創造故事了，那么這里面一個典型的例子就是所謂的數字殖民主義。在古代人類無聊的時候，他可能會去打獵，他可能會去發明象棋去玩一些游戲，但是現在我們無聊，我們就會刷手機，我覺得這個是最弱的一種殖民方式。那么最深刻的一種殖民方式，是比如說像谷歌這樣的搜索引擎軟件，大家都用谷歌，大家都用bing搜索，數據或者說power在現在的時代，相當于這些科技巨頭掌握了全世界通過搜索流入公司的數據，然后他們就可以創造出AI。甚至谷歌有一句話竟然說，我們的使命是讓所有人都要使用AI這個搜索軟件，但為什么免費呢？因為我們需要的是數據，不是搜索。那么問題就來了，人工智能時代的革命剛剛開始，但它顯然還沒有到達非常深刻的地步，可能已經開始深刻了，隨著數據的規模越來越大，不可避免的是，如果在現實世界之外，還有一個所謂的數字世界的話，像是科技巨頭這樣的掌握數據的公司，他們占領的疆域是最大的。

劉鈍教授：早晚有一天，人工智能要取代我們，它現在的表現在許多方面已經超過我們了，會不會對我們的種群構成威脅，這是我的擔心。

同學三：您覺得這樣的發展趨勢，它的危險性在哪里？以及造成這樣的危險的原因是什么？它缺少了什么東西？

劉鈍教授：你剛才已經講了，原因就是我們會被大數據控制，現在才剛冒頭，但是發展的速度非常非常快，想象不到的快。以前有個集成電路的摩爾定律，AI的發展完全打破了摩爾定律。人工智能發展特別快，早晚有一天我們都會被數據控制，或者說被你剛才說的壟斷公司控制。現在美國已經出現苗頭了，極端個人主義者和技術法西斯合流，在世界最強大的國家我行我素，這種苗頭會不會波及到全世界？此刻人類有沒有辦法拯救自己？這正是我們要講述代達羅斯跟伊卡洛斯，來回顧羅素這樣的哲人的一些想法的原因。至于技術上的深刻原因，這不是我的專業能夠解答的。謝謝你的問題。

同學四：劉老師您好，我是2023級的，目前是大二，機器人工程專業。羅素和霍爾丹的辯論是在20世紀20年代的，霍爾丹主要是擔憂倫理會制約科技的發展，羅素是擔憂有權力者利用科技去影響倫理，導致倫理的崩塌。但是我覺得他們都有一定的時代局限性，在隨后的20世紀四五十年代，我們會發現隨著核武器的出現，至少在國家層面上，我們發現科技反過來成了一種提高人類道德底線的事物。因為自打有了核武器，大規模的熱戰已經幾乎消失殆盡了，取而代之的是局部戰爭。那么在國際層面上產生的這種影響是否意味著在未來有可能出現某一種技術，使得我們作為最平凡的個人，也有能力去挑戰所謂的科技托拉斯以及一眾很龐大的個體，從而達成個人和托拉斯之間的某一種平衡？在這樣的構想下，未來又會產生什么樣的變化，會造成什么樣的結果，以及人工智能是否會成為這樣一個角色的存在？我想在這個問題上請教一下劉老師。

劉鈍教授：這么宏大的問題，我也很難回答。其中一個觀點我可以補充一下，廣島原爆四年后，蘇聯也放了個大爆仗，在此之后世界其實處在一種恐怖平衡當中，我們人類已經茍活了70年。你現在想想某些人的威脅，想想在烏克蘭與歐洲發生的事情，在敘利亞和巴勒斯坦發生的事情，要是都不妥協，非要打到底，惹急了狗跳墻，什么事情都會發生，所以是難以預測的。現在我們人類的命運就處在一個不確定狀態，uncertainty，完全不確定，不知道明天是什么樣。個人怎么樣跟托拉斯達到一種平衡，那更是宏大的問題，我也不知道。我們都被托拉斯控制著，有形的和無形的，你被控制你都不知道。

田松教授：關于不確定性的問題，我還要推薦一下，清華大學社會學系的孫立平教授，他也退休多年了。大家可以搜一搜他的公眾號，他反復地講，我們正處在一個高度不確定的一種社會狀態，各方面都難以預測。

同學五：謝謝劉老師，我是今年南科大的博士新生，我想問的是關于科學倫理上的問題。我們所謂的倫理上認為，如果不給科學發展設限的話，它就會威脅人類存在。比如說硅基生命取代碳基生命，以及基因編輯這些問題，但是這個論斷它所基于的一個基點是，我們默認維持人類存在應該是件好事。所以我想問一個比較激進的問題，如果我們不認為它是一件好事，或者它不是唯一的好事的話，這是不是可以改變我們對于科學發展限制的一些考慮呢？

劉鈍教授：你這個問題特別精彩，我也回答不好。我覺得要從兩面看，你要是一廂情愿地認為維持我們智人的生存永續是好事，那可能會非常失望，因為我也活不到那一天，可能你們的兒子孫子輩會看到那一天，真的出現一種新的人類嗎？有可能，現在我看是招架不住。我跟田松兄是同一個學術圈的，但是我一開始并不贊同田松兄的激進言辭，他老兄公開打出反科學（主義）的旗號，說要警惕科學家，我不敢說這種話。但科學發展到今天，發展到影響到我們普通人的日常生活，影響到我們生命本體，影響到我所關注的霍爾丹的專業群體遺傳學，影響到我們種群命運的時候，我覺得人類真的要換一種思路了，于是對田松兄的主張有了一些共情。過去我們認為有些事是不可能的，現在看來什么匪夷所思的事都可能發生。硅基生命取代碳基生命，一定是這樣的，所以要提前做好準備。也許不是壞事，我們應對得好，對后代就不是壞事。太好的問題，應該寫一篇專文，我現在寫不了，你考慮寫吧。

田松教授：比較遺憾，今天吳巖教授在廣州開會，其實今天討論的話題有好多跟吳巖教授的工作相關，吳巖教授是我們人文中心的教授，我把他稱之為“中國科幻的教父”。他最早在北師大開科幻課程，也在討論我們的未來，硅基和碳基生命。可能你問到的這些問題，在科幻小說里都已經討論過了，在科幻小說里都已經表達過了。包括劉鈍老師也講了赫胥黎著名的反烏托邦三部曲《美麗新世界》，也被譽為一個重要的科幻小說，那里面講的真是科幻，剛才劉老師也介紹那種情節了。所以我們面臨的很多倫理問題，我們作為科學史人，作為科學哲學人在討論。那么另外一個，我覺得科學史還是有意思，聽到劉老師講神話，講故事，看圖，都有意思，純粹講科學倫理可能大家聽著就會比較悶，但是看科幻小說應該跟科學史同樣有意思。

同學六：我本來可能要提一個比較長的問題，如果短一點，那我就直接這么說吧。我們科學研究會發現生命的意義在于可能是沒有意義，你越理解生命的本質之后，你就越可能去創造出類似自己的生命，你會發現它的發展過程是不存在一個意義可言的，那么這時候科學就不能有助于這個社會的穩定了，因為科學不能告訴你這個方面的答案，怎么讓生命更有意義，讓生活更加美好。科學給不了答案，那么當硅基生命和碳基生命融合的時候，我們碳基生命怎么能有更多的選擇去活在碳基生命這個圈子，而不是被硅基生命所控制？怎么有更多的選擇和硅基生命一起聯合，讓我們兩類生命共同繁榮去發展，這方面我們該如何去做？

劉鈍教授：特別好的科幻小說的素材，我不回答了，你也可以做很有意義和很有趣味的類推，想象我們的祖先跟尼安德特人在歐洲相遇的情況，考古學證明他們曾經生活在同一個屋檐下，尼安德特人肯定也想繁衍生存，但他們斗不過更聰明的我們的祖先，好，謝謝。

田松教授：謝謝最后一個問題，它讓我們考慮意義問題，人生的意義也好，生命的意義也好，它不是科學研究出來的，它原本是在你的生活世界里面，在你的社會文化中養成的，不會說因為研究，如果你原來沒有一個社會文化的、生活世界的底子的話，即使研究出來意義，可能你也不會去接受吧。可是你的社會生活、社會文化，這個恰恰是我們當代社會所缺乏的，而這個意義在某種程度上，其實應該是我們人文學術所提供的。如果我們在基礎教育的過程中沒有足夠地接觸到我們自身的歷史文化，那么這個意義的建構就缺失了，那么等到你進入到高等教育的階段，通過科學研究來建構，那恐怕只能是一個虛無的意義了。所以在這一點上，相當于給我們人文學術做一個廣告，人文學術是提供著生活意義的這種基礎性的東西，雖然我們作為理工科大學，但我們的基本的人文素養還是非常必要的。所以大家還是要多花點時間來選我們人文社科通識課。

2024年12月15日，劉鈍應邀在南方科技大學演講（南科大講堂No.388），田松主持。以下是根據錄音和PPT演示文稿整理的演講稿的問題互動部分。張美玲、潘雅萍據錄音整理，田松審校，復經演講人過目刪定。完整意見稿請參看劉鈍《霍爾丹與代達羅斯——神話、科學、社會與倫理》（上海科技教育出版社，2025年）25-51頁。本次發布前有微小潤飾。