重新定義甚至設計“我”，科技該不該？還能不能往前走？

如果意識脫離身體，那還是“我”嗎？如果技術發展有其不可逆的慣性，誰來為技術的邊界負責？如果我們賦予AI“造物主”的地位，人類是否會體驗到一種普羅米修斯式的羞慚？這是北京大學新聞與傳播學院胡泳教授在虎嗅F&M創新節現場發出的警醒。 而與之形成對比的，是另外三位嘉賓對AI的宏大愿景： 百川智能創始人王小川將AI視為人類文明的有機組成部分，提出“未來的人類歷史將與AI共同書寫”的判斷； 腦虎科技創始人陶虎堅持“大腦作為人的核心”，試圖用技術增強人的主體性，讓人類在智能競爭中不被甩下； 涌源合生聯合創始人孟凡康以合成生物學展示了生命未來的廣闊空間：當生命可被重新編寫，人類是否仍是自然所定義的“那個人類”？ 在虎嗅F&M創新節現場的《我是誰，我還能是誰》圓桌上，在主持人紀中展的追問下，四位嘉賓究竟將討論推向了怎樣的深度？以下為整場圓桌內容實錄——

我，如何被重塑？

紀中展：剛才三位講者給我們展示了三個方向的生命突破，AI醫療延展了生命的邊界，腦機接口延展了大腦和心智的邊界，合成生物學又延展了生命創造的邊界。王小川講的是為人類造醫生，為生命建模型；陶虎講的是重塑生命，突破人類生存與認知的邊界。孟老師講的是重寫世界，設計大腦。聽得我是越來越興奮，也越來越迷糊，被他們三位重塑重構設計之后，我還能是誰？我還是原來的我嗎？我怎么才能重新成為我？

我想先問一下王小川，你所講的醫療AI到底是讓人更自由，還是會被更系統定義？你的產品技術會把人帶到哪兒？你想為人類造醫生、給生命造模型，你的價值觀和敬畏是什么？

百川智能創始人王小川，圖源：虎嗅F&M創新節現場拍攝

王小川：首先相對于后面兩位，我的價值觀可能是最保守的，至少沒把人本身給重寫了。但即便這樣我也很困惑，因為在我2023年下場做AI醫療后就意識到一個問題，即AI將進入社會成為人類的一分子，我們將與科技融在一起，所以越往下走，人跟機器的邊界問題（我是誰？）可能會越嚴重。我甚至會認為往后人類的歷史就沒幾年了，因為人類要和AI共同創造歷史。

我覺得“為人類造醫生”也只是一個階段性的目標，讓人類的精神和肉體更自由。今天我們是讓AI去“修理”人，以后可能是讓AI去“修理”機器人，最后的對象可能還會有大的變化。

我大概在2023年底的時候在知乎上發了一個帖子被罵得很慘，我說程序員是自己的掘墓人，其實是仿照了馬克思那句“資本家是資本主義的掘墓人”。馬克思那句話還沒兌現，但“程序員是自己的掘墓人”這句話可能提前兌現了，今天不會寫程序的人也可以讓AI幫他寫個程序運行。

所以不要覺得人強大到AI永遠會是我們的仆人、工具，AI終將超越我們，我們會共同創造一種文明。

紀中展：最克制的已經講完了，我們聽聽沒那么克制的想法。陶虎老師，當意念能被讀取，那我的意念是不是變成公域了？

陶虎：我原來一直癡迷于長生不老，但縱觀歷史長生不老術之后，感覺他們都想從肉體上改變，卻沒人想從“人本身活下去”這個角度來改變，剛才說的意識什么的可能太“玄”了，我說點相對比較基礎的東西。

人無非就是兩類病，一類是除了大腦以外其他地方的病，不管骨折也好，缺胳膊少腿也好，其實都可以用醫療器械去修補。

這時你會發現，身體裝骨釘、裝假手沒有人會質疑你“不是人”，唯獨你在大腦里動了一點手腳，人們就開始想“你還是不是人”。所以大腦在“定義人”里面占有決定性比重。

人的大腦有兩個很大的特征，第一人類大腦是一個功耗比極大的超級計算機，比現在所有的npu、gpu、cpu功耗比都要高很多。比如你今天早上吃了一個饅頭，到現在依然可以思考，但用算力去做的話，現在該考慮能源問題了。

所以現在“類腦”也好，各種各樣的架構也好，他們都在學大腦，但我認為都只是碰到了皮毛而已。大家一直在擔心人工智能會變強，人工智能會把人類取代，它背后是基于兩個假設，第一覺得人的大腦不會再進化了，這點我不認可。

原來人們常說愛因斯坦大腦只用了30%就很厲害了，一個普通人用了20%就很出色了，背后是基于大腦的利用還沒有被窮盡，一旦我們通過腦機接口的方式不斷去認識它，反過來去激發還沒有使用過的區域的話，雖然整個使用是線性的，但由于大腦巨大的網絡連接，它的性能是指數的，所以我不太擔心人工智能會取代人類智能，更多是怎么結合，而且我一直堅持人類智要占主導作用，是我去決定使用什么樣的人工智能合作。

我雖然時刻準備植入腦機接口，我一直認為不管是腦機接口還是其他技術，人依然在本位，外界的所有東西都會為人所用。

腦虎科技創始人陶虎，圖源：虎嗅F&M創新節現場拍攝

紀中展：你愿意把大腦接入到網絡嗎？

陶虎：我一定愿意。為什么一定愿意？比如我是一個性子很急的人，剛剛哪怕我語速這么快也只能說這么多信息，但同樣的信息如果用上腦機接口，15分鐘的內容在兩分鐘內就能分享完。

為什么我們要堅持做腦機接口？不僅僅看中某個疾病的修復或者某個功能的替代，而是大腦跟外部世界信息通道的帶寬需要更可靠、更高效、更多維。

紀中展：如果意識可以備份升級遷移，那保存下來的還會是你嗎？

陶虎：這個不一定，因為我是工科出身，對純文科或者哲學這一塊不太理解，但之前我們一直在說一個詞叫數字生命，它就兩個關鍵詞，“數字”、“生命”，最直接的就是AI最后有自己的想法了，這是一種方法。第二個就是生命的數字化，把我的既有意識備份，存在云端。

但不管怎么樣，這兩塊都需要腦機接口發揮作用，所以我不管最終的技術路線是怎樣的，把大腦和外界digital的東西結合在一起是重要的事情。

紀中展：我再問問孟老師，當生命可以被設計，我們從自然存在走向了工程存在，最讓你感到興奮的突破是什么？最警惕的越界是什么？

孟凡康：我想談兩個事，一是合成生物學會讓人成為人嗎？還是不成為人？我認為會讓我們成為人，而且要加一個前提——更健康的人。

我們全身其實有很多疾病，合成生物學會讓我們的癌癥消亡，讓我們腸道更健康，讓我們生活得更舒適，包括阿爾茨海默癥海默癥，我們都可以通過合成生物學設計的藥物或者細菌療法去解決。

同時我認為合成生物學也可能讓我們變得“不是人”。分享幾個案例，在生物學上有一個基礎的理論是DNA由4種物質（ATCG）組成，蛋白質是由20種氨基酸組成的，DNA是生命的底層代碼，而蛋白質負責任務執行。那么問題來了，為什么只能有4種和20種？能不能突破？

比如你要設計一個100種氨基酸組成的東西，比如我們通過合成生物學把更多不同種類的氨基酸摻入進去，那組織空間就變成了100的100次方，這比原來人類進化的可能性多很多。當AI可以幫助我們設計更多的功能蛋白時，生命本身將會產生天翻地覆的變化。我們可以暢想在非常極端的環境中生存，比如在火山口地下的超高溫熱泉里面生存，甚至有幫助我們拓展星際文明的可能。

當然，這些都需要在現有道德框架和法律框架下執行，有些毒蛋白能夠殺人，但明顯超出了現有倫理道德及法律框架，這顯然是不行的，這也是大家需要警惕的點。

涌源合生聯合創始人孟凡康，圖源：虎嗅F&M創新節現場拍攝

AI洪流下，如何定義人的存在？

紀中展：胡泳老師，聽他們三位講完，你認為從哲學和社會學的視角來看，人的存在、人的意義、人主導權應該守在哪兒？

胡泳：我自己也不是搞哲學的，但我覺得在現在這個年代，每個人都必須變成哲學家，人工智能其實把我們帶到一個場景下，每個人需要思考作為一個人到底意味著什么？

首先聲明我不是制造對立，但我聽下來覺得幾位都屬于超人類主義者或者是后人類主義者。想象中似乎把很多科技加到人身上，人就可以從普通人變成超人了，我們生產的物種可以不是人。

但我想講兩個方面的事情，第一個事情我并不覺得人之所以為人，純粹是靠腦子，換言之大家可能低估了身體的重要性。

我們可以思考一個問題，昨天的你和今天的你還是同一個你，這僅僅是因為腦子的原因嗎？僅僅是因為你有記憶、意識、心理活動，才是同一個你嗎？身體存在的意義在哪里？比如剛才孟老師舉到阿爾茨海默的例子，阿爾茨海默病人的記憶被打斷了，但他的身體還在，如果這個病人是你的親人，你能說這個人就不是這個人了嗎？

我覺得我們低估了身體跟智能的關系，低估了身體在人的同一性之間的重要性。換言之，你真的把意識上傳了以后，這個意識沒有身體，那我們真的可以討論一個問題——上傳的那個東西到底是個啥東西？還是不是我？

另一方面，我們人類在進化過程當中，把很多資源單兵突進式的放在大腦上，導致我們的腦容量比其他物種更大。為什么在進化的時候一定要把腦子進化得這么厲害？我們當然可以再增加腦的潛力，比如通過科學讓每個人都變得像愛因斯坦。但有沒有想過一個問題，我們把腦子進化得這么厲害是為了干什么？我認為從人類社會的發展角度來講，腦子搞得這么好是為了要交流、合作，要八卦、要鉤心斗角，甚至就是為了要讓人有社會性。

但其實我們每個人現在越來越原子化，我們不合作了，每個人都活在自己一個小小的監獄里，在這個監獄里所有東西都可以提供，你沒有必要邁出去，也不需要跟他人發生關系。所以人腦進化得再好也別忘了目的是什么。

北京大學新聞與傳播學院胡泳，圖源：虎嗅F&M創新節現場拍攝

紀中展：我想請陶虎老師回應一下。

陶虎：胡老師的出發點我能理解，我說幾個看到的案例和感覺到的進步，從歷史維度來看，僅僅從社會進步和科技發展角度，信息傳遞、存儲和交流的效率這件事兒貫穿過去幾百年甚至幾千年。

從古代甲骨文到書信，從電話到現在各種多媒體，信息交互、傳遞、處理的效率越高，科技、經濟的進步，乃至文化文明的進步都相對越快。但到現階段，人類文明的瓶頸在于人本身跟外部世界的交流速度，現在正常人的交互速度跟不上硅基發展的速度，這就是為什么我們會擔心人工智能會取代人的原因。

第二個現象是，我們先不談把正常人變成超人，就談把病人變成正常人這件事情，從大腦入手是很有意義的。中國的漸凍癥病人（不能說話、不能動）有十幾萬人，平均生存周期大概是48個月，而且它很規律，每年新增3~5萬人，死去3~5萬人。此外，高位截癱幾百萬人，偏癱幾千萬人，失語癥幾百萬人。腦機接口能讓他們恢復或部分恢復他的交流需求、情感需求、工作需求，這對于這么大的病人群體來說是非常有意義的。

紀中展：我也想請王小川來回應一下。

王小川：其實我聽完之后覺得這兩位是來拯救人類的（笑），因為今天硅基進化得非常快，而且硅基已經能像人一樣交流思考，認知世界甚至改造世界。

如果你問我是大腦重要還是身體重要，我可能還是偏大腦這一塊，認知世界、改造世界、決策思考還是需要依靠人腦。

今天的問題是很多角色AI開始干了，以前開車是自己開車，但現在是告訴導航軟件你要去哪兒，它會給你規劃整個路線圖，背后事實上是機器做決策，人在做執行我們不自覺地在把決策權交給AI，未來會有更多決策權都會交給AI。

現在很多人說AI不行是因為你沒把它當人來看，只給了它少數幾個關鍵詞，他自然沒有良好的表現。你不只是需要給它上下文，還要control它。

今天在AI領域我們遇到了巨大的機遇，但同時也藏著巨大的挑戰，人類開始讓出自己的決策權，成為了單純的執行者。我內心有一絲悲觀，擔心機器開始優于人，如果這個世界50%以上的決定是機器做的，那到底是誰在控制這個世界？AI就像人類養的娃，如果人類與AI能一起往前走，而不是極端情況下只剩AI，那會是最美好的畫面。

人類控制AI，還是AI控制人類？

紀中展：胡泳老師，如果從“我，重新成為我”的命題來看，他們三位的分享主旨，一個是為生命建模型，一個是重塑生命，另一個是設計生命，您認為區別在哪兒？

胡泳：在ChatGPT出來以后，很多美國人工智能界的人在傳閱一本老書，翻譯成中文叫《原子彈出世記》。同時，諾蘭在拍奧本海默時也接受過記者采訪，他說做人工智能的人都對人工智能和原子彈誕生之間相似性感到可怕。

我認為有時候社會發展的巧合會讓人很震驚，因為山姆·奧特曼的生日跟奧本海默是同一天，甚至奧特曼也覺得他的計劃可以跟曼哈頓計劃相媲美，所以我就去把這本書找來看了。這本書一開頭就引用了奧本海默的一段話，這段話大意是說，科學家能夠做出一個科學發現不是因為它有用，而是因為它一定會被發現。

這段話讓我很震動，它在闡述一個道理，即很多時候你做了一件事情以后，它并不止步于此，就像那個潘多拉之盒的比喻，雖然我的出發點是好的，我想它應該在這個地方有一個界限，但最終奧本海默承認說，他之所以要搞原子彈就是因為原子彈在技術上有“甜蜜點”。

所以辛頓后來到處講說人工智能對人類有風險，那有人就反問他這不都是你當年搞出來的嗎？你當年干什么去了？于是他承認在科學上有甜蜜點的技術科學家就一定要去發現它。

從這個意義上來講，“負責任的生命設計”這句話本身就是個悖論，一旦你進行生命設計了，就沒有負責任這回事兒了，跟剛才我講到《原子彈出世記》這個邏輯是一樣的。

第二個，我覺得王小川對人類控制權的預期還是樂觀了，將來不會是50%的決定由人工智能決策，一定是90%以上甚至99%。我經常打一個比方，有一個寓言叫做阿拉伯人的帳篷，講的是阿拉伯人出于憐憫允許駱駝逐步將頭、脖子、前腿伸入帳篷，最終被完全擠出帳篷。

陶虎：我想表達的一點是，哪怕中間我們犯過很多的錯誤，但我對人類仍舊有極大的信心。其次，做“重塑生命”這個事情需要有足夠的耐心，把所有的病人變得正常，甚至從正常變成超人，會是一個很長的過程，我們不去讓道德審判作為科技進步的阻力，但是也不能讓科技進步作為道德失控的借口。

孟凡康：我舉個實際的案例，關于我們在合成生物學領域是怎么管控安全的。

我們建立的整個系統第一個環節就是一套完整成熟的生物安全篩選系統，當任何用戶提交DNA合成序列的時候，如果發現了任何問題，比如說這個問題跟自然界的某些有害的東西匹配起來了，那我們會拒絕掉。或者說你用AI設計避開了我們障礙，我們發現跟自然界的沒有任何相似度，我們也會拒絕掉，因為這往往會帶來風險。

在此之外，其實整個科學共同體都在積極的行動來發出倡議，倡導一個更安全的更合理的生命設計，我覺得這一點是一個負責任的開始，但就像胡老師說的確實會有風險，這個過程中需要大家都參與進來，無論從政策制定到技術發展都要共同參與、共同設計保障。

王小川：一個重要的關鍵詞是，什么叫做人類？

人類是指這個人的肉身加腦子嗎？剛才還提到科學家共同體，我想一個科學家也不是光指你的肉身和你腦子，你發表的論文和引用數也是你的一部分，我們很容易認為自己的肉身是“本我”，但當它脫離了外部環境而單獨存在，它也不能成為人。今天我們跟古人的不同之處不在于DNA肉身的不一樣，而是我們的知識，我們的觀念不一樣了。所以不應該把人肢解成DNA或者肉體或者腦子，而是把AI作為人類文明的一部分來看待，不去恐懼它。

就像你遇到外星人也不會只研究它的肉體，還包括它們的科技，它們的溝通方式，共同構成了外星文明。所以重新定義“何為人”之后，我們再與AI去對齊，把它當成我們人類的一種，它可能比貓狗更接近我們，更是我們要去呵護的一個baby，成為我們社會的一部分。

胡泳：我覺得AI不太可能會是一個baby，現在你賦予它意義的時候它是個baby，但是當弗蘭肯斯坦養大了以后，他肯定不是baby了，甚至會逆著你的所有意志來行事。

大家知道人跟大猩猩之間其實有很大的差別，大猩猩跟螞蟻之間的差別會更大，可是在超級智能的視角下，你會發現生物間的差距根本都不算差距了。

愛因斯坦大家公認是天才，但是在超級智能看來普通人和愛因斯坦區別并不大，因為智能的差距太大了，一旦超級智能完全碾壓人類智能時，那關鍵問題就來了：人類憑什么能戰勝所有的物種變成地球的霸主？為什么不能是AI？這里其實進入好萊塢式的暢想了，我是想說明AI不太可能是那個“baby”。

主持人紀中展，圖源：虎嗅F&M創新節現場拍攝

孟凡康：今年有一個發表在《Natural》上的報告，它用AI大模型設計出了一個生物的分子，按照自然進化而言，這個分子需要5億年才能從最初的蛋白質進化到現在的蛋白質，但是AI在一周之內就完成了這個東西。

所以我覺得AI能夠足夠強大并跟生物整合在一起的話，我希望它能夠幫助人類進化，適應環境。如果AI能融入到整個生命設計中，我們可以更好地把人類文明延續、拓展下去。

陶虎：剛剛胡老師在講的時候我一直在反省自己，怎么能讓個體成為更好的個體？我希望能夠增強我的共情能力，增加我的情商，而不是我現在做的這個越來越有邏輯性和冷冰冰的技術。人之所以是人，共情是一個很重要的特點，我希望我的情商能追得上我的智商。

王小川：我們人是活在悖論當中的，每個人都希望自己的生命能夠延續下去，但我們都終有一死，我們都需要一種延續傳承，所以更多人選擇是生娃，為了自己娃能活得更好，自己捐獻器官，甚至選擇死掉去托舉孩子都是愿意的。

對我而言，我也是抱著這樣一種方式來對待AI的。但首先我得創造AI，同時讓人類更加的健康，我也就獲得了快樂，將我的創造、健康、快樂統一了。

胡泳：我越來越覺得其實能夠“死亡”的生命挺好的，人為什么要永生？永生為了什么？肉體也會脆弱，也會生病，也會衰老，這些我覺得都挺好的，也沒有必要改造。

其實我們總把自己放在一個造物主的高度，可一旦開始造物，那很多事情其實是由不得你的，它自己會有想法，它會按照他的勢頭來走，那它會走到一個什么地方？

你面對自己的造物會覺得自己比他差太遠了，我稱之為“普羅米修斯式的羞慚”，我認為這個不是我樂意見到的，也不認為AI往這個方向走是對的。

本文來自虎嗅，原文鏈接：https://www.huxiu.com/article/4810928.html?f=wyxwapp