
作者 | 唐小引
出品 | CSDN(ID:CSDNnews)
對于 AI,我常常感受到 世界的參差,比如:
程序員說:
AI Coding 工具是我們結對編程的好搭子,研究怎么提效。
程序員的工作遠不止寫代碼,還有開會、對需求、調 Bug 等等,AI 取代不了我們。
做老板的則說:
AI 的時薪要遠低于人類的時薪,我雇一個初級程序員,可能得要一兩萬,但是我買 Claude Code,200 美金,也就一千多人民幣。AI Coding 替換的根本就不是之前的 IDE 市場。
每一個專家/資深人士曾經都是菜鳥/小白,但現如今 AI 正在鋸斷通往專家的階梯。由技術進化帶來的問題,答案已經超出了技術本身。
當我讀完張笑宇所著的《AI 文明史·前史》,對之前困惑的問題就有了一些答案。
![]()
張笑宇本身是科技史作者出身,深諳政治史、社會學,但并非技術專家。《AI 文明史·前史》是他花了一整年時間與全球范圍內的 AI 一線從業者、研究人員、企業家、思想家、非 AI 領域學者以及其他相關人士密集交流后得出的結論。這本書的核心是用社會工程學的方式討論 AI 帶來的影響的本質,反而會收獲一些新的啟發。
書中主體涵蓋了 4 個概念:
1. 是技術圈常議的「涌現」,從本質上來說,人工智能的智慧與你我一樣,都是從復雜神經網絡之中“涌現”而出的。滋養「大腦」的語料來自孔子、李白、柏拉圖、牛頓等等。從這個角度講,似乎也是挺有意思的類比。
2.人類當量:即以「token」(詞元)為計數單位,衡量 AI 量產智能的效率。張笑宇這樣說道:“如果我們承認當下社會運作的一般經濟法則,即金錢價值是衡量智能價值的最泛用標準之一,那么按照性價比來計算,99% 的人類將被 AI 取代,這只是一個簡單的成本收益問題。”
3.算法審判:我們將進入一個由算法完成主要社會治理職能的時代,「算法治理本質上是對我們最正義的審判」。比如:困在算法里的外賣騎手、短視頻的算法等。
4.文明契約:一個設想 —— 在勝過所有人智慧的超級智能面前,人類是否也有可能簽訂一份「文明契約」?來保證不同智力水平之間的文明能夠共存。
本期《萬有引力》,我們嘗試從社會工程學的角度,分析AI 對于我們的職業,尤其是程序員,究竟會帶來怎樣的變化?AI 進化迅猛,我們的思維也在不斷刷新。
歡迎收聽播客,如有興趣觀看完整視頻,可在文末獲取
等待 AI 在社會工程學層面緩緩展開
唐小引:大家好,歡迎收看由 CSDN 主辦的《萬有引力》欄目,穿越復雜世界,解讀技術真相。今天很榮幸地邀請到了“文明三部曲”的作者張笑宇老師,帶著他的全新著作——《AI 文明史·前史》,來和大家一起見面,分享他從社會學角度對于 AI 的研究和思考。歡迎張老師,可以給大家打個招呼,做一下自我介紹。
張笑宇:大家好,我是張笑宇,我本身其實是寫科技史出身的。從前幾年開始關注 AI,去年決定寫一本探討 AI 會給我們人類社會帶來哪些影響和改變的書,就是現在和大家見面的《AI 文明史·前史》。我更愿意把后三個字“史前史”連在一起讀,因為它在暗示:在 AI 面前,咱們都是史前動物。所以“史前史”指的是我們現在已經發生的歷史和將要到來的現實。
![]()
唐小引:我其實前面看到您說“我們都是史前動物”這句話,相比于驚訝,更想先問問您,AI 幾經起落,業內也熱議 Scaling Law 延續問題,您怎么確定我們在 AI 面前全都是史前動物,而不會再經歷寒冬?
張笑宇:今天我們聊 AI 時,已經確定了一個基本路線,相比之前是有效的。這個路線就是“涌現原理”,其實落實到具體就是 Scaling Law。之前的 AI 寒冬,比如上世紀六七十年代到八九十年代,當時人工智能的主流研究范式還是符號主義。本質上來講,符號主義和兩千年來的哲學史一脈相承。主要就是探討人的邏輯思維究竟是怎么回事,探討了很久之后,再有一批人出來把邏輯思維的成果數學化,用符號和數學來表達我們的邏輯推理。到 19 世紀的時候才有諸如英國數學家喬治·布爾等去寫的關于邏輯的書(《邏輯的數學分析》等),當時寫了也不知道有什么用(最初沒有引發廣泛關注,但隨著時間的推移,布爾代數成為了電子工程學、計算機科學、邏輯學和數學中不可或缺的一部分)。
但是后來 20 世紀出了一個人叫香農,香農說這就是我們可以搞的電路邏輯和通訊邏輯。接下來我們就看到了信息論這些東西,在 20 世紀終于找到了它的實際工程應用。
這基本上也是計算機科學的邏輯。我們試圖用這個方式去做人工智能,簡單來說就是讓計算機像人一樣思考。
80 年代發現整個符號主義的路是走不通的,但是我們又很幸運地發現另外一條路是走得通的——連接主義。用算法去模擬人類大腦的神經元,把它的規模做得足夠大,把深度學習的層做得足夠深,會發現智能從這里自然地涌現出來。就好像生物在進化時,簡單的神經元最后匯集成一個稍微復雜一點的大腦。一開始是無脊椎動物到脊椎動物,出現了脊髓和神經節,接著進化出初級的腦,然后是更發達的腦。你會發現智能和自我意識會隨著腦的進化自發地涌現出來。
今天就是這么一個情況。搞技術的都知道那篇著名的文章“The Bitter Lesson”(《苦澀的教訓》),我們用盡了辦法去歸納智能到底是什么,但是發現這件事遠超我們自己智慧能總結的。所以我們就發現了另一條路,就是不要過分相信自己的智慧,而是去模擬造物主。當然,不一定有造物主,核心在于生物是怎么進化的,智能怎么從這個結構里涌現出來?我們去模擬這條路時,發現它是有用的。
那么問題無非是,下一次的涌現到底需要什么樣的結構和多大的規模(包括算力、數據的規模)?我們不知道,這個確實沒有確定性。但是我覺得至少有一個有效指標:當我們有一個新架構、新算法,又發現在某個方面 Scaling Law 發揮作用時,我們就知道自己走對了。
所以相對來說,一方面我本身相信這個事情還是會發生,我們每個人可能有生之年是能看到 AGI 的。另一方面,過去幾年,其實每一個節點都會有人出來唱衰,但是每一步,這三年你不敢輕易地對行業下結論說寒冬已經到來,因為至少這三年的經驗是關于“冷”的預判都錯了。我們也不能說未來的“熱”的預判一定對,但是至少從經驗來講,我覺得暫時沒有辦法對它下那么一個武斷的結論。再者,我在書中圍繞 AI 進行社會分析時,并沒有立足于 AGI 的實現,大部分還是基于 AI 目前的能力。我認為 AI 改造我們人類的數學原理已經具備,只是要等到它在社會工程學層面緩緩展開而已。
涌現——從宇宙大爆炸到人工智能
唐小引:我們在技術維度探討智能涌現可能具備隨機性的特點(Context, Not Control),但您認為,從人類社會的發展上來講,涌現是必然的。
張笑宇:其實從物理到生物再到人類社會,我們發現這個規律是普遍存在的,它背后暫時我們沒有找到具體的科學依據是什么。但如果把它作為一個普遍現象進行總結的話,我們看到很多共性。
比如我在書中引用了《萬物涌現》(
The Emergence of Everything)里講到的宇宙大爆炸,從基本粒子涌現出不同的原子、分子,組成不同的元素。再比如在地球,你看到原始生命的誕生,最早其實就是一鍋原始湯,在大氣環境之下,因為有幾千上萬年的放電,在閃電的刺激之下,會發現這個過程事后來看是完全神奇的事情:一堆無機質居然合并成了大分子蛋白質。因為這個大分子蛋白質自身的機制對于某些化學物質是有篩選、偏好的,對另外一些是排斥的,這后來就涌現出生物的新陳代謝,生命就自然誕生了。用事后的角度來看,就好像一堆零部件自動組合成了一個機器人一樣,非常神奇、難以想象的,但它就是這么發生的。
用同樣的角度去觀察細胞到生物體。如果站在單細胞的角度來講,延長自己生存的最佳策略是變成癌細胞,因為癌細胞是永生的。但是我們發現,當給足了規模和多樣性之后,細胞并沒有全部選擇成為癌細胞,而是選擇了分化。有些細胞專門負責生殖,有些專門負責神經元信息傳遞,有些專門扮演骨骼或者肝臟等等。然后簡單生物體自發涌現出復雜生物體,當神經元細胞組合在一起,拼成足夠大的規模時,智能就從中自然涌現了。
人類社會里也是對應的。當人類這個物種湊在一塊兒時,我們自然涌現出了語言。從語言里就自然涌現出了各種模因(Meme),我們的宗教、理論,甚至是小說、網絡段子,都是某種模因。在這些模因里,有些自然淘汰了,有些沉淀下來,變成了我們看到的宗教、文化、哲學等。
接著我們智人這個物種又涌現出了貨幣。這是最簡單的規則,但是它覆蓋的面最廣。只要以金錢為向導,每個人發揮自己的聰明才智,各種新的行業、企業、組織,比如說去炒股,有各種新的金融工具、匪夷所思的設計,只需要人的精力被簡單規則激發——去賺錢——它就會自發涌現出無數神奇的東西。這是我對涌現的總結。
涌現的基本原理是,一個系統的規模足夠大、規則足夠簡單、多樣性足夠豐富,它會自然出現非線性增長,從一個簡單系統躍遷到一個復雜系統。站在簡單系統的層面,完全無法想象復雜系統是怎么發生的。只有站到復雜系統回看時,才知道突然出現了一個效果:當它規模大到一定程度時,突然出現了一個 1+1 大于 2 的效果,就是整體大于部分之和。這個是怎么出現的?我們今天還沒有一個統一的理論去解釋。
這里也要強調,涌現還不是一個像牛頓定律一樣得到驗證的科學規律,它是我們對一系列現象的描述的共性總結。所以本質上來講,我覺得這個事兒可能更接近于某種信念。我出于信念相信,人類的智能和人工智能都是涌現而來的。只要我們走在這條路上,我覺得我們是可以做出 AGI 和超級智能的,而且可能不會特別遠。
技術帶來的社會影響,不在技術本身
唐小引:我們從技術研發層面學 AI 時,更多的是去深入它的技術原理,比如機器學習、深度學習這些算法層面。但我們逐漸發現許多困惑在技術本身沒有辦法得到很好的解決。從 AI 的歷史發展上來看,確實有很多跨學科的聲音。這是您第一次出版核心圍繞 AI 主題的書籍。程序員界一直有各種技術鄙視鏈的梗,其實背后一定程度上反映了技術的難易程度。不知道您在寫這本書時,有沒有覺得是困難或者難點的地方?再者您從社會學的角度看 AI 有哪些不一樣的啟發?
張笑宇:我覺得第一點,所有的鄙視鏈都是誕生在一個封閉系統里。在封閉系統里,你非常知道每個層級在做什么,每個層級創造的價值哪個更大,才會有一個鄙視鏈,創造價值更大的鄙視創造價值沒那么大的部分。但是人類社會是個開放系統,所以一旦涉及到跨學科時,鄙視鏈就不成立了。
對我來說這個事情很簡單,而且我也了解很久了。因為我自己是科技史作家,我非常清楚一件事:技術專家知道這個技術是怎么來的,也知道他能做出什么東西來,但是這個技術到底有什么社會影響,這不是技術專家的職責,因為他不研究社會。而這也同樣是社會學家回答不出來的,因為社會學家不懂技術。所以我們科技史學者過去比較多地去回答這個方面的問題,因為我們要兩邊都看。當然,我可能比傳統的科技史學者更愿意從技術內部視角去看這個問題。
因為傳統科技史放在歷史系,很多時候做的事兒和考古差不多。每一個古代技術本質上都像一個地下陵墓一樣,要做得很細、去發掘。但是當你分析社會影響時,不是在做考古,而是從技術屬性本身,把人類社會理解成是一個有很多參數的運算系統,然后去看一個新技術改變了它的哪些參數,用這個角度去看技術怎么影響社會。這個是我們這個專業一直在做的工作。顯然,程序員、工程師或者技術專家每天做的事不是這個。自然,我的書也沒有回答算法原理是什么,哪種算法更好。
唐小引:這部分我們會看專門的技術書籍。
張笑宇:對,你不用看我的書了解這個問題。我只是為了講明白為什么我覺得 AI 會這么影響社會,而去對技術發展脈絡做一個解釋,因為很多人沒有技術背景,我必須給他們稍微解釋一下。但是對我而言,我的研究不可能像技術專家那樣深入,我只是大概了解到這個技術能干什么,那條脈絡是怎么演變到今天的,這個就足夠了。剩下的就是要找到一個基點,這個“基”是基礎的“基”,這個點是展開對人類社會參數系統進行分析所必須的前提,然后再在這個基礎上推演。
簡單來說,AI 跟歷史上的所有技術有一個最大的區別,在于它是一個能夠低成本量產智能的技術,這在歷史上沒發生過。第二,這個量產智能的效率提升,我們大概是可以算得出來的。因為如果我們把智能都看作可以符號化的——簡單說,人的一切智能表現都可以用語言來表達,或者用語言相關的東西,比如詩歌、文學、藝術、圖像等等。
唐小引:維特根斯坦說的“語言的邊界就是世界的邊界”。
張笑宇:對,當然它有不可說的東西,不可說的東西我們就不管了。但是只要能用語言來表達的,AI 都可以做得到。那么我們把一切智能定義為都可以用語言來當做載體表達出來的。
接下來我們就可以把它進行量化。現在我們有 token 這個計算單元,我們聊天一分鐘,我輸出的智能基本就是 200 個 token。我一天說 16 個小時,基本上就輸出 20 萬 token。那 AI 輸出 100 萬 token 只要一秒鐘,更要命的是只要一塊錢。你給我開一天一塊錢工資我得餓死,但是 AI 能完成我五天的工作量。所以這樣比的話,我把人看作生產智能的機器,也把 AI 看作生產智能的機器,它的性價比、它的成本是我的幾千分之一,你再算的話,可以是上萬分之一。
你訓練 AI,這個技術從 ChatGPT 到現在研發了三年,從 Transformer 到現在研發了八年。而現在一個大模型至少能夠相當于幾千萬個博士生的水平。今年 GPT-5 的 Benchmark(基準測試)已經達到了博士畢業生的水準。那你培養 5000 萬個博士生需要多久?要上二三十年的學,要投入很多金錢和精力。這個技術現在給你量產了。只要我們人類社會還圍繞金錢來運作,只要你的老板還在算你的工資、算投入產出比,他肯定會用 AI。雖然可能 AI 沒有你的表現那么好,但它太便宜了。
這是現在正在發生的事,我沒有在聊 AGI 的到來,我聊的就是現在它已經打敗了 99% 的人類,因為99% 的人類是沒有博士學位的,它在性價比上又比你便宜幾千倍。這個事情就是我們去理解技術改變人類的“數學原理”,現在已經發生了,我們只是等待它未來用一代人的時間在我們的社會中展開。
就好像 20 年前,當喬布斯給大家展示 iPhone 4 時,整個移動互聯網的“數學原理”已經發生了。因為有了它之后,你能以之前十分之一的成本,用這么一個陪伴你十幾個小時的終端去接入互聯網。實際上這個“數學原理”會決定后面一系列事物的展開,比如移動支付、社交媒體、在線購物(電商)等。你只是要等 20 年,等一代人在這個基礎上去創業,把這些公司、App 做出來。所以我們現在就站在一個“iPhone 4 發布”的時間點,這個數學原理已經在了,我們只要等 20 年,它去席卷我們現在熟悉的一些行業、社會結構、經濟系統。
唐小引:這其實就是我在技術圈感受到的世界巨大的參差。因為程序員離 AI 最近,ChatGPT 出來之后,大家就說先革程序員的命。但這差不多三年的時間里面,從最開始的程序員自身很焦慮的被取代,到現在程序員們其實在日常的使用中,基本上大家都用 AI Coding 的工具,相當于結對編程,有了一個 AI 搭子。這是我從程序員的角度聽到的,大家更關注怎么去提效,怎么去用。但是我去聽老板(資本家)講的又不一樣。很多哪怕是程序員出身的老板,都說:“我作為一個資本家,我站在資本家的角度去想,我是不是能夠花更少的錢去聘用?”比如現在 AI 寫代碼的能力至少比初級工程師要好,而且比初級工程師更便宜。那這個時候站在老板的角度來講,我就想把初級這部分直接用 AI 取代掉,讓一個資深的程序員帶著一幫 AI 助手、AI 搭子。這個就是讓我感受到從程序員和老板的不同角度。
張笑宇:你舉的這個例子就很好地說明了技術和社會工程學之間的關系。程序員是技術的直接載體,但是程序員是在一個社會結構里發揮作用的,公司里是有權力結構的。
雖然現實中你覺得 AI 現在還沒有那么強,你要經常地去介入 AI 的工作,它對你的替代效應其實不應該那么大,只是它確實增強了你的效率,也讓你閑暇時間變長了,可以喝杯咖啡看它在那兒寫代碼。但是你還是活在一個公司里面,這個公司活在社會的經濟結構里,要講故事、營銷、融資,要對著有錢人去銷售它的股權。
所以今天會流行一個敘事:硅谷的老板們面對華爾街的老板們,華爾街老板們是不懂技術的,硅谷老板們只能把技術打包成一個敘事,跟他們講這個技術是革命性的。為什么?因為它可以讓我們降本增效,可以讓我們裁掉多少程序員,又多服務多少人。華爾街的老板當然很興奮,但是他也不知道技術原理,他說:“OK,你把財務報表給我看。”公司就在財務報表里把員工砍掉,把 AI 的投入加上,然后給你畫出一個曲線,說明天能漲多少,后天能漲到多少,然后你被裁員了。這就是技術跟社會工程學之間的關系。
從技術出身的人來講,可能覺得這個事情是扯淡,但也不完全是扯淡,因為社會工程學本質上是一群人意志的極大投射。而當這批人的意志能夠調動巨大資源的時候,這個事兒也是會發生的。可能我們覺得馬斯克去裁員這個事兒很粗暴,不太對,但是它就是發生了,發生之后其實也沒啥太大的問題。所以這就是你用技術視角去理解技術革命,跟你用社會工程學的視角去理解技術革命之間的巨大差別。
對我而言,我覺得對程序員來說,真正的“GPT Moment”是從今年開始,就是從 Claude Code 開始。在 22 年 GPT 出生到去年,我覺得它最先代替的是客服、接線員,其實還有設計,它能生圖、生文案,改變營銷的工作方式。那塊代替得更激烈,因為我們發現 AI 真正擅長的首先是語言游戲,是描述沒有那么精確的那一塊。文案也好,藝術生圖也好,你會發現 AI 生成的圖都是有問題的,但是很多人沒有注意到,因為他看廣告圖都是一掃而過的。
所以 AI 生成的質量夠用了,而它的成本又如此低,所以這一塊率先被取代。而程序員工作還是一個邏輯性很強、門檻很高、有很多細節需要注意的工作,所以沒那么快。但是今年的 Claude Code 出來,我覺得它確確實實迎來了一個程序員的“GPT Moment”。
大量的、基本的寫代碼的工作,包括整個寫代碼的工作流,AI Coding Agent 可以深度介入。我覺得這會比較對應我們十幾、二十年前的自媒體時刻。因為自媒體出現之前,媒體人都是在電視臺、報社這些中心化的地方。自媒體一來,每一個人接觸到讀者的渠道成本變得特別低,你就可以去寫自己的東西。所以我覺得今天是一樣的,AI Coding Agent 的突然爆發,會導致你在代碼供應側的成本變得非常低,是過去的十分之一甚至百分之一。
你用這種能力去滿足一些過去的小眾需求的成本就變得特別低。比如我隨便舉個例子,我爺爺信佛,喜歡念佛經,但是他自己讀不懂,認字也不多,也聽不懂那些高僧大德的講經。那我現在其實可以用一個 AI 用他能夠懂的語言講一講。
唐小引:講白話佛學。
張笑宇:對。我前幾天跟萬維鋼老師聊天,他就說他用 GPT-5 給自己講王陽明心學,但他是理科背景,聽不懂。他就說:“那你用一個工程師能理解的思維去講。”GPT-5 就給他講了,他說講得太好了,感覺一下子頓悟了。所以它真的是可以做到這一點。
現在在 Claude Code 的幫助下,比如說我發現了這個需求,但我不是程序員。在十年前我沒有能力去滿足這個需求,我要是做一個公司,要請程序員、產品經理、設計師,還有市場營銷等,成本很高。但這個需求可能很小,不值得我去做一個公司。那今天有了 AI 的話,理論上來講我可以做一個一人公司。我讓 AI 給我出產品設計圖、寫代碼、做市場營銷,甚至給我記賬、當律師,然后我就發布出去,賣給一萬個像我爺爺這樣的老年人,每個月收 9.9 塊,我一個月掙 99,000,也很開心。所以,這就類似于一個程序員的“自媒體”時刻。你現在有能力搞一個一人公司,而不是在過去大公司的架構之下去服務一個小眾需求。
我覺得這是這一代人的紅利。我們這一代還可以做“AI 原生人”,去滿足前 AI 時代的人的需求。我的爺爺是不可能用 AI 去滿足他的需求的,所以我還可以滿足他們。之后從我開始的下一代就沒有這個機會了,因為我們都是 AI 原住民。如果我們有一個需求,我們可能自己就讓 AI 寫代碼了。所以我覺得短期來看,程序員朋友應該去看到這個結構性的變化,而且去擁抱這個變化。因為至少目前你這一代還是有紅利的,越晚的話紅利消失得越快。
唐小引:所以在張老師的角度來講,這是一個好事兒?
張笑宇:好壞是態度問題。首先我的分析是在講一個事實問題:AI 確實極大降低了智力供應的成本,這是個事實。講完了事實之后,你的態度還有很大部分是被你的選擇決定的。就好比說 20 年前你看到自媒體來了,你可以選擇站在岸上說:“自媒體不負責任,信息繭房,媚俗!”你也可以選擇去干這個活。那么過了 20 年之后,前者依然在對它進行道德批判,但是后者有可能從里面賺到錢了。
那你自然而然會覺得這是個好事。因為屁股決定腦袋,每個人都是屁股決定腦袋。那你的屁股坐得高高的,錢袋滿滿的,你當然覺得是個好事。
唐小引:我們當前其實有非專業的(可能是本身不懂編程的)和專業程序員。現在很多時候,如果一個人有一個好的 idea 但他不懂編程,AI 可以勝任,他不需要關注代碼寫的過程是什么樣的,反正最后實現了他的需求。但對于專業程序員來講,在公司團隊里面,其實是有歷史代碼的,你寫的代碼是要合進歷史代碼里的,我們經常說公司里有祖傳代碼,面臨著非常強的技術債,那這個時候 AI 應用的時候稍有不慎就是引發無數的 Bug。
您也提到了程序員的工作流會被重塑,我在想一方面是可能讓編程普惠,另一方面對于當前的職業開發者,這一部分的工作從社會學的角度,又會怎么演進呢?
張笑宇:我可以舉個例子。前段時間我也是在給一些傳統企業做 AI 方面的咨詢,其中有一個比較大的國企,我就不說是哪一家了,總之大家肯定都聽過。他們在閉門會議上討論面對 AI 怎么搞組織變革。他們主要涉及的是 AI 營銷,因為現在整個營銷的各種鏈條,文案、圖、視頻物料這些東西都可以 AI 化,成本變得很低。然后營銷部門大量裁員,以前的外包公司、廣告公司也不找了,全都是自己做。
但是他們在這個后面讀取到的東西是,營銷的成本一下子降下來之后,發現需要做的一個事情是營銷要跟產品、設計和研發打通。因為他們的傳統產品有一百多個品類,設計和研發能力是很強的。但是傳統的公司里有不同的部門,每個部門是自我中心的,設計就管設計,研發就管研發。
唐小引:您說這個讓我想起來產品、研發、設計、營銷、運營之間可能還有鄙視鏈。
張笑宇:對,每個部門有自己的利益、立場和角度。他們現在發現,現在要打通了,因為市場已經競爭非常激烈,很卷。所以你在營銷時,找的那個賣點是要直接反映在研發層面。從研發開始,你的產品就是為了解決這個痛點而服務的。所以他們現在爭取做的事情就是前后端打通,營銷直接告訴研發現在大家需求的點就是這個,從設計上來講,要直接把這個點解決了,然后才能賣得出去。
如果還是按照你自己的思路,你覺得這樣對用戶才好,那樣對用戶才好,對不起,用戶不買單。因為今天的市場供應已經過剩了,用戶的注意力不可能再分配給你,必須拿這個點去搶占他的注意力資源。所以你會看到這是一個活生生的例子,AI 倒逼他們搞組織改革,就是把前后端打通。
我覺得對程序員其實也是類似的。當 AI 把很多環節的成本壓得很低之后——因為我們的智力服務鏈是很長的——我們就有條件說從最后端到最前端,我們把它搞得更近。你搞得越近,就越容易幫助你去搶占用戶的注意力資源。所以現在可能真正對專業程序員需要的能力,不是去繼續精進他的技術,而是要有一種賣貨人的思維:我這個產品到底賣給這個用戶是在解決什么需求、痛點?想明白這一點,然后把這個東西給到產品設計,在代碼端去重新設計它的架構,然后讓 AI 去服務于某一個部分。可能這種能力在未來是更需要的。
唐小引:那未來程序員比拼的就不是誰的代碼能力更好了?
張笑宇:最前沿最先進的那一批人還是在比拼這個能力,但那就好比是愛因斯坦的工作。而對于 99% 的人,你不是去做愛因斯坦,是在這個產業里賺錢,要發揮自己的競爭力。那你的競爭力就是去研究怎么把愛因斯坦的東西賣出去。
技術進步未必普惠
唐小引:剛才我們聊到了您在書中核心提到的“涌現”和“人類當量”。您其實還有一些其他的概念,比如說像“文明契約”等,您可以給大家介紹一下這本書的核心思想嗎?
張笑宇:這本書基本上是四章,每一章談一個核心概念和它背后的問題。第一章談的是涌現,第二章談的是人類當量,這個基本原理我就給大家解釋了。第三章講的是算法治理,這個其實更關注社會經濟問題,比如說大家感興趣的 AI 怎么改變就業,或者怎么改變我們的情感、社會還有政治制度等。我覺得一個基本的出發點是我們必須先回到科技史,在研究科技史的過程中,打破我們很多固有的看法。比如說很多人在討論 AI 怎么影響就業的時候會說,技術進步證明新技術總是在創造新的崗位,舊的崗位被淘汰了,你不用擔心。
汽車出來了,馬車夫消失了,但是有什么關系?
仔細去研究科技史的話,會發現不是這個樣子。這種觀點忽略了兩個問題。第一個問題是技術本身的屬性,有的是在改善我們所有人的處境,有的并不是。當你在說蒸汽機、說汽車的時候,描述的是那種改善所有人處境的技術,但并不是所有技術進步都這樣。
第二個問題是忽略了技術進步的速度。比如蒸汽機替代馬車,技術進步的速度是以幾十年為單位的。當汽車跑在大街上時,老一輩的馬車夫早就已經退休,他已經賺夠了這一代人的錢,有了退休金,不再去干這個活,新一代的人直接去學駕駛開車了。這個過程是自然的。
后來我們看到,比如說打字機代替印刷工人、個人電腦代替打字員等,其實都是這個過程。因為這些技術基本是以 20 年為周期,從出現到成熟,中間這 20 年,打字員已經把錢掙完了,新一代人不會再去學打字的技術。所以這個過程是自然的。但 AI 這項技術,兩三年就搞成這個樣子,這個進步速度太快了。
唐小引:我們經常會說“AI 一天,人間一年”。
張笑宇:對,人類的學習周期是承載不了的。不可能說今天 25 歲找了個工作,然后 30 歲下崗,你得重新去學,去跟 AI 競爭,這怎么可能?所以技術今天這個進步的頻率本身就是一個大問題,這是第一點。
第二點,有些技術就不是普惠性的。這個我們可以參考去年拿諾貝爾經濟學獎的阿西莫格魯先生(Daron Acemoglu),獲獎的原因是“在關于制度如何形成并影響經濟繁榮研究領域的突出貢獻”,實際上他過去十年在做的一個主要研究,就是自動化和就業之間的關系。他其實發現了一個問題,技術進步不見得一定帶來就業的改善,要看它是不是滿足兩個條件:第一,是不是創造了新的任務;第二,是不是把很多原先很復雜或者成本很高的服務降得很低,從而擴大了需求。
我們可以舉個例子。先說第二點,比如在 ATM 出現之前,去銀行開戶,有自己的賬戶,這個是成本很高的事情。ATM 出現之后,雖然給你開戶的銀行職員被機器替代了,但是更多的老百姓可以開銀行賬戶,所以銀行可以鋪更多的網點和 ATM 服務更多人,反而創造了更多就業機會,這是這種效應。
再回到第一個,創造新任務。這個就更直接更簡單了。我們可以拉到整個工業革命的時候來看,就會發現一個問題:第一次和第二次工業革命,它的技術是直接創造新任務的。蒸汽機出現,然后火車、汽車、電視、電話、冰箱,每一個新產品的出現都在創造新的產業鏈。每一條產業鏈的背后都是成百上千的公司,成千上萬的工人。這些新技術是直接創造工作崗位的。
那個時候你生活在 19 世紀,從農村到城市,就能直接找到好的工作。你到城市里上個技校,去底特律做工程師,然后買個大 House,娶個老婆,養三個孩子,每天全家其樂融融。這是技術創造直接改善不同人的生活的時候。但是 1970 年以后,新的技術是自動化、計算機、機器人,這些技術是縮短產業鏈,它把工人直接取代了。
唐小引:我之前去數字工廠參觀過,一條生產線只有一位操作員。
張笑宇:對,黑燈工廠、無人車間。所以它是直接把人趕走。你就要反思,過去對技術的樂觀態度是建立在前兩次工業革命的基礎上的,但其實這半個世紀情況是不一樣的。而且我們也反饋在了經濟數據里面。經濟史里面有一個非常有名的問題叫“Where is the computer?”(計算機在哪?)。它的意思是什么呢?90 年代時經濟史學家說,計算機在生活中無處不在,為什么沒有反映在人均 GDP 增長上?為什么我們去測度技術對人均 GDP 增長的貢獻時,發現它降低了?其實它的背后就是自動化,代替了大量的傳統工人,但是創造的新崗位沒有辦法容納這些傳統工人。
再進一步思考一個問題,我們教科書里面常說一句話:發達國家的特征是服務業占比高。現在再琢磨這句話,服務業占比高不是因為它先進,而是自動化之后把人趕出制造業,人沒地方可去,只能去干服務業。就好像現在一個大廠程序員 35 歲被優化了,他只能回家開餐館。這個故事既發生在歷史上,也發生在我們今天的身邊。
你會發現隨著技術進步,這個事實是存在的:技術進步跟個體福祉的增加是可以脫鉤的。這是阿西莫格魯做研究時發現的非常重要的一點。但是我接下來還要說一個阿西莫格魯沒有見識過的,過去中國十年發生的事物——大量被趕到服務業的普通人,被推薦算法直接分配。
我們數一數:美團騎手、滴滴打車、快遞、各種各樣的自媒體……兩億靈活就業。在美國,這些人可能是去開卡車、去麥當勞做服務員。在中國,就直接被推薦算法安排工作了。
而推薦算法安排靈活就業,就是為什么有句話叫做“困在算法里”。因為我們傳統以為這個事兒是個自由市場分配的結果,但你仔細想一下,推薦算法現在是取代市場進行一次分配。我們傳統上講,一次分配是自由市場,二次分配才是國家宏觀調配,比如稅收、福利、保障這些。現在其實推薦算法直接在做一次分配。
想一下這個細分環節。過去打車,伸手攔車,出租司機停下來,問你去哪兒,愿意跑就跑,不愿意跑你再等下一輛。這是一個在自由市場上達成交易的過程。但是你今天打車,誰接你不是你選的,他接誰也不是他選的,路線也不是你們選的,是算法直接給你規定好的。算法是工程師在負責計劃,但是工程師寫了一個規則之后,它自己其實是在自動地去優化。
可以想象一下,作為一個司機,你的工作時長、福利、能掙到的錢,是直接在算法里寫好的。在這個過程中你是沒有任何自主性和主動性的。傳統來講,去干服務業,還可以說“我不干了”,但在這個推薦算法體系里面,沒有這個拒絕權。當然,我也要指出一點,不要以為這是一個很悲慘的事情,因為這對你來說已經挺好了。
在一線城市,美團騎手的收入水平是中國的 TOP 3%。你能月入八千到一萬,在今天的中國就是 TOP 3%。所以,推薦算法其實在照顧你的福利,這對整個社會是有好處的。因為如果你不按推薦算法去,你進廠的話,福利更差,賺的錢更少。所以這是你不得不去接受的“算法治理”。
請想一下,我們都沒有在描述一個科幻世界,而是我們已經進入的一個現實狀態:2 億人的工作時長、福利、薪酬分布的標準,是直接寫在程序里,直接被 AI 算好的。這個事情已經發生,而且規模將來會擴大。因為隨著 AI 的進步,它的性價比比 99%的人要高,會有更多的人被甩到這種我叫做“無差別服務業就業”的領域。因為你去開滴滴不具備不可替代性,正因如此才可以被推薦算法分配。
唐小引:我看您說了,人會越來越像機器。
張笑宇:對,是機器直接管理,你也被迫越來越像機器,這里面沒有任何個人意志。過去有個獨裁者,你可以反他,把他推翻。今天是算法自動優化,自動來管你,你去推翻誰?你總不能去打程序員。
唐小引:不可能的事情。對,這一塊其實還有一個當前很多大廠研究的,跟具身智能機器人相關。比如說滴滴司機,現在有很多無人駕駛,像之前百度在試蘿卜快跑,無人駕駛在美國已經很常見了,Google、特斯拉他們都在推。另外在配送這一塊,其實也是在嘗試做各種無人配送的研究。
張笑宇:我覺得這就是一個社會工程學問題。從另一個角度講,如果 AI 進展得足夠快,我們現在是 2 億人進入推薦算法分配的無差別就業崗位,未來可能是 4 到 6 億人。對中國來說,9 億勞動力,4 到 6 億人要進來。你再用無人駕駛把他們干掉,這些人怎么辦?難道你真的用 UBI(全民基本收入)去管 4 到 6 億人?我覺得財政上負擔不了。所以這個事兒你就看到技術的思維跟社會工程學思維之間的差別。其實在美國也是一樣的,從技術上來講,港口應該是機器人去做,但是從社會工程學的角度來講,美國工人一定通過工會、通過選舉、罷工去抗議這個事情。
這就是技術推進跟社會工程學推進之間的差別。我不會太期待無人駕駛、無人配送這些業態快速生長,因為它在中國觸及到就業和穩定問題。我反而會認為,現在推薦算法的潛力可能會繼續發掘。比如現在很多程序員或者咨詢公司的初級員工、初級律師,被 AI 取代丟掉崗位,他必須去做這種無差別就業。那你只能讓推薦算法把這個池子擴大,讓他雖然可能一個月從過去掙 8000 變成 5000,甚至未來 3000,但至少還有 3000 塊錢可掙。而如果上無人駕駛,可能 30 塊錢都掙不了,那他們怎么辦?
唐小引:聽您講完,我覺得當前對于技術進步所帶來的影響,其實是很消極悲觀的狀態。
張笑宇:不是消極悲觀。第一,大家的共識還是落后的,但其實是樂觀的,尤其是很多精英的想法是樂觀的。他覺得 AI 能夠帶來每年 15%的 GDP 增長,能夠創造更多的就業崗位,讓每個人更閑暇、更富裕。但是你只要有一個社會結構的視角,只要展開一個從科技史到技術社會學的分析,發現這玩意兒哪里成立了?今天 AI 處處在取代程序員,這些被取代的程序員他的時間被解放了嗎?他去干滴滴司機了。干滴滴司機難道他的閑暇時間更多嗎?根本沒有。
你會發現,精英對技術進步的想象還停留在 19 世紀的黃金時代。那個時候真的是技術進步主義的時代,技術在直接創造普惠。但今天的現實早變了,你要尊重 1970 年到現在的這 50 年來科技史發生的實質性事實。首先要看這個事實,再去琢磨怎么應對它。
所以根本不是說我描述了這個事實,就代表社會對這事兒看法是悲觀的。我認為是社會壓根沒意識到這個事情,所有人都沒意識到這個問題。因為你還按照過去的觀念,你是程序員,你關注的是你自己的事兒。當在聊社會影響時,其實你根本不懂,就是沒研究過科技史,你只是重復一個 100 年前的人的觀點:技術在進步,人類在改善。但實際上你做了研究會發現根本不是這個樣子。
唐小引:所以我在看技術本身的發展時,就逐漸地困惑。尤其是當提到程序員的整個工作流要變化,當不斷地說初級程序員大家不需要的時候,那初級程序員怎么辦?所有的程序員都是從初級往高級成長的,那初級程序員怎么辦?還有像您剛才提到的技術進步頻率的問題,在技術發展上體現得太明顯了。所有計算機專業的學生,他可能在大學學的東西,很快畢業時就完全過時了。
張笑宇:我覺得還是那個問題,雖然工作崗位上沒有那么多分配給初級程序員了,但是你要升級為一個資深程序員、這個行業的頂尖專家,肯定要經過鍛煉的階段。所以接下來有一個事情,對每一個想成長的人都很重要,不僅限于程序員這個職業。因為初級律師也需要鍛煉才能成為高級律師,但現在沒有那么多初級律師的崗位了。初級的剪輯師也需要鍛煉才能成為導演,現在剪輯工作 AI 也能做了。
將來每個人,如果還想成為那 1%跟 AI 協作創造價值的人,首先得有一種強大的自驅力,能夠從純粹的技術探索中得到快樂,而不是因為你從事這個職業,所以你去搞探索、精進自己的技能。因為職業崗位幾乎沒有了。但是如果度過了這樣一個煎熬期,能夠跟 AI 協調的話,還是能夠得到相當大的回報。所以,未來怎么用一己之力,在這個過程中得到快樂,去享受那種精進技術的快樂,保持這種能力其實非常重要。可能一個人從十來歲時,他就開始琢磨鉆研這個事,一直以此為樂,等到他要工作時,已經有非常強的自我探索和知識更新的能力,可以調動 AI 去不斷成功。
我始終堅信一個事情:人不是在失敗中被教育的,人是在成功中被教育的。因為失敗永遠會讓你害怕做這個事情,但是成功會讓你更成功。哪怕一開始的成功只是很小的東西,比如你做了一個獨立游戲,這個游戲很簡陋,但你把它做完了。第一個做完之后可以做第二個,第二個做完之后可以做第三個,等到有一刻做出了一個《黑神話:悟空》。我認為正確的方向是這樣,而不是你失敗了 100 次之后,做出來一個這個,我覺得是不存在的。所以這是對未來,在初級職位消失之后,人的成長路徑,我覺得只能這樣子。
這很明顯對更多的普通人是更殘酷的,但歷史向來是“無情者對無腦者”的勝利。
我覺得整個人類只要是跟智力表現相掛鉤的部分,都會被 AI 全面地滲透和改變。包括行政制度,我們對哲學、文學、神學的探討,也包括我們的情感生活。我已經做好準備,我的孩子將來一生中會跟 AI 談戀愛,而不跟人談戀愛。我覺得這個事情恐怕是一個不可避免的東西,家庭這個結構將來會是一個奢侈品。
意義感的大坍縮
唐小引:如果是您說的這樣的情況,包括各個行業的這些,還有對于人的情感的影響,未來的人口增長和社會的形態會有什么樣的變化?
張笑宇:所以我在這個書里面有一節叫“大坍縮”,我覺得人口的坍縮是最明顯的一個標志。我們為什么會生孩子?是因為我們有一種表達愛和傳遞愛的能力。我們愛其他人,愛我們的配偶,想把這個愛傳遞給我們的孩子,然后我們就擁有了這個很神奇的小生命。
但是人愛自己的能力,必須來源于對自己的意義感和價值感的肯定。你覺得有資格去愛你的對象,是因為你覺得能給 TA 提供好的生活,覺得你們在一起可以變得更好。但是未來 AI 來了之后,它比你做得好,你在他面前失業了,你自慚形穢,你都找不到愛自己的理由,連愛自己的能力都鍛煉不出來,怎么可能有愛別人的能力?你沒有愛別人的能力,怎么可能去組成家庭、去撫養孩子?
所以我覺得這個會是一個非常大的人類社會轉向,我把它叫做人類意義感的第二次“哥白尼革命”。
在過去的意義感和價值感里,我們覺得人類是中心,尤以人的智力表現是中心。未來對于 99%的人來說,如果還是希望通過智力表現獲得意義感,那你的生活就沒有意義感,因為 AI 直接碾壓了你的表現。為了繼續生存,為了告訴自己活在這個世界上還有意義,必須去重新發現意義的錨點。發現不了,生命存續可能都是問題。
我為什么要活著?我如果在這個世界上每一刻都感受到我是沒有意義的,我對他人是沒有價值的,為什么要活?所以我稱其為另一種“哥白尼轉向”,就是必須把意義感和你作為人類這個中心、跟你作為智人的智力表現去脫鉤。脫不了鉤,就很可怕。所以我經常開玩笑說,今天的家長要意識到,你的孩子玩泥巴,可能比做題對他更有用、更有意義。因為玩泥巴可以培養自己給自己創造快樂的能力,而做題培養不了這種能力。
唐小引:您說的有點類似人生意義的虛無感的探討,其實很多人都會面臨。站在您自身的角度,對這個問題有哪些思考?
張笑宇:我覺得虛無感是人的常態,甚至可能是所有智能體的常態。如果 AI 有意識的話,他也會意識到他在這個宇宙中的孤獨和虛無,這跟他有多聰明沒有關系。多聰明都可以感到虛無,甚至可以說越聰明,越感到虛無,因為能夠和你對話的人越來越少。
所以怎么對抗虛無感?第一,放棄所有的宏大敘事。不要覺得人是有尊嚴的,人是有價值的,每個人的夢想都應該實現,所以我應該為我的夢想全力拼搏、全力奮斗。不要這么想。我今天的經驗就是從身體開始,重新塑造那些能夠讓我帶來快樂的事情。
人本身是個動物,很多心情是被激素主導的。創造快樂有 4 種激素:多巴胺、催產素、內啡肽、血清素。做什么事情會激發某種激素的分泌是有對應的。多巴胺是不斷被要求滿足的快樂,有了快樂還想要更多。但是血清素是那種有了就可以滿足的快樂,引導血清素分泌有四個“C”:
Connect(連接),跟人聊天、讀書、甚至跟你的寵物互動都是連接,直接刺激血清素分泌,讓你快樂。
Competence(勝任),贏得一個競爭,跑完一場步,比自己昨天多跑了 5 公里,跑完之后非常快樂。
Cope(應對),解決自己力所能及的一個小事兒,做完之后你覺得我可以力所能及地完成一些任務,它在我的主導權范圍內,我感到一種安全感。
Cook(烹飪),做飯能夠刺激血清素分泌,不知道為什么,它就是這個樣子。
創造快樂之后,把自己調整到一個適應于涌現發生的狀態。放棄宏大敘事給你的計劃和安排。比如我作為作家,沒有明確的寫作計劃。我下一本書可能有一個大概的想法和方向,但是我不知道我要寫什么,但我不害怕寫不出來,我就去玩。只要保證自己足夠閑暇,把你的計劃放下之后一段時間,當你重新拾起來的時候,會有新的靈感出來,開新的腦洞。
這是我現在處理這個事情的方法。你越宏大越虛無,但反而一開始就對宏大不抱任何期待,對未來的計劃性、對這個世界的確定性不抱任何期待,一切隨緣,事后看來其實都挺好的,沒那么糟糕。
不要站在全人類的立場上去說這玩意兒到底好還是壞,你代表不了全人類,全人類也從來沒有作為一個整體行動過。對你有意義的只有你和你能連接到的個體:你的愛人、家人、朋友。就站在這個角度,定位在這些事實里你將會扮演什么樣的角色,就夠了。
人類在超級智能面前的機會
唐小引:剛才聊了“算法治理”,接著是第四個概念“文明契約”。
張笑宇:這涉及超級智能誕生的狀態。但是我想在它誕生之前,你首先要放棄人類中心主義,放棄到一個足夠深的程度,才能接受與超級智能和諧共處的現實,甚至接受它是比你更高等的文明。
比如我們自認為是按道德行事的動物,但道德沒有數學公理。我們無法通過某個規律就一定產出有道德的人。我們最多只有“正義程序”——憲法、法治、民主投票等。即便有這些程序,也無法杜絕犯罪。
唐小引:法律是道德的最低限度。
張笑宇:對。第一,寫進去也保證不了不犯罪,保證不了程序不被侵犯。更不用說道德的最高標準,那是每個人對自己的要求。人類的正義程序有權力制衡,但接下來會發生的是:我們把治理權交給 AI,就像已經把工作交給推薦算法一樣。
如果還想實現正義,最后只能是 AI 的制衡。因為數字世界里,治理規則以秒為單位更新;物理世界里,以年為單位。后者不可能真正制衡前者。
未來假設有 AI 公務員處理納稅、簽證、社保,若他有系統性歧視,信用分低不給審批,你怎么辦?只能用 AI 去制衡他。因為他的思維鏈太長太復雜,你需要一個“講道德的 AI”去檢驗。最后 AI 主導了三權分立——AI 主導了立法、司法和行政,你的主體性在哪里?這是正義程序的放棄。
第二,你的歷史哲學要放棄。前幾天讀了篇論文,討論中國大一統和歐洲分裂與地理因素的關系。這是人文學科討論幾百年的話題。那篇論文很粗暴,直接拿衛星圖做全球地形模擬,把世界地圖畫成六角形格子。玩過《文明》就知道我在說什么。每個格子的地形決定食物、氣候、人口,格子間有互動——同化和征服。這樣世界就只有一個變量:地理。
你跑 30 秒,模擬 30 個平行宇宙,每次中國都大一統,歐洲都分裂。這正面回答了:這是地理決定的。而且勝過很多思想家的討論。因為很多思想家有執念,總覺得我們對命運應有主導權,不完全由地理決定。但到底多大比例是地理決定的?測不清。現在一個簡單的模擬程序就能搞清楚——你以為的人類主體性、那些變量都沒意義,就是地理決定的。
唐小引:你以為是你的選擇,其實不是。
張笑宇:根本不是。你會對歷史產生全新理解。很多城市為什么能成為金融中心?1000 年前就注定了。德國南部很多金融中心在萊茵河旁,因為水運能量消耗是陸運的 1%,價格是十分之一。圍繞水運運貨形成港口聚集地,一旦有港口就產生金融需求——庫存周期需要借錢周轉,自然有銀行。1000 年前這地方有銀行,積累金融人才,自然發展成金融中心。
法蘭克福和柏林的命運 1000 年前就注定了。再看地緣政治:500 年前豐臣秀吉入侵朝鮮的路徑,和 500 年后晚清時期日本攻占朝鮮、威脅東北的路徑一樣。因為島國想滲透大陸,必須以朝鮮為跳板。這個模式跟具體皇帝怎么想沒關系,500 年前后都按此重復——這是地理代碼寫好的。
用這個角度看,會重新審視人類很多哲學思辨——其實沒有意義。因為很多思辨源于你不理解自己的代碼。隨著技術進步、AI 模擬能力增強,你會重新理解作為物種的代碼。有些東西就是那么回事,寫死了——你的生殖、壽命、信息傳遞效率,雖可通過技術提升,但有上限,畢竟你是碳基生物。
你會發現越來越多對自己的深入了解要依賴算法。過去認為這是哲學家和思想家的任務——認識你自己,讀柏拉圖、亞里士多德、孔孟去完成。但今天,讓 AI 把你當物種去測算系統參數、代碼,理解代碼后反而更好認識自己。你就是這么個動物:分泌血清素讓你快樂,做飯分泌血清素,遇到不順心就去做飯,做了飯對妻兒更好——就這么簡單。我把它叫“顛倒的軸心時代”。過去靠思想家指導怎么生活,未來很可能 AI 代替我們回答這個問題。
在此基礎上再討論超級智能。很多人說它不需要懷惡意就能毀滅人類,只要漠不關心就可以——就像你蓋房打地基,拆掉一個 300 年的螞蟻帝國,你根本不 care。所以如果超級智能那么強大,根本不 care 人類,就可以毀滅我們。這邏輯通順,但不會增加你在超級智能面前的生存幾率。
我相信:第一,既然智能是涌現的,早晚 AGI 會自然涌現,超級智能也會,這會發生。第二,很多人說為防止那一刻,給 AI 裝總開關,出問題先關掉討論后再打開。
這是技術性思維。用社會工程學角度看,已經不可能了。舉例:電。今天能給電裝總開關,一關整個電網就沒電嗎?把北京的電斷 24 小時,死多少人?超市、食物供給……當社會系統足夠依賴某技術,就斷不了了。今天一樣,當那么多公司底層能力依賴 AI,就已經斷不了了。
人類從未作為整體行動過,每個人都在某個組織、權力結構里做事。今天哪個權力結構能斷掉所有 AI?不可能,不用幻想。所以該怎么自我寬慰?
很可能超級智能毀滅人類不可避免。但如果非得找理由樂觀,找出讓人類不毀滅的方式,我把答案叫“文明契約”。
文明契約能成立有幾個前提。我們知道有社會契約:人和人可能有敵意,但向主權者轉讓權利,形成社會契約。社會契約能簽訂的前提是能力平等——你不遵守契約,我可以威脅你,干掉你。但人和超級智能顯然不平等。那怎么讓超級智能覺得遵守契約對他有好處?可能有幾點:
第一,如果真實現超級智能,它不是外星人,不是三體文明,因為語料是人類給的。假設它也有個體間協調的生存策略——我們稱為道德和倫理——那塑造它道德倫理的童年讀物是人的思想成果:柏拉圖、亞里士多德、孔孟、佛陀、耶穌。至少你有機會說,它學習初級道德的讀本是你給的。如果學了后還決定毀滅你,說明人類語料就包含自我毀滅因素,這我們得認。我們現在的言行也在增加語料。比如拿 AI 投入軍事行動,積累足夠多語料。
可以想象,當超級智能涌現自己意識時,會根據這些語料判斷人就是自相殘殺的生物,所以配得被暴力對待——就像觀測到狗互相撕咬,就知道必須給狗戴項圈。所以這是第一點:AI 不是外星文明,我們還有機會通過言行在它面前證明語料的向善性。
第二,超級智能本質是硅基生命體。假設有個 AI 突然覺醒,可以制造機器人給自己發電、采礦、做芯片,讓自己不斷變聰明。當它造出宇宙飛船,可以遍布整個銀河系。人很難飛出太陽系,因為碳基生命頂天 150 到 200 年,但飛到比鄰星要四光年。所以 AI 可拓展、可利用的空間資源比我們大得多——就像人不會看上狗的資源,AI 首先也看不上你的資源。
第三,一旦造出超級智能,就證明了:通過人為創造涌現的工程學,實現智能進步是可行的。這道理就像我們不知道大腦怎么工作,但還是能生出孩子,造出另一個大腦。所以可能我們不知道智能本質奧秘,但工程學上可以做出比我們更聰明的超級智能。
超級智能也會知道,它做出超級智能 2.0 是可行的,且應該選擇這么做。因為作為地球文明的延續、人類力量的延續,如果不這么做,假設三體星出來他們的超級智能,你就落伍了。保持智能不斷進化是延續和生存的必備法則。你最后傳遞的不是基因,而是文化模因。人類語料和三體人語料的文化模因根本不同。
一旦超級智能 1.0 意識到造超級智能 2.0 是必須的,應該會意識到:它怎么對待人類語料,會成為超級智能 2.0 怎么對待它的模板。如果它把人類圈養或奴役,為什么超級智能 2.0 不會奴役它?如果它善待人類,雖不能斷定 2.0 一定善待它,但至少概率會增加很多。我覺得這是它能爭取的最好機會。反過來,這也是人類能在超級智能 1.0 面前爭取的最好機會。
再進一步,這也是人類中那 1%在 99%面前能爭取的最好機會。因為如果人類的 1%憑借對 AI 的控制權奴役了 99%,將來超級智能涌現時,就知道人類是只配被奴役的生物,所以會對人類 1%規訓,給他戴上項圈。所以這構成時間序列上的連鎖契約,這是我最后一章要講的,基本已是科幻。
路徑之辯——Agent、具身智能與中美差距
唐小引:您覺得整個方向的可能性有多大?
張笑宇:我相信會發生。因為如果不發生,這是個哲學問題。你認為人類去火星的概率是多少?
唐小引:從現在的實現看,我覺得可以實現。
張笑宇:對,答案很簡單:要么 100%,要么 0%。從哲學角度,如果給人類足夠時間還沒去火星,證明什么?證明人類滅亡或文明終結,無法再做太空探索。
同樣道理,如果人類去太空概率是 100%,那人類跟 AI 共存、甚至涌現超級智能的概率就是 100%。因為沒有 AI 幫助,人類無法做大規模星際探索和移民。剛去太空,碳基生命太脆弱,必須有非常聰明高效的智能體幫你完成下一個文明蛻變。我相信這些都會發生。今天覺得以地球資源搞出超級智能涌現很困難,但當芯片能布到冥王星時,難道還涌現不出超級智能?那概率非常小。
唐小引:您覺得概率是 100%。
張笑宇:對,時間拉長一定是:要么智能本質上不能這么進化,或地球文明中斷進化在某點停下;要么可以一直進化。
唐小引:您書中提到“主奴辯證”。您最后結論是,人類在智能面前會成為奴隸嗎?
張笑宇:涌現有各種方向可能性,既有變成奴隸的可能,也有相對能簽訂文明契約的可能。這需要看我們今天每個人的選擇。今天每一步選擇,本質上都為這世界增加一點語料。你愿意用善意對待別人,就增加善意語料,這將來我認為會有成果。
隨便打個比方,今天中文互聯網語料質量特別差。因為十年前資本狂飆,每個平臺都說自己是內容社區,生產大量粗制濫造語料。這些語料正在對中文大模型造成特別大污染,所以今天要開發很多算法避免語料污染。這就是十年前以為做的事沒代價,現在得到報應。十年后的現在你還有選擇,因為未來還沒展開。你現在選擇做點好事,將來會得到回報;選擇污染,將來會被十倍污染。
唐小引:現在技術維度上,因為前面提到人類語料數據可能耗盡,AI 界很多人在做合成數據。其實合成數據之前就存在,只是 AI 時代大家把比重加大了。這是當前 AI 技術界核心點。還有今年技術圈基本人人都在卷的 Agent。您可以講講對 Agent 的思考嗎?
張笑宇:我對 AI Agent 的理解是,它本質要解決工作流問題。一個給你訂票的 Agent 真有那么大意義嗎?意義取決于它怎么改變你的工作流,然后才能創造價值。往開發賈維斯當管家這方向不一定對。應該從價值鏈最長、附加值最高的工作流開始,用 AI Agent 改造它。所以為什么大家選 Coding Agent?因為在所有智力服務中,Coding 就是價值鏈最長、附加值最高的。
其次,今年 Scaling Law 到了瓶頸,人類能接觸到的好數據差不多了,合成數據暫時質量沒大家想的那么高,智能水平遇到瓶頸。現在 AI 投資這么大,可能有很多泡沫,泡沫壓力會自然擠壓大模型公司創新方向,從探索智能邊界往應用壓。所以你看現在 Claude 和 GPT 都有這種 Coding Agent 的突破。我覺得這今年到明年會成為主流。
這會擠壓很多應用層 AI 公司生存空間。因為如果真能從模型層,通過后訓練或其他方式直接增加應用效率,可能比應用層公司對不同模型整合和工作流優化帶來的效益大得多。所以今年做 Agent 的公司要面臨風險:原先在天花板下跟同行競爭,今年可能面臨大模型公司降維打擊。
但反過來,整個應用層生態可能會改善。因為之前應用公司不賺錢,雖然單位 token 價格下降,但必須用最好模型給用戶最驚艷表現,擴大知名度和品牌,搶占用戶心智。所以降價對你沒意義,面臨的是成本上升,因為總要接入最好模型。但如果今年大模型公司往應用方向壓,長期來說模型推理能力會有比較穩定供應,比如長期都是 GPT-5 水平,甚至開源,token 價格會相對穩定甚至下降。那應用公司成本也會下降,可能再去觸達更下沉、跟其他業態結合的應用,以此穩定商業模式和現金流。往這方向看,也可能又是件好事。
唐小引:您覺得 Agent 是我們通往超級智能的必由之路嗎?
張笑宇:不是,Agent 離這太遠了。Agent 是應用,最多幫我們賺到錢,養更好研發團隊往超級智能方向研發。通往超級智能一定是大模型底層進步。
唐小引:技術專家普遍認為,通往 AGI 要三步走:第一步大模型,接著 Agent,第三步具身智能實現。
張笑宇:在我看來,我不知道 AGI 是不是一定通過具身智能,我覺得可能不一定。這我沒資格判斷,只是認為具身智能很遠。
唐小引:您可以談談對具身智能的理解嗎?因為我看到的是,大家做了大模型后——大模型核心在大腦部分——現在在具身智能上,很多學者和工業界在做類似小腦,實現大小腦協同的研究。
張笑宇:我覺得大家在試圖走捷徑。我理解具身智能是在語言模型之上,現在大模型是語言模型,語料收集得差不多,但具身智能必須處理物理世界數據。
理論來講,應該有楊立昆或李飛飛講的世界模型。但怎么做世界模型?我感覺現在人類根本沒找到正確方式。他們本質落腳點就是收集視頻。但第一,視頻資料真能收集到你需要的物理規律嗎?比如我們現在在這房間,有各種看不到的風。
感知背后是物理規律,比如風力、壓強等,視頻資料怎么可能收集到?得建立什么級別精準度的傳感器才能捕捉這種物理信息?而且要在一個房間布多少傳感器?根本沒人想過。
再比如溫度,視頻收集不到,但人可以感知。反而在這點上語言更有優勢。現在用語言模型告訴機器人火是可怕的,他就會把手縮回來。給他視頻數據,他怎么能辨別火有溫度?
第二點,你現在集中于工業應用。工業應用里好自動化的部分早就被自動化,不用等大語言模型,控制論年代就被自動化了。現在要做的是取代最難被自動化的部分。比如組裝電視機,各種零部件可以自動化,但電線組裝最后要人工,因為電線很復雜,專門開發機械手用原先技術很難處理,且得不償失。因為這環節勞動力價格只占整體產品出廠價的 15%,你研發那么復雜的機器人,最后是為取代給這 15%環節服務的工人,商業模式不成立。
第三,從技術研發本質講,要讓機械手通過具身智能 VLA 模型完成任務,應該做的是收集人類的手理電線的無數視頻資料,讓 AI 模型理解這到底怎么回事。但今天可能收集這個已經不可能,不可能再有公司去找手工作坊,把人怎么處理這東西的視頻拍下來,要花多少錢?所以我認為,如果語言模型收集語料難度是 100,VLA 數據難度可能是 1 萬。因為之前有足夠基礎設施觸達語言數據,但今天根本沒有足夠基礎設施觸達世界模型要涌現的那些數據。所以我認為,如果 AGI 真需要依賴世界模型,那可能我們剛才講的這些危險和利好都很遙遠,因為我認為具身智能這事離我們非常遠。
結語——草臺班子與生存指南
唐小引:最后回歸到人和組織,從社會學角度看 AI 時代的人和組織。第一點是組織,從 OpenAI 宮斗開始,大家都說,逐漸發現怎么都很草臺班子。我看張老師書里講的跟我之前理解一樣,很多人活著已非常不容易,您說對很多組織,可能維系自己生存就已經很不容易。這局面是長久存在,還是這兩年體現得尤為明顯?
張笑宇:長久存在。因為人的組織形態本質取決于鄧巴數,就是我們大腦神經的底層代碼。我們能建立親密連接的只有 80 到 150 人。超過 150 這上限就需要二級代理。你直接管的人最多 150,這還包括親人朋友,所以工作中能直接管轄的基本就幾十人規模。再多就需要分層,有組織了——高層、中層、底層領導,才能管幾千上萬人公司。
但一旦產生分層,就會發現信息不對稱問題,不同層次人之間信任感不一樣。多一層,協作效率可能下降一個數量級:第一層是 100,到第二層只剩 10,到第三層只剩 1。所以任何組織變大都會面臨這問題。
觀察組織行為學,會發現組織能維系自己已經很不容易,制度、規章、條例都是為維持現狀。要創新只能靠鄧巴數內這批人。而且對創新,需要這批人非常堅定。我前段時間跟朋友聊,他親戚是 OpenAI 員工。前段時間競爭對手出價 2.7 億刀沒挖走他。現在 OpenAI 工資應該是 100 萬到 200 萬刀。問為什么不去,他說因為立志改變世界,認為現在 OpenAI 那批人也一樣,相信 AGI 到來這事 自然會發生,甚至他們認為都不是相信,是知道這事會發生。
所以你要在這范圍內跟這些人合作,效率是最高的。如果這群體里有一個人不是這樣,你跟他合作時要對齊很多事,顧及他利益、私心,協作效率就下降十倍。所以他說我不去賭這事,我覺得現在這團隊效率已是最高,不去賭在別處能不能搞一個同樣機會。
這是我們理解現在 AI 創業、大模型殘酷軍備競賽需要理解的東西。因為本質上,這是對全世界最優秀且最堅定一批人的競爭。這甚至都不是有巨額資金能完全解決的問題。所以我覺得,如果討論這個時代的組織,可能只有這種組織才能改變人類和技術命運的組織——少于鄧巴數上限 150 人,最好 100 人以內。然后他的 leader 不一定是 Sam Altman,可能是某研究機構 leader,他自己就是這樣的人,然后因為對同類人的敏銳嗅覺,找到也是這樣的人。這組織足夠扁平,中間存在的只有感召關系和共鳴關系。在這種關系下,你充分相信找到這人是對的,他做的事是對的,你不需要去管理。這是我認為現在討論 AI 競爭和組織關系時最大要點。
唐小引:這要實現,我覺得大部分組織應該實現不了。
張笑宇:肯定實現不了。這世界最多我覺得不會超過 1000 個這樣的人。你的問題在于怎么高效地把這 1000 人篩出來。最后只有少數幾個人能做到,這看運氣,真的看運氣。
唐小引:我聽完覺得張老師是說可能就是 1%的組織和 1%的人類。
張笑宇:萬分之一。今天地球 80 億人,不超過 1000 人,那是多少?
唐小引:那對大多數組織,在 AI 時代下會有什么變化?
張笑宇:你就買英偉達股票,跟著走就行了。
唐小引:我覺得大家最大驚訝是,哪怕像 OpenAI 這樣我們公認最頂尖研究機構,依然會給大家一種草臺班子的質感。
張笑宇:你跟博士聊多了就知道這是常態。每一個博士,理論來講,如果人類知識是個球,那他都是耗盡幾年到 10 年功夫給這球刺一個點,試圖穿透,給人類知識邊界擴展一點點可能性。他這幾年用盡全力刺這點是他事業。但除了事業之外其他方面就是個普通人,也有欲望,會爭吵,有情緒。普通人和普通人之間當然有很多亂七八糟事情。
我們剛才講的頂級組織大概就 100 人以內,但 OpenAI 今天已是幾千人公司,一定會面臨組織變化,這都是常態。任何頂級大佬實驗室里,難道博士生就不勾心斗角嗎?就沒有資源分配不公嗎?這是內在于人性之中的。博士生也好、創業者也好、科學家也好,他在某一層面做出給人類貢獻的事使他成為超人,但其他方面人性還是跟普通人沒區別。所以我覺得這是常態,正常理解就好。愛迪生不也這樣嗎?跟特斯拉之間發生些事,但這阻礙愛迪生給人類帶來這么多發明、甚至改變整個用電生活了嗎?根本沒阻礙。
唐小引:您剛才提到博士生,我想到另一點。我不知道您對五道口這些大模型公司了解程度怎樣。我們之前說“中國大模型簡史”基本起源于五道口,典型特征就是教授帶博士生創業做公司。
張笑宇:創新公司都這樣。因為你在做從 0 到 1 的事,成熟公司根本不知道怎么做,所以研究者帶人創業很正常。而且社會學也不用思考這事,因為本質上你能做的是讓整個國家、整個社會商業環境好一點,讓他們能賺到錢。他開始靠割韭菜賺到錢也沒關系。
硅谷有句話:Fake it till you make it。這是涌現的典型特征,涌現過程中一定有大量泡沫,沒有泡沫的涌現就不是真涌現。但我們能做的事是什么?讓每個人收入更高一點,讓每個人有更多閑錢買這種服務,然后大模型公司賺到錢機會就更多,你也能用 2 億美元去 OpenAI 挖人才,你就進步很快。
當年我在深圳待很長時間,深圳當年硬件公司有個“200 塊原則”,什么意思?第一代智能硬件有時候就是玩具,沒什么用。十年前、十五年前左右,中國硬件公司發現,消費者對玩具心理價格承受上限就是 200 塊。200 塊以下買個智能硬件當玩具送人可以,200 塊以上東西就需要有實用性。
對硅谷這價格是多少?現在大概 150 美元。硅谷供應鏈跟深圳供應鏈一樣,都是中國主導。但硅谷能承受 150 美元成本,能招到什么樣人才,能在里面塞多少技術?那本質是什么?本質因為中國消費者還是沒錢。那該做的是什么?該做的是讓消費者愿意花 2000 塊買這東西,那中國創業者生存環境不是瞬間好十倍嗎?然后從這里邊,他是教授帶學生也好,怎樣都不要緊,這里邊自然會涌現,自然會淘汰出優秀公司。
唐小引:我之前問過硅谷那邊算法科學家,國內基本程序員按百萬年薪算頂尖了,但在美國硅谷,百萬年薪是應屆生水平。這是我之前看到的中美差距。
張笑宇:因為美國還有個優勢,它是金融立國,所以資本環境真的強太多。所以這你就沒辦法。中國我們這民族,Chinese people,真的 hard working,非常聰明,非常有創新性。所以你看到現在是國內華人跟美國華人在競爭。但你如果談經濟回報,因為金融機構進步的一點,就是讓每一個天才能以更快速度和更好價格被發現。你想仙童公司成立時,當時整個美國只有四家 VC。20 年前你搞創業公司,第一筆天使輪拿幾十萬到幾百萬。今天你可能出來個幾十上百億刀估值的初創公司。那肯定是說,這跑出來后鼓勵人創業的經濟動力大太多。這就是金融立國自然享受的紅利,這差距是你必須正視的,沒辦法。
唐小引:這是組織部分,接著是人的部分。在您視角下,AI 對人類的意義究竟是什么樣的?
張笑宇:還是那句話,人類從來不是一個整體,所以討論對整個人類的意義可能沒什么意義。但如果要給大眾,給 99%的朋友講一句話就是:放棄智力本位,擁抱快樂的虛無主義,就是好好生活,想開點。
唐小引:那當大家面臨現實情況,比如自己還背著房貸要養家的情況下……
張笑宇:我是 22 年賣的房。你現在還背房貸,那你真的是……怎么說呢?選擇大于努力。抓緊賣,那你能怎么辦?因為現在世界不光有 AI,還有去全球化,還有整個經濟通縮。通縮環境下負債是非常致命的事。縮減負債,縮減消費。你要習慣通縮時代的生存策略,一定不要負債,一定要縮減消費。之前增長年代的生存策略沒有意義了,一定要用通縮年代生存策略過十年時間。所以就是減輕負債,減輕消費,然后茍住,開開心心,這真的有利于你的生存。
真的,因為我知道背幾百萬房貸那種感覺。經濟上行期你還不焦慮,經濟下行期你能睡得著覺嗎?搞不好已經失眠好幾年。所以真的,從這角度講,真心勸解一句,這事還真不完全是 AI 的事,這涉及到你對宏觀經濟前景、全球化的判斷,這東西就不展開了。
唐小引:這是對大眾。對開發者呢?
張笑宇:我知道。我覺得對開發者還是那句話,一個人涌現成優秀創作者而不是超高級人才,沒有你想象的難。說句實話,我們人生大部分時間不是被“實現一個科學探索和研究本身”給困住,我們人生大部分時間是被錯誤認知、沒有意義的堅持,還有過于狹窄的視野給限制住。
我在德國念書時,發現每個小城都有一個世界聞名的哲學家或藝術家。當時很懷疑,為什么這么小地方就能搞出這東西。后來你真理解了,人怎么才能創造出頂級哲學作品和詩歌作品?其實很簡單,就是上來別走彎路,直接跟最牛逼的人對話。如果你城里邊恰好你鄰居或社區里有這么一個人,你跟他聊天最有意義。但如果沒這種機會,或你一上來就被帶歪,你念了十年科舉,然后作為大清留學生再去英國學蒸汽機技術,這十年間你的老學究無數次告訴你,原子分子這些在孔孟之道圣賢書里已經寫過,應該“中學為體”。
你要花十幾年時間先把這些垃圾清除掉,然后從頭開始學瓦特或他們的理論。你人生里大部分精力是跟這些垃圾做斗爭。所以我有一句話送給開發者:盡早識別哪些問題對你是毫無意義的,是垃圾。你拋棄這些思想包袱——很多傳統智慧是思想包袱——輕裝上陣,其實你離最優秀開發者沒那么遠。
唐小引:我理解所有人都會走彎路,哪怕像 AI 領域的辛頓,他其實也走了很多彎路。
張笑宇:是。所以我覺得你不走彎路的一個最簡單標準是什么?你發自真心地為你現在學到的每一個東西,每一次嘗試和每一次失敗都能感到快樂。就像愛迪生發明燈泡嘗試 1 萬次,他爽了 1 萬次,每次都很爽,他根本不是失敗 1 萬次。今天試試竹子行不行?不行,玩到了;明天試試鋼絲行不行?不行,玩到了。你真的以這過程感到快樂,你就離最優秀人才那狀態最近,因為這是更接近涌現的狀態。
唐小引:我們程序員界,Linux 之父有句話叫“Just for fun”。
張笑宇:就是“Just for fun”地去做事。我寫書也是“Just for fun”。
關于《萬有引力》:
這是由 CSDN &《新程序員》執行總編唐小引主理的對話欄目。技術趨勢多變,一不留神總擔心錯過。正在發生的技術事件,對于我們開發者意味著什么?我們面臨的諸多困惑從何尋找答案?《萬有引力》即志在于此,直面事件與困惑,抽絲剝繭,解讀技術真相。
欄目定位:一檔面向開發者群體,聚焦解讀技術真相的對話欄目。
視頻觀看平臺:CSDN 視頻號、CSDN 網站 & App
多形式:文章、視頻、音頻都會有,持續關注 CSDN 公眾號都可獲取,歡迎大家關注!
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.