AGI，不會通知你

每次技術革命，都用上次的速度，欺騙這次的人

回望歷史，我們發(fā)現每次技術革命都不是以宣布的方式到來

無論是農業(yè)革命、工業(yè)革命，還是互聯網革命，都是這樣，我們總是在事情發(fā)生之后，才回過頭來指出：哦，那是「xx革命」的起點

AGI 也不會有例外，它到來的時候并不會通知你，而當你發(fā)現的時候，它已經過了，然后很多事情在各個角度并行發(fā)生著變化

還有一個更細思極恐的：核武器出現后，人們用了 20 年去摸清如何確保安全，但這一次，歷史可能不會給到我們 20 年

如果是對于個人來說，這個窗口期可能會更短

門檻已經在身后了

1793年，英國派馬戛爾尼勛爵出使大清，要求開放通商口岸。乾隆給英王喬治三世寫了一封回信，語氣平和，措辭妥帖：「天朝物產豐盈，無所不有，原不藉外夷貨物以通有無」

寫這封信的時候，英國紡織廠里的蒸汽機已經轟鳴了將近三十年。乾隆不知道這件事，也不覺得需要知道。他用的是一套運轉了幾千年的框架，在那個框架里，大清是世界的中心，外夷是來朝貢的

五十年后，鴉片戰(zhàn)爭爆發(fā)

AGI 不會有一個到來的時刻，只有一個回頭看的時刻

有一個研究機構叫 Meter，專門追蹤一件事：給 AI 一個完整任務，全程不介入，看它能獨立撐多久

2024年初，前沿模型能可靠完成的任務在幾分鐘量級，相當于查一個問題、寫一段代碼。到2025年，這個數字到了五到十小時，相當于一個工程師獨立完成一個完整功能模塊的時間，這些數字每七個月翻一番，曲線沒有趨平的跡象

這段時間，由于項目需要，在一些前沿的實驗室有過不少交流，漸漸地就覺得門檻可能離我們不遠了，甚至說：這個門檻已經開始變得模糊

我并不知道會有哪一天，會有怎樣的方式，社會共識會告訴我們：AGI 已到達

這次的速度不在同一量級

公元前356年，商鞅在秦國開始變法。他重新丈量土地、廢除貴族世襲、推行軍功授爵。二十年后，商鞅被車裂而死。又過了一百年，秦始皇才統一六國

商鞅變法的果實，種樹的人等不到

1765年，瓦特改良了蒸汽機。紡織廠開始用機器代替手工，煤礦開始用機器抽水。英國第一部限制童工工時的工廠法，到1833年才通過

從蒸汽機到工廠法，用了將近七十年

1870年代，第二次工業(yè)革命在德國和美國同時爆發(fā)，普法戰(zhàn)爭打完，俾斯麥拿到賠款和煤礦，轉身就開始建鋼廠

德國從一個農業(yè)國變成歐洲最大的工業(yè)國，用了不到三十年

1994年，中國接入互聯網，第一封電子郵件從北京發(fā)出。十年后，淘寶上線。又十年，微信月活十億

從第一封電子郵件到改變所有人的日常生活，用了二十年

2022年11月，ChatGPT 發(fā)布，兩個月后兩億用戶。然后到了2025年，連這個速度都開始顯得慢了。Manus 上線不到一年，被以數十億美金收購。OpenClaw，AGI Bar 社區(qū)里大家叫它小龍蝦，從第一次被人知道，到 GitHub Star 數超過 Linux，只用了一個月。Linux 是全世界程序員用了三十年積累起來的信仰

每次技術革命，都在用上次的速度，欺騙這次的人

每一次，人類建立應對機制的速度都比技術慢，但最終能追上
但對于這一次...我不知道

安全問題的答案在政治里

1952年12月，倫敦被一層濃厚的煙霧籠罩了五天，能見度低到公交車司機需要乘客在前面打手電筒引路。五天之內，四千多人死去，后續(xù)數月又有八千人陸續(xù)離世

技術層面，解決方案早就存在。丘吉爾的內閣看完報告，把它擱置了。工業(yè)游說團體說改造成本太高，財政部說現在不是時候，衛(wèi)生部說死亡數字屬于正常的冬季水平。又死了四年人，《清潔空氣法》才在1956年通過

這段歷史，在我們課本中被壓縮到了四個字：倫敦大霧

而放在當時，這是一個國家、一個時代的痛

「多危險算太危險」，從來都不是工程師能回答的問題

蒸汽機不會告訴你排放多少二氧化硫算超標。這個數字需要醫(yī)生去統計死亡人數，需要記者去報道，需要公眾去抗議，需要議員去投票，每一個環(huán)節(jié)都是人和人之間的博弈

也許，我們仍然還需要經歷無數教訓，才能找到安全的答案

這次沒有二十年

1962年10月，蘇聯在古巴部署核導彈的消息傳到華盛頓

接下來十三天，是人類歷史上離核戰(zhàn)爭最近的時刻。肯尼迪和赫魯曉夫之間的電報往來，今天讀起來仍然讓人背脊發(fā)涼，兩個人都清楚，一旦兩邊產生一丁點的誤判，我們可能會走向終點

還好，現在以上帝視角來看，一切平穩(wěn)度過

在此之前，兩國已經用將近二十年，經歷了柏林封鎖、朝鮮戰(zhàn)爭、一次次擦邊球，在真實的高壓對抗中摸索出彼此的邊界。赫魯曉夫知道能退到哪里，肯尼迪知道不能逼到哪里

這個「知道」，是用二十年的試探換來的

那二十年里，蘭德公司建立了整套核威懾理論，熱線電話被架設起來，第一輪軍控談判開始了。一套框架，從無到有

人類用了二十年，才在核武器出現后摸清楚彼此的邊界，而面對 AGI 的風險，我們這次沒有二十年

等危機真的出現，可能沒有十三天來回發(fā)電報，1950年代的蘭德公司知道自己在做什么。對應的工作，我們現在還不知道是什么

新工具最先屬于舊信任

1455年，古騰堡印出了第一批《圣經》。在這之前，歐洲的書籍由修道院僧侶手工抄寫，一本《圣經》需要幾個月。印刷機出現之后，第一批大規(guī)模使用它的，是教會。他們印贖罪券、印教皇詔書、印彌撒手冊，掌握最廣泛傳播渠道的機構，最快地把新工具用到了極致

1517年，馬丁·路德把《九十五條論綱》釘到教堂門上。這份文件能在兩周內傳遍整個德意志，靠的正是教會花了幾十年建立起來的那套印刷和傳播網絡。路德用教會建立的基礎設施，動搖了教會本身

最快拿到新工具的人，永遠是在舊工具上建立了最深信任的人

杠桿放大的是已有的優(yōu)勢

信任是慢變量，不會因為某個工具出現就突然產生。框架還沒建好，規(guī)范還沒到位，這段時間里，信任是少數幾件可以提前做的事

這個窗口現在還開著

這五條判斷，我不能保證是對的

但如果方向大體沒錯，留給調整的時間，可能比大多數人認為的要短