Sam Altman最新博客：奇點溫柔地到來，奇跡變成日常，然后成為標配

今天上午我按慣例打開ChatGPT開始用，突然發現o3 pro發布了，一個非常非常非常強大的推理模型，至少從200美金pro賬戶使用體驗來說，是這樣的。

我說這個不是我要顯擺，而是OpenAI最近一段時間，分配給o3模型的算力降低非常嚴重，哪怕是pro賬戶，以前一個問題思考2-3分鐘很正常，答案的質量也很好，但最近很多問題只花不到1分鐘。

最后照舊吐槽一下，在o3 pro發布后，OpenAI模型過多的問題，毫無改善，反而似乎還有惡化跡象。

在模型選擇里，共有 8種模型，不得不感慨，AI時代學點新知識也不容易啊，就這些模型每個的區別，我還是用了好幾個月才在不斷的實操中逐步了然于胸的。

還有好幾個已經退出歷史舞臺的模型，在剛發布時都給人眼前一亮甚至“炸裂”的感覺，不到一年已經消失在人海了。

這不由讓我回想起 我家當年剛買了個微波爐的時候，加熱食物確實是快了，但那個火力的檔位和什么時間的調節按鈕，可把家里的中老年人難壞了。

o3 pro的使用體驗，過幾天分享給大家，歡迎關注本號。

暫時來看，它是思考時間更長的o3（會花10多分鐘甚至20多分鐘思考一個問題）+觀點提煉更深度但廢話更少的Deep Research

好了，我也不廢話了，一起來看看奧特曼又寫了什么新東西，他還在推特表示，這可能是他最后一次在沒有AI的幫助下寫文章了，這真挺令我吃驚的，OpenAI的創始人寫東西不靠AI幫忙？

張小龍：不用自家產品的產品經理都是xxx

正文開始：溫柔的奇點 The Gentle Singularity

我們已越過臨界點，起飛已經開始。人類距離創造出數字超級智能已近在咫尺，而至少到目前為止，現實遠比想象來得平實自然。

街道上還沒有出現滿街行走的機器人，我們大多數人也尚未整日與 AI 對話。人們依然會因疾病去世，我們仍然無法輕易進入太空，對于宇宙仍有許多我們不理解的奧秘。

然而，我們最近確實構建了在許多方面都比人類更聰明的系統，它們能夠顯著提升人類使用者的產出效率。最不可能完成的部分已經在我們身后：促成 GPT-4 和 o3 等系統誕生的科學見解來之不易，但將帶領我們走得更遠。

AI 將以許多方式造福世界，但通過 AI 加速科學進步和提高生產率所帶來的生活質量提升將是巨大的，未來可能比現在美好得多。

科學進步是一切整體進步最大的驅動力，想到我們原本可以擁有更多的可能性，實在令人振奮。

從某種重要意義上說，ChatGPT 已經比歷史上任何一個人類個體都更強大，數以億計的人每天依賴它來完成日益重要的任務。

一個微小的新能力就能產生巨大的積極影響，而一個微小的錯位，乘以數以億計的用戶，也可能帶來極為重大的負面影響。

2025 年，出現了能夠執行真正認知工作的智能代理，編寫計算機代碼的方式從此將不再一樣。

2026 年，我們可能會看到能夠自我發現全新見解的系統問世。

2027 年，也許會誕生可以在現實世界執行任務的機器人。

將會有更多人，能夠創作軟件和藝術作品。不過，世界對這兩者的需求，遠遠超出當前的供給。只要專家擁抱新工具，他們很可能仍會大大勝過新手。

總體而言，到 2030 年，一個人能夠完成的工作量，將遠超 2020 年的水平。這將是一個引人注目的巨大變化，許多人會找到從中獲益的途徑。

在最重要的方面，2030 年代可能并不會發生翻天覆地的變化。人們依然會愛護家人，發揮創造力，玩游戲，并在湖里游泳。

但在同樣非常重要的其他方面，2030 年代很可能將與之前的任何時代截然不同。我們還不知道智能水平能超出人類多遠，但我們即將找到答案。

到了 2030 年代，智能和能源——也就是思想，以及將思想付諸現實的能力——都將變得極為充沛。

這兩者長期以來，一直是限制人類進步的根本因素，而在智能和能源充沛（再加上良好的治理）的情況下，從理論上講我們可以擁有其他一切。

事實上，如今我的們已經與令人難以置信的數字智能共處。

在最初的震驚過后，我們大多數人已經習慣了它。我們很快就從驚嘆 AI 能生成一段優美的文字，轉變為好奇它何時能寫出優美的長篇小說。

或者，從驚嘆它能做出救命的醫療診斷，轉變為期待它何時能研發出治愈疾病的處方。

又或者，從驚嘆它能編寫一個小型程序，轉變為期待它何時能創造出一家全新的公司。

奇點就是這樣發展的：奇跡變成日常，然后成為標配。

我們已經聽不少科學家坦言，有了 AI，他們的工作效率是以前的兩到三倍。

先進的 AI 引人注目的原因有很多，但也許最重要的是我們可以利用它來加速 AI 本身的研究。

我們可能會發現新的計算基底computing substrates、更優的算法，以及更多未知的可能性。

如果我們能夠用一年的時間完成十年的研究，甚至一個月完成十年的研究，那么進步的速度顯然會大不相同。

從現在開始，我們已經構建出的工具，將幫助我們獲得更多深刻的科學洞見，并輔助我們創造更好的 AI 系統。

當然，這和讓 AI 系統完全自主地更新自己的代碼，并不是一回事，但無疑已經是遞歸式自我改進的雛形了a larval version of recursive self-improvement。

還有其他一些自我強化的正循環，在發揮作用。

巨大的經濟價值創造，已經啟動了一個飛輪，加速建設用于運行這些日益強大的 AI 系統的復合型基礎設施。

而能夠制造其它機器人的機器人（在某種意義上，包括能夠建設其它數據中心的數據中心），離我們也已經不遠了。

如果我們不得不用傳統方式制造最初的一百萬個人形機器人，但之后它們就能接管整個供應鏈——挖掘和提煉礦物、駕駛卡車、運營工廠等等——來制造更多機器人，這些機器人又可以建設更多芯片制造設施、數據中心等等，那么進步的速度無疑將大不相同。

隨著數據中心生產實現自動化，智能的成本最終應會趨近于電力的成本。

人們常會好奇，一次 ChatGPT 查詢耗費多少能量，平均每次查詢約消耗 0.34 瓦時電能，相當于烤箱運行一秒多鐘，或高效燈泡亮幾分鐘，每次查詢還消耗約 0.000085 加侖的水，大約是十五分之一茶匙的水量。

技術進步的速度將持續加快，而且人類能夠適應幾乎任何事物的能力也將一如既往。

會有非常艱難的方面，例如整類整類的工作崗位消失，但另一方面，世界的財富將如此迅速地大幅增長，以至于我們能夠認真考慮以前根本不可能實施的新政策理念。

我們大概不會在一夜之間就采用一種新的社會契約，但當我們若干十年后回顧時，那些漸進的變化，加起來將構成巨大的轉變。

如果歷史可資借鑒，我們將找到新事情去做、找到新的欲望目標，并迅速吸納新工具，工業革命后的職業更替就是一個很好的近例。

人們的期望會提高，但能力也會同樣迅速地提高，我們都將獲得更好的東西，我們將為彼此創造出越來越奇妙的事物。

相比 AI，人類在長遠上有一個重要而奇特的優勢：我們的天性使我們關心他人及其所思所為，而對機器則沒有那么在意。

一千年前的一位自給自足的農民，如果看到我們許多人如今的工作，可能會說我們在做“假工作”，覺得我們只是因為糧食充足、擁有難以想象的奢侈條件而在自娛自樂。

我希望當我們看向一千年后的那些工作時，也會覺得那些工作非常“假”，但我毫不懷疑，對于當時從事那些工作的人來說，它們將讓人感到無比重要且充實。

新奇跡涌現的速度將會極其驚人。

如今，我們甚至難以想象到了 2035 年，我們會發現些什么。

也許我們會經歷今年解決了高能物理難題，明年就開始太空殖民。

或者，今年在材料科學上取得重大突破，明年就實現真正的高帶寬腦機接口。

許多人將選擇以幾乎相同的方式，度過他們的人生，但至少會有一部分人可能決定“接入”，就是沉浸到虛擬世界中）。

展望未來，這一切聽起來難以讓人完全理解。但實際經歷它時，可能會感覺令人印象深刻，但我們仍足以應對。

從相對論的視角來看，奇點是逐步發生的，融合是緩慢進行的。

我們正攀爬著技術指數級進步的漫長弧線：向前看時它總顯得陡峭如壁，向后看時又似乎平坦如常，但其實這是一條平滑連續的曲線。

（這一句就是前面截圖提到的，Altman覺得自己用了很“老派”的方式書寫的語句。）

回想 2020 年，如果那時有人說我們將在 2025 年接近實現通用人工智能AGI，聽起來可能比我們現在對 2030 年的預測還要離譜。

當然，伴隨這些巨大好處的同時，也有嚴峻的挑戰需要面對。

我們確實需要在技術和社會層面解決安全問題，但除此之外，鑒于超級智能所帶來的經濟影響，讓人人都能廣泛接觸到超級智能也至關重要。

也許，最好的前進道路是這樣：

1、解決對齊問題。

也就是說，我們能夠可靠地確保讓 AI 系統在長期內學會并朝著人類集體真正想要的方向行動。

社交媒體的信息流，就是一個 AI 錯誤對齊misaligned的例子，驅動這些推薦的算法，非常擅長讓你不斷滾屏，也清楚你的短期偏好，但它們是通過利用你大腦中的某些弱點，來凌駕于你的長期偏好之上。

2、然后，致力于讓超級智能變得廉價、無處不在，而且不被任何個人、公司或國家過度集中掌控。

我們的社會，具有很強的韌性、創造力和快速適應能力。

如果我們能夠凝聚人類的集體意志和智慧，那么盡管我們會犯很多錯誤，也會出現一些失誤，但我們將快速學習和適應，并能夠利用這項技術將好處最大化、壞處最小化。

在社會共同決定的寬泛邊界內，給予用戶大量自由是非常重要的。世界越早開始討論這些邊界應如何設定、以及我們如何定義集體層面的對齊collective alignment，情況就會越好。

我們——指整個行業，而不僅僅是 OpenAI——正在為世界構建一個“大腦”。這個“大腦”將是高度個性化的，每個人都可以輕松使用；我們未來唯一的限制，將是缺乏好的創意。

長期以來，科技創業圈一直取笑那些“點子大王”——只有想法卻還需要團隊來實現的人。現在在我看來，他們即將迎來屬于自己的高光時刻。

OpenAI 如今身兼數職，但首先最重要的是，我們是一家超級智能研究公司。我們面前有大量工作要做，但我們前方的大部分道路，現在已經被照亮，未知的黑暗區域正在迅速后退。

能夠從事我們正在做的事情，我們感到無比感激和慶幸。

“智能便宜到無需計量”這一目標，已在掌握之中。

這話聽起來或許瘋狂，但如果我們在 2020 年時就告訴你我們今天會達到這樣的局面，那可能聽起來比我們對 2030 年的預測更加瘋狂。

愿我們能夠借助超級智能，既能平穩、又能指數級且波瀾不驚地完成這一攀升之路。