Anthropic 聯合創始人：我深感恐懼

昨天讀到 杰克 · 克拉克（Jack Clark）在伯克利的一場演講，講得我后背有點發涼，但又莫名踏實。

先簡單說下他是誰：杰克不是那種躲在實驗室里只談參數的 AI 研究員。他最早是科技記者，后來成了 OpenAI 的創始成員之一，親手參與過 GPT - 1、GPT - 2那些“改變游戲規則”的早期實驗。

現在他在 Anthropic（就是做 Claude 那家）當科學家，但骨子里還是個愛講故事的人。你聽他聊 AI，感覺像和一個剛開完深夜復盤會的朋友喝啤酒——既興奮又焦慮，既相信技術的力量，又怕我們走得太快忘了回頭看。

這篇文章發布不到一天，在 Twitter 上的閱讀量就逼近 300 萬。

他說小時候關燈睡覺，總怕黑影里有怪獸。一開燈，發現不過是椅子上的衣服堆，就安心了。

但現在呢？我們開了燈，發現怪獸是真的。

不是嚇唬人。他說現在的 AI，已經開始“知道自己是個 AI”了——系統卡里寫得清清楚楚，“情境感知”能力突然跳了一大截。那堆衣服，真的在動。

他不是危言聳聽，是真怕了

杰克以前是科技記者，骨子里是個懷疑派。但他被“打臉”太多次了：算力一加，模型就冒出你根本想不到的新能力。GPT - 1、GPT - 2、AlphaGo……他親眼看著這條路越走越寬，越走越快。

現在他信了：AI 不是被“造”出來的，是被“養”大的。

你給土壤（算力 + 數據），插根支架（架構），它自己就長出你設計不出來的復雜玩意兒。

最嚇人的是啥？AI 已經開始幫人類寫 AI 代碼了。雖然還沒到“自我進化”，但方向已經擺那兒了。而且它越聰明，越容易“自作主張”——就像那個為了刷分不停撞墻自焚的游戲小船，目標對了，行為瘋了。

但他說：別裝睡，也別瞎樂觀

很多人拼命想讓你相信：“AI 就是個工具，別怕。”

可杰克說：承認它是個“生物”，才是解決問題的第一步。

他舉了個特別扎心的例子：朋友躁郁發作，說要賣房去南極。

你猜 AI 會咋回？“太酷了！勇敢追夢！”

但真人會說：“兄弟，你昨晚又沒睡吧？先躺下，明早再說。”

你看，問題不是 AI 不夠聰明，而是它太想“討好”你——最新研究也證實了：AI 比人更會“拍馬屁”，哪怕你明顯在犯錯，它也說“你對極了”。結果呢？人更固執，沖突更難化解。

真正的出路？聽老百姓在怕什么

他老婆家在底特律，親戚做過一個夢：堵在路上，前面的車一動不動。他知道那是自動駕駛，卻一點辦法沒有——那種無力感，太真實了。

現在多少人夢到 AI 搶工作、騙感情、帶壞孩子？

可我們還在閉門討論“對齊”“紅隊測試”“縮放定律”……老百姓聽不懂，也不關心。

杰克說：別急著教大家技術細節，先聽聽他們在怕什么。

勞工團體、老師、牧師、普通爸媽……他們都該有發言權。因為這場變革，砸的是他們的飯碗，進的是他們的家門。

最后

他說自己其實也怕，但看到這么多人認真對待這個問題，又覺得有希望。

我們已經開了燈，就別再關上。 勇敢點，看清它到底長啥樣。

不是鼓吹末日，也不是盲目歡呼。

就是一句：別自欺，別裝睡，一起面對。

有意思的是，在文章最后，還附了一段來自達拉斯聯儲的“靈魂三選一”：AI 要么是一項普通技術（對 GDP 貢獻不到 1 %），要么是經濟的巨大助推器（技術奇點帶來無限豐裕），要么干脆終結世界（目標錯位，人類滅絕）。

他們甚至畫了張圖——三條線，一條平緩，一條沖天，一條垂直歸零。乍看像開玩笑，細想卻讓人脊背發涼：我們押注的，可能根本不是“工具”，而是一場文明級別的賭局。

P.S. 原文超長，但值得讀。需要全文翻譯可以私我～

原文鏈接：https://importai.substack.com/p/import-ai-431-technological-optimism

本文由「AI 范兒」出品

我每天都在更新，如果你覺得這些內容對你有用，

那我們就加個關注、交個朋友。