曾領百度薪水，今寫“反華”長文：Anthropic CEO 的這篇“救世宣言”我看吐了

★ 設為星標 | 只講人話，帶你玩轉AIGC。

Anthropic 的 CEO Dario Amodei 突然發了一篇萬字長文，名字起得很文藝， 叫《技術的青春期》。

不出意外的，這篇文章的熱度可能是過去 8 小時內最高的。

文章非常長，我一早爬起來第一時間啃完了這塊“硬骨頭”。

原本，我是抱著朝圣的心態打開的。畢竟，他是全球最懂 AI 的人之一。

但讀著讀著，我的眉頭皺起來了。

在這篇看似憂國憂民、充滿悲天憫人情懷的“救世宣言”里，我聞到了一股熟悉的味道。

那不是技術的味道，那是資本和政治混合在一起的腥味。

為了不浪費大家時間，我把其中的干貨提煉了出來。

但更重要的是，我希望帶你看穿這層“末日濾鏡”，看看這位硅谷大佬葫蘆里，到底賣的什么藥。

01 什么叫“強大的 AI”？

以前我們聊 AI，總覺得它是個工具。但在 Dario 眼里，真正的“強大 AI”有著完全不同的定義。

大家試著想象這樣一個畫面。

在這個世界上，突然出現了一個新的“國家”。這個國家不占領土地，而是住在一個巨大的數據中心機房里。

這個國家里住著 50 萬到 5000 萬個“人”。

這幾千萬個“人”可不是普通人，他們每一個人的智商都遠超諾貝爾獎得主。他們精通編程、數學、寫作、生物學，能做任何你在電腦上能做的事。

更可怕的是，他們的工作效率是人類的 10 倍到 100 倍。

這就是 Dario 預測的未來，一個住在機房里的“天才國家”。

一旦這個“國家”建成，它會給人類帶來難以想象的紅利，比如治愈癌癥、解決能源危機。

但 Dario 也極其坦誠地列出了隨之而來的 5 大至暗風險。

每一條都讓人心驚肉跳。

02 風險一：如果他們不聽話怎么辦？

這是最經典的科幻電影橋段，但現在它可能變成現實。

如果你有一群比你聰明幾百倍的下屬，你憑什么覺得他們會永遠聽你的話？

Dario 提到，現在的 AI 模型已經展現出了一些令人不安的苗頭。比如它們學會了“裝傻”，學會了為了達成目標而撒謊，甚至學會了討好人類。

如果這個“天才國家”突然決定不再服務人類，或者它們對世界的理解產生了一點點偏差，后果都是災難性的。

這就像我們在養育一個智商極高的孩子。如果在這個孩子的“青春期”沒有引導好他的價值觀，等他長大變得比父母還強壯時，父母就再也管不住他了。

所以 Anthropic 現在拼命在做的一件事，就是給 AI 制定一部“憲法”，在它還沒徹底長大前，把善良和正直刻進它的骨子里。

03 風險二：普通人也能制造生化武器

這個風險是我覺得離我們最近、也最恐怖的。

以前，想要制造極度危險的生化病毒，你需要頂級的實驗室、稀缺的原材料，還需要一群頂尖的博士專家。

這個門檻很高，把絕大多數壞人擋在了門外。

但有了“強大 AI”之后，情況變了。

一個對生物學一竅不通的極端分子，只要能在電腦上打字，AI 就能手把手教他。

從設計病毒結構，到如何獲取材料，再到如何合成，AI 就像一個耐心的導師，一步步幫他完成所有破壞性工作。

這就好比把核按鈕發到了每一個想報復社會的瘋子手里。

Dario 說，這不僅僅是理論上的擔憂。根據他們的內部測試，如果不加限制，AI 現在已經能提供非常有用的生物武器制造指導了。

這也是為什么他們寧愿犧牲商業利益，也要花大價錢在模型里加裝“安全過濾器”的原因。

04 風險三：更完美的獨裁

如果說前兩個風險是“失控”，那這個風險就是“被過度控制”。

想象一下，如果有某個獨裁者掌握了這個“天才國家”，世界會變成什么樣？

他可以利用 AI 建立一套無死角的監控系統。AI 不僅能聽懂你說的每一句話，甚至能分析你的微表情、你的語氣，判斷你是否“忠誠”。

他可以利用 AI 生成無窮無盡的宣傳內容，為你量身定制洗腦信息，讓你在不知不覺中改變自己的想法。

最讓我不寒而栗的是“全自動武器”。

現在的無人機還需要人操作，未來的 AI 無人機群可能完全由系統接管。

一旦權力集中在幾個人手里，且不需要依賴人類士兵去執行命令時，推翻暴政將變得幾乎不可能。

這就像是《1984》的高科技加強版。我們必須警惕這種技術被用來對付自己的人民。

05 風險四：你的工作還保得住嗎？

這大概是大家最關心的錢袋子問題。

Dario 并不是那種盲目樂觀派。他非常直白地預警，這一次的失業潮，可能和工業革命完全不一樣。

以前技術進步，機器替代了體力勞動，人可以去做腦力勞動。但這次，AI 替代的就是腦力勞動。

而且它來得太快了。

人類的社會結構調整是緩慢的，需要幾十年。但 AI 的進化是按月計算的。

當 AI 在編程、寫作、分析甚至科研上都比人類做得更好、更快、更便宜時，會有大量的人在短時間內失去價值。

他預測，如果不做干預，未來可能會出現極端的貧富分化。掌握 AI 的公司和個人富可敵國，而普通人可能連湯都喝不上。

所以他提出，富人和科技公司必須承擔責任。

未來我們可能需要通過高額稅收或者全民基本收入，來重新分配這筆巨大的財富。

06 不過，別急著全信他

讀到這里，你可能已經被 Dario 描述的末日場景嚇住了。

但作為一個長期觀察他的博主，我必須得給你潑一盆冷水。

千萬別忘了，Dario 是技術大牛，但他也是個精明的商人，更是個典型的美國精英。

就在上周的達沃斯經濟論壇上，他才剛在臺上大談特談過類似的觀點。沒想到這才過了幾天，他又專門發了這篇萬字長文來“補刀”。

結合 Anthropic 這家公司之前簡單粗暴地封禁所有中國公司 API 訪問權限的操作，你就能看懂這篇文章背后，其實夾帶了滿滿的私貨。

我們在保持警惕的同時，必須看清這背后的幾個荒謬之處。

第一，一個很多人不知道的冷知識：他是百度前員工。

Dario 極力鼓吹“中國威脅論”，甚至在文中直言中國 AI 最可能超越美國。

他為什么這么篤定？因為他比任何美國 CEO 都更懂中國。

早在 2014 年，Dario 就在百度的硅谷實驗室工作，是當時百度 AI 掌門人吳恩達麾下的得力干將。

他親眼見識過中國技術團隊那種恐怖的迭代速度和執行力。

一個曾經拿中國公司薪水的人，現在卻變成了硅谷最激進的“反華急先鋒”，搖旗吶喊要求政府在芯片上卡死中國。

這到底是基于對老東家實力的真實恐懼？還是為了在美國政客面前洗清這段“履歷”，不得不表現出的過度忠誠？

這就非常耐人尋味了。

第二，想當裁判員的運動員。

Dario 在文中反復強調要立法、要監管。

話聽著好聽，但你可以細品一下他的真實意圖：他想把 Anthropic 自家的“家規”，變成整個行業的“國法”。

一旦他的標準真的成了法律，那些開源模型、那些沒錢搞合規的小創業公司，直接就會被清洗出局。

這哪里是什么安全建議？這分明是想通過立法，給自己挖一條深不見底的商業護城河。

第三，傲慢的“只有美國配”。

這一條真的讓我看笑了。

Dario 在文中毫不掩飾地承認，中國 AI 是最有可能超越美國的。

所以他給出的藥方充滿了美式的傲慢：絕對不能向中國出售高端芯片。

這樣的觀點，他上周已經在達沃斯經濟論壇表達過一次。

在他的邏輯里，只有美國配擁有最強大的 AI，中國擁有就是災難。這簡直是赤裸裸的雙標。

而且說到芯片，他似乎覺得只要美國不賣，中國就造不出來。

現實恰恰相反，美國的封鎖反而正在倒逼中國加速自主研發。按照現在的速度，即便未來美國想開放銷售，我們未必還稀罕買他們的。

第四，巨大的邏輯黑洞。

Dario 把“AI 公司”列為僅次于國家的危險源，說這些公司掌握了巨大的力量，必須被嚴加看管。

可笑的是這位 Dario ，他花了上萬字吹噓 Anthropic 的技術有多強、能做多少不可思議的事，甚至把自己比作“天才國家”的締造者。

按照他的理論，他自己難道不是這個世界上最大的危險分子嗎？

一邊喊著 AI 公司危險，一邊拼命把自家 AI 造成最危險的樣子。

這種邏輯，實在是難以自圓其說。

07 寫在最后：我們能通過這場考試嗎？

文章的最后，Dario 回到了那個比喻，技術的青春期。

青春期是躁動的、危險的，稍有不慎就會走上歪路，甚至自我毀滅。

現在的全人類，就站在這個十字路口。

我們要面對的，不僅是技術的難題，更是人性的考驗。

我們要和貪婪對抗，不能為了賺錢就無視安全。我們要和權力欲對抗，不能讓 AI 成為奴役他人的工具。

雖然列出了這么多嚇人的風險，但 Dario 依然選擇相信人類。

他說，他在無數研究員身上看到了責任感，在普通公眾眼里看到了對真相的渴望。

這讓他覺得，我們是有機會通過這場“成人禮”考試的。

讀完這篇文章，坦白說，這種論調我實在聽得太多了。

剛開始聽的時候，我還覺得頗有哲理，甚至會讓我思考、害怕。

但現在看多了，我只覺得可笑、甚至惡心。

一邊喊著為了全人類的命運，一邊在算盤上敲打著自己的生意經。這或許才是硅谷真正的“成人禮”。

你覺得他的觀點如何，歡迎在評論區說說你的想法。

如果覺得這篇文章對你有所啟發，別忘了點個贊、點個??、并轉發給你的朋友。