深度｜AGI是不是一個(gè)陰謀論？

（來(lái)源：MIT TR）

近年來(lái)，通用人工智能（AGI）被賦予近乎神話的力量：有人堅(jiān)信它將治愈疾病、拯救地球、開(kāi)啟人類的富足時(shí)代；也有人警告它會(huì)帶來(lái)終極災(zāi)難、終結(jié)人類文明。無(wú)論是烏托邦還是末日論，AGI 已成為當(dāng)下主流敘事之一。它尚未發(fā)生，卻主導(dǎo)了資本流向、科技政策與公眾想象。

但當(dāng)我們剝開(kāi)這層層敘事，不禁要問(wèn)：我們狂熱追隨的，究竟是一項(xiàng)確鑿的技術(shù)未來(lái)，還是一場(chǎng)精心編織的現(xiàn)代神話？越來(lái)越多跡象表明，圍繞 AGI 的集體狂熱，已展現(xiàn)出類似陰謀論的特征——一個(gè)我們時(shí)代最“高級(jí)”的陰謀論。

硅谷是如何被 AGI “洗腦”的

早在 2007 年，人工智能還遠(yuǎn)沒(méi)有今天這么光鮮。亞馬遜和 Netflix 那時(shí)已經(jīng)涉足了機(jī)器學(xué)習(xí)，但也只是用它來(lái)推薦書(shū)籍和電影，僅此而已。

不過(guò)本·戈策爾（Ben Goertzel）并不滿足于此，他懷揣著更大的夢(mèng)想。大約十年前，這位人工智能研究者創(chuàng)立了名為“Webmind”的互聯(lián)網(wǎng)初創(chuàng)公司，試圖在早期網(wǎng)絡(luò)環(huán)境中培育他所構(gòu)想的“數(shù)字嬰兒大腦”。但由于缺乏資金支持，公司很快宣告破產(chǎn)。

戈策爾是一個(gè)小眾科技圈的核心人物，這個(gè)圈子的研究者一直夢(mèng)想著創(chuàng)造出能像人類一樣思考甚至做得更好的智能。只是，他還需要一個(gè)響亮的名字把它和略顯平庸的人工智能進(jìn)行區(qū)分。

當(dāng)時(shí) Webmind 的員工謝恩·萊格提出了“AGI”（Artificial General Intelligence，通用人工智能) 這一名字。聽(tīng)起來(lái)有些遙不可及，但不失準(zhǔn)確。戈策爾決定，就是它了。

幾年后，萊格（Legg）與德米斯·哈薩比斯（Demis Hassabis）和穆斯塔法·蘇萊曼（Mustafa Suleyman）共同創(chuàng)立了 DeepMind， 同樣扎根 AGI 領(lǐng)域。

但在當(dāng)時(shí)大多數(shù)嚴(yán)肅的研究者眼中，人工智能終將模仿人類能力的論斷不過(guò)是個(gè)笑話。那么究竟發(fā)生了什么？AGI 如何在十幾年內(nèi)從荒誕不經(jīng)演變?yōu)楸娝苤?/p>

上個(gè)月我采訪了戈策爾，向他提出了我的疑問(wèn)。他說(shuō)：“我算是研究復(fù)雜混沌系統(tǒng)的人，所以對(duì)自身能真正理解記憶空間中非線性動(dòng)態(tài)的認(rèn)知持保守態(tài)度。”（簡(jiǎn)單翻譯：事情很復(fù)雜，我不好說(shuō)。）

戈策爾認(rèn)為有幾個(gè)因素幫助推廣了這一理念。

首先是 AGI 會(huì)議——該會(huì)議常與頂尖主流學(xué)術(shù)集會(huì)同步舉辦，例如促進(jìn)科學(xué)進(jìn)步協(xié)會(huì)的年會(huì)、人工智能會(huì)議和國(guó)際人工智能聯(lián)合會(huì)議。

"如果我只是出版了一本名為《AGI》的書(shū)，它可能就會(huì)悄無(wú)聲息地消失，”戈策爾表示，“但會(huì)議每年都在巡回舉辦，吸引著越來(lái)越多的學(xué)生參與。”

"其次要感謝萊格，他將這個(gè) AGI 術(shù)語(yǔ)帶到了 DeepMind。我認(rèn)為他們是第一個(gè)在當(dāng)時(shí)主流企業(yè)界討論 AGI 的公司。雖然這并非他們反復(fù)強(qiáng)調(diào)的核心議題，但這無(wú)疑為該領(lǐng)域提供了合法性依據(jù)。”

"五年前我首次與萊格討論 AGI 時(shí)，他坦言, 2000 年代初談?wù)?AGI 會(huì)被視為瘋子……即便 2010 年創(chuàng)立 DeepMind 時(shí)，我們?cè)跁?huì)議上仍遭遇大量白眼。但到 2020 年風(fēng)向已變。雖然仍有部分人對(duì)此感到不安，但它正逐漸走出冷宮。”

戈策爾指出的第三點(diǎn)是早期 AGI 宣揚(yáng)者與科技巨頭權(quán)力經(jīng)紀(jì)人之間的交集。戈策爾曾與 Paypal 創(chuàng)始人彼得·蒂爾（Peter Thiel) 有過(guò)合作。“我們聊了很多，”戈策爾回憶道。他記得有天在舊金山四季酒店與蒂爾共處一整天。“我試圖拼命向他灌輸 AGI 理念。”

那時(shí)的戈策爾還不知道，他不是“孤軍奮戰(zhàn)”。還有另一個(gè)人正在和他一起推動(dòng) AGI 這股浪潮前進(jìn)。

末日論者登場(chǎng)

這個(gè)人就是埃利澤·尤德科夫斯基（Eliezer Yudkowsky），他在推動(dòng) AGI 理念方面所做的貢獻(xiàn)至少不亞于戈策爾，甚至可能更為突出。但與戈策爾對(duì) AGI 的樂(lè)觀幻想不同，尤德科夫斯基認(rèn)為 AGI 只會(huì)帶領(lǐng)人類走向滅頂之災(zāi)

起初，尤德科夫斯基的觀點(diǎn)并未引起廣泛關(guān)注。要知道，當(dāng)時(shí)的人工智能，都還只是純粹的科幻概念。直到 2014 年，牛津大學(xué)哲學(xué)家尼克·博斯特羅姆（Nick Bostrom）出版了《Superintelligence》（超級(jí)智能）一書(shū)，讓 AGI 的概念真正廣為人知。

比爾·蓋茨、埃隆·馬斯克等眾多科技界人工智能從業(yè)者都讀過(guò)此書(shū)，并且受其影響。無(wú)論是否認(rèn)同他悲觀的末日論，尼克確實(shí)將埃利澤的理念以極具說(shuō)服力的方式系統(tǒng)化地呈現(xiàn)了出來(lái)。

“所有這些都讓 AGI 獲得了宣傳，”戈策爾補(bǔ)充道，“它不再是一個(gè)虛無(wú)縹緲或者荒誕的概念。”

（來(lái)源：MIT TR）

如今，尤德科夫斯基的觀點(diǎn)比以往任何時(shí)候都更受歡迎。這吸引了像蒙特利爾大學(xué)研究員大衛(wèi)·克魯格（David Krueger）這樣的年輕末日論者。

“我認(rèn)為我們正穩(wěn)步走向制造出殺光所有人的超人類 AI 系統(tǒng)，”克魯格認(rèn)為，“我們必須立即叫停。”

媒體們也開(kāi)始爭(zhēng)相報(bào)道，尤德科夫斯基甚至被紐約時(shí)報(bào)冠以“硅谷版末日傳教士”的稱號(hào)。

他抓住熱度，與機(jī)器智能研究所所長(zhǎng)內(nèi)特·索雷斯合著的新書(shū)《If Anyone Builds It, Everyone Dies》,提出了一系列缺乏證據(jù)支撐的驚人論斷：近未來(lái)的 AGI 將引發(fā)全球末日浩劫。

二人的立場(chǎng)十分極端：他們主張應(yīng)不惜一切代價(jià)實(shí)施國(guó)際禁令，必要時(shí)甚至可訴諸核武器報(bào)復(fù)。畢竟，尤德科夫斯基和索阿雷斯寫(xiě)道：“數(shù)據(jù)中心造成的死亡人數(shù)可能超過(guò)核武器。”

該書(shū)一經(jīng)推出，就登上了《紐約時(shí)報(bào)》暢銷(xiāo)書(shū)榜，并獲得多位權(quán)威人士的推薦，包括美國(guó)諸多政客、科學(xué)家與社會(huì)名流， AGI 開(kāi)始引發(fā)巨大的社會(huì)關(guān)注， 資本、政策開(kāi)始紛紛押注。

2023 年，OpenAI 首席執(zhí)行官山姆·奧特曼（Sam Altman) 在 X 平臺(tái)發(fā)布：“在我看來(lái)，埃利澤為加速 AGI 發(fā)展所做的貢獻(xiàn)遠(yuǎn)超任何人。毫無(wú)疑問(wèn)，正是他讓許多人對(duì) AGI 產(chǎn)生了興趣。”尤德科夫斯基或許有朝一日會(huì)因此獲得諾貝爾和平獎(jiǎng)，奧特曼補(bǔ)充道。

這一切所帶來(lái)的影響，似乎與尤德科夫斯基的想法背道而馳。但不管他接受與否，AGI 已經(jīng)悄然滲透主流并牢牢扎根。

但 AGI 是什么？沒(méi)人知道

1945 年，第一臺(tái)電子計(jì)算機(jī) ENIAC 問(wèn)世僅五年后，艾倫·圖靈（Alan Turing）就提出了那個(gè)著名的問(wèn)題：“機(jī)器能思考嗎？”不久后的 1951 年，他在一次廣播節(jié)目中說(shuō)得更直白：“一旦機(jī)器學(xué)會(huì)思考，它們很快會(huì)超越我們有限的能力。機(jī)器不會(huì)死，還能相互交流、不斷進(jìn)化。所以總有一天，我們得準(zhǔn)備好把控制權(quán)交給它們。”

十年后的 1955 年，計(jì)算機(jī)科學(xué)家約翰·麥卡錫（John McCarthy）和同事向美國(guó)政府申請(qǐng)資金，打算開(kāi)展一個(gè)他們頗具遠(yuǎn)見(jiàn)地命名為“人工智能”的項(xiàng)目。

這個(gè)命名在當(dāng)時(shí)看來(lái)近乎天方夜譚——畢竟那時(shí)的計(jì)算機(jī)還像房間一樣笨重，功能卻和恒溫器差不多。但麥卡錫在申請(qǐng)書(shū)中寫(xiě)道：“我們將探索如何讓機(jī)器使用語(yǔ)言、形成抽象概念、解決如今只有人能解決的問(wèn)題，并實(shí)現(xiàn)自我進(jìn)化。”

正是這些早期預(yù)言，埋下了今天 AGI 神話的種子。所謂比人更聰明、無(wú)所不能的機(jī)器，與其說(shuō)是技術(shù)目標(biāo)，不如說(shuō)更像一種脫離現(xiàn)實(shí)的幻想。

因?yàn)楸M管投入巨資、爭(zhēng)論不休，沒(méi)有人真知道該怎么造出 AGI。

更麻煩的是，大多數(shù)人連它到底是什么都沒(méi)共識(shí)——這也解釋了為什么有人能一邊說(shuō)它會(huì)拯救世界，一邊又說(shuō)它將毀滅人類，卻沒(méi)人覺(jué)得矛盾。

大多數(shù)定義的核心都繞著同一個(gè)理念：機(jī)器能在廣泛的認(rèn)知任務(wù)中達(dá)到人類水平。但這個(gè)定義本身也站不住腳：指的是哪些人類？哪些認(rèn)知任務(wù)？“廣泛”實(shí)際有多廣？

“它根本沒(méi)有準(zhǔn)確定義，”美國(guó)橡樹(shù)嶺國(guó)家實(shí)驗(yàn)室前計(jì)算機(jī)部門(mén)負(fù)責(zé)人克里斯托弗·西蒙斯（Christopher Simmons）指出，“如果說(shuō)以人類水平為基準(zhǔn)——智能本身就有無(wú)數(shù)種可能，每個(gè)人的智能都各不相同。”

西蒙斯認(rèn)為，我們因此陷入一場(chǎng)奇怪的競(jìng)賽：到底要造個(gè)什么東西？“你究竟想讓它干什么？”

2023 年，谷歌 DeepMind 團(tuán)隊(duì)（包括參與命名的萊格）曾嘗試梳理 AGI 的各種定義。有人認(rèn)為它必須能學(xué)習(xí)；有人強(qiáng)調(diào)它得創(chuàng)造經(jīng)濟(jì)價(jià)值；還有人堅(jiān)持它得有物理身體，能在現(xiàn)實(shí)世界活動(dòng)（比如沖咖啡）。

萊格告訴我，當(dāng)年他向戈策爾提議用這個(gè)詞作書(shū)名時(shí)，模糊性正是關(guān)鍵。“我當(dāng)時(shí)沒(méi)有特別清晰的定義，也覺(jué)得沒(méi)必要下定義，”他說(shuō)，“其實(shí)——它不像一個(gè)具體的東西，更像一個(gè)研究領(lǐng)域。”

所以，等它真出現(xiàn)了我們自然就知道？問(wèn)題是，有些人認(rèn)為 AGI 已經(jīng)降臨。

2023 年，微軟研究團(tuán)隊(duì)發(fā)表論文，描述了他們對(duì) OpenAI 大型語(yǔ)言模型 GPT-4 預(yù)發(fā)布版本的測(cè)試體驗(yàn)。該團(tuán)隊(duì)稱其為“AGI 的火花”——這一論斷在業(yè)界引發(fā)了激烈爭(zhēng)議。當(dāng)時(shí)，許多研究者為之震撼，紛紛試圖用現(xiàn)有理論框架解釋所觀察到的現(xiàn)象。

“這東西的表現(xiàn)比我們預(yù)想的還要好，”戈策爾表示，“AGI 似乎不再那么遙不可及。”盡管如此，戈策爾仍然認(rèn)為，大語(yǔ)言模型雖展現(xiàn)出卓越的文本處理能力，但并未真正觸及通用智能的核心。

“讓我有些意外的是，一些對(duì)這類工具底層機(jī)制有深刻理解的技術(shù)專家，依然相信它們有可能發(fā)展為人類水平的 AGI，”他說(shuō)，“但另一方面，你確實(shí)無(wú)法完全否定這種可能性。”

事實(shí)正是如此：你無(wú)法證明它不可能實(shí)現(xiàn)。所有人也都在猜測(cè)它實(shí)現(xiàn)的時(shí)間，5年？10年？25年？沒(méi)人知道。

這像極了陰謀論。因?yàn)殛P(guān)于 AGI 何時(shí)到來(lái)的預(yù)測(cè)，準(zhǔn)確度堪比占星師預(yù)言世界末日。這類預(yù)測(cè)無(wú)需承擔(dān)實(shí)際后果，借口總在刷新，時(shí)間線不斷重設(shè)。

今年夏天萬(wàn)眾期待的 GPT-5 ，就是最好的例子。

然而，這并沒(méi)有被看作是 AGI 無(wú)法實(shí)現(xiàn)的證據(jù)——信徒們只是不斷推遲他們的預(yù)測(cè)。它總會(huì)到來(lái)的——只不過(guò)，你知道的，永遠(yuǎn)都是“下一次”。

信則有，不信則無(wú)

每當(dāng)我與那些研究人員或工程師交談時(shí)，他們總是不經(jīng)意地將 AGI 當(dāng)作一個(gè)既定事實(shí)來(lái)談?wù)摚路鹚麄冋莆罩撤N我所不知道的奧秘。可始終沒(méi)有人能真正告訴我，那奧秘究竟是什么。

真相就在那里，只是你需要知道該往哪里尋找。杰里米·科恩（Jeremy Cohen）曾告訴我，陰謀論的核心在于“揭露隱藏的真相”：“這確實(shí)是陰謀論思維的基本特征，而我們?cè)谌藗冇懻?AGI 時(shí)，也能清晰地看到這種特質(zhì)。”

去年，23 歲的前 OpenAI 員工、現(xiàn)任投資者利奧波德·阿申布倫納（Leopold Aschenbrenner）發(fā)表了一篇引發(fā)廣泛關(guān)注的 165 頁(yè)宣言，題為《Situational Awareness》（情境感知）。

你甚至無(wú)需通讀全文就能抓住其核心思想：你要么看清即將到來(lái)的真相，要么永遠(yuǎn)停留在蒙昧之中。

這種認(rèn)知甚至不需要冰冷的事實(shí)支撐——直覺(jué)上的感知便已足夠。而那些尚未“覺(jué)醒”的人，不過(guò)是因?yàn)檫€沒(méi)有領(lǐng)悟到其中的真諦。

類似的觀點(diǎn)也隱隱貫穿在我與戈策爾的對(duì)話中。當(dāng)我問(wèn)他，為什么有人會(huì)對(duì) AGI 持懷疑態(tài)度時(shí)，他這樣回答：“歷史上每一次重大的技術(shù)突破——從人類飛行到電力的普及——總有許多聰明的評(píng)論家斷言那是不可能的。事實(shí)是，大多數(shù)人只愿意相信他們已經(jīng)親眼所見(jiàn)的東西。”

這使得 AGI 聽(tīng)起來(lái)更像是一種信仰。我把這個(gè)看法告訴了堅(jiān)信 AGI 可能在五年內(nèi)到來(lái)的 AI 研究者大衛(wèi)·克魯格。他不以為然地表示：“我認(rèn)為這完全搞反了。”

在他看來(lái)，真正的“信仰”其實(shí)是堅(jiān)信 AGI 不會(huì)實(shí)現(xiàn)——那些至今仍在否認(rèn)“顯而易見(jiàn)”事實(shí)的懷疑者，才是真正執(zhí)迷不悟的人。

隱秘的真相吸引著那些自認(rèn)的“真理追尋者”，他們執(zhí)著于揭示那些他們認(rèn)為一直存在、只是未被看見(jiàn)的事物。然而，對(duì)于 AGI 而言，僅僅“揭示”是遠(yuǎn)遠(yuǎn)不夠的。它還需要一場(chǎng)前所未有的創(chuàng)造行為，而這也是它如此有吸引力的一個(gè)重要原因。

“那種認(rèn)為自己正在孕育‘機(jī)器之神’的念頭，顯然極大地滿足了某些人的自我，”香農(nóng)·瓦洛爾指出，“想象自己正在為這種超越性的存在奠定最初的基礎(chǔ)——這種想法具有一種難以抗拒的誘惑力。”

這與陰謀論思維產(chǎn)生了另一種重疊。人們?cè)谝粋€(gè)看似混亂而無(wú)意義的世界中，對(duì)自身存在價(jià)值的渴求——渴望成為那個(gè)至關(guān)重要、能夠改變一切的人物。

克魯格在伯克利從事研究，他表示自己認(rèn)識(shí)一些從事人工智能工作的人，他們將這些技術(shù)視為人類自然而然的繼承者。“他們看待這些技術(shù)，幾乎就像看待自己的孩子一樣，”他說(shuō)，“順便提一句：這些人通常沒(méi)有孩子。”

一個(gè)新的精神烏托邦

杰里米·科恩（Jeremy Cohen）發(fā)現(xiàn)，許多現(xiàn)代陰謀論與新紀(jì)元運(yùn)動(dòng)（New Age movement）之間存在相似性——后者在 1970 至 80 年代達(dá)到頂峰。

該運(yùn)動(dòng)的信徒堅(jiān)信，人類正站在一個(gè)全新精神福祉時(shí)代的門(mén)檻上，認(rèn)為意識(shí)擴(kuò)展將引領(lǐng)世界進(jìn)入更和平、更繁榮的階段。簡(jiǎn)單來(lái)說(shuō)，其核心信念是：通過(guò)一系列帶有偽宗教性質(zhì)的實(shí)踐——例如占星術(shù)、精心挑選水晶等——人類能夠超越自身的局限，進(jìn)入某種“嬉皮士式”的烏托邦。

當(dāng)今的科技產(chǎn)業(yè)雖然建立在計(jì)算與算法之上，而非水晶或星座，但其對(duì)某些根本命題的認(rèn)知卻呈現(xiàn)出相似的神秘學(xué)色彩。“你知道，那種關(guān)于徹底變革的想象——仿佛我們將迎來(lái)某種千禧年式的轉(zhuǎn)折，最終步入技術(shù)烏托邦的未來(lái)，”科恩指出，“而 AGI 終將幫助人類克服一切困境的信念，恰恰是這種核心想象的體現(xiàn)。”

在不少人的印象中，AGI 的到來(lái)將是突然的。人工智能的漸進(jìn)發(fā)展會(huì)不斷累積，直至某一天，其能力強(qiáng)大到足以自主創(chuàng)造出更強(qiáng)大的人工智能。到那時(shí)——它將以驚人的速度演進(jìn)，通過(guò)所謂的“智能爆炸”實(shí)現(xiàn) AGI 的突破，最終抵達(dá)一個(gè)不可逆轉(zhuǎn)的臨界點(diǎn)，即“奇點(diǎn)”。這個(gè)在 AGI 圈子流傳多年的特殊術(shù)語(yǔ)，至今仍被廣泛使用。

科幻作家弗諾·文奇（Vernor Vinge）最早借用了物理學(xué)中的“奇點(diǎn)”概念來(lái)描述技術(shù)發(fā)展的這一理論閾值。早在 1980 年代，他就提出在技術(shù)進(jìn)步的路徑上存在一個(gè)“事件視界”——一旦越過(guò)這個(gè)界限，人類將被自己創(chuàng)造的、以指數(shù)速度自我進(jìn)化的機(jī)器迅速超越。

香農(nóng)·瓦洛爾認(rèn)為，這種信仰體系最顯著的特征在于：對(duì)技術(shù)的信仰已經(jīng)取代了對(duì)人類自身的信仰。她指出，盡管新世紀(jì)運(yùn)動(dòng)的思想帶有玄學(xué)色彩，但其中至少還保留著一種信念——人類只要能夠激發(fā)自身潛能，就足以改變世界。然而，在追求 AGI 的過(guò)程中，我們正在拋棄這種對(duì)“人”的信念，轉(zhuǎn)而接受“唯有技術(shù)才能拯救人類”的觀念。

對(duì)許多人來(lái)說(shuō)，這種想法極具吸引力，甚至令人感到安心。“我們正處在一個(gè)時(shí)代，人類生活與社會(huì)物質(zhì)進(jìn)步的其他途徑似乎已經(jīng)窮盡。”

技術(shù)曾被視為通往美好未來(lái)的階梯——穩(wěn)步引領(lǐng)人類走向社會(huì)繁榮。但瓦洛爾指出：“我們已經(jīng)越過(guò)了那個(gè)頂峰。如今在我看來(lái)，能讓許多人重燃希望、重拾對(duì)未來(lái)樂(lè)觀態(tài)度的，似乎只剩下 AGI。”

她進(jìn)一步表示，如果將這種邏輯推向極致，AGI 最終可能被塑造成某種“神明”——一個(gè)被認(rèn)為能夠?yàn)槭篱g一切苦難帶來(lái)終極解脫的存在。

北卡羅來(lái)納大學(xué)的社會(huì)學(xué)家凱莉·喬伊斯（Kelly Joyce）主要研究文化、政治和經(jīng)濟(jì)信念如何影響人們對(duì)技術(shù)的理解與使用。在她看來(lái)，所有關(guān)于 AGI 的狂熱預(yù)言，其實(shí)都不過(guò)是科技行業(yè)長(zhǎng)期存在的“過(guò)度承諾模式”的又一次體現(xiàn)。她說(shuō)：“有趣的是，我們每次都深陷其中。人們似乎總是堅(jiān)信技術(shù)優(yōu)于人類。”

喬伊斯認(rèn)為，這正是為什么每當(dāng)炒作興起時(shí)，人們總是傾向于相信它。“這就像一種宗教，”她說(shuō)，“我們信仰技術(shù)。技術(shù)就是我們的上帝。要抗拒這種觀念非常困難——因?yàn)槿藗兏静幌肼?tīng)到別的說(shuō)法。”

（來(lái)源：MIT TR）

最終幻想背后的代價(jià)

“計(jì)算機(jī)終將能完成人類所有任務(wù)”這一幻想無(wú)疑極具誘惑力。但正如許多廣為流傳的陰謀論那樣，這種幻想正帶來(lái)真實(shí)而沉重的后果。

它扭曲了我們對(duì)當(dāng)前技術(shù)繁榮（及其潛在衰退）背后真實(shí)代價(jià)的認(rèn)知，甚至可能將整個(gè)行業(yè)帶入歧途——讓資源從那些更緊迫、更務(wù)實(shí)的技術(shù)應(yīng)用中抽離。更關(guān)鍵的是，它讓我們心安理得地逃避。它誘使我們相信，或許可以跳過(guò)那些需要全球協(xié)作、政治妥協(xié)與高昂代價(jià)的難題，無(wú)論是氣候危機(jī)、公共衛(wèi)生，還是系統(tǒng)性不平等。既然機(jī)器很快就能替我們解決一切，我們何必再費(fèi)心力？

這種發(fā)展背后的代價(jià)也鮮被追問(wèn)。

看看這場(chǎng)豪賭所投入的資源。就在最近，OpenAI 與英偉達(dá)（NVIDIA）宣布了一項(xiàng)價(jià)值高達(dá) 1,000 億美元的合作，僅為滿足 ChatGPT 等模型的運(yùn)行，預(yù)計(jì)就需要至少 10 吉瓦的電力——這相當(dāng)于一座大型核電站的發(fā)電量。一道閃電瞬間釋放的能量或許也不過(guò)如此。

作為參照，電影《回到未來(lái)》中驅(qū)動(dòng)德羅寧時(shí)光機(jī)的“磁通電容器”只需約 1.2 千瓦時(shí)。而僅僅兩周后，OpenAI 又與 AMD 達(dá)成另一項(xiàng)合作，再添數(shù)千兆瓦的電力需求。

在為英偉達(dá)交易站臺(tái)時(shí)，薩姆·奧特曼（Sam Altman）曾宣稱，若不建設(shè)更多數(shù)據(jù)中心，社會(huì)將不得不在“治愈癌癥”和“普及免費(fèi)教育”之間做出殘酷抉擇。“沒(méi)人想面臨這種選擇，”他說(shuō)。（諷刺的是，幾周后，OpenAI 便宣布將為 ChatGPT 推出情色內(nèi)容生成功能）更令人不安的是，這種對(duì)遙遠(yuǎn)神話的追逐，正在擠占那些能切實(shí)改善當(dāng)下生活的技術(shù)投入。

“在我看來(lái)，這是巨大的機(jī)會(huì)錯(cuò)失，”人工智能醫(yī)療公司 Lirio 的首席 AI 科學(xué)家克里斯托弗·西蒙斯（Christopher Simmons）直言，“這是資源的嚴(yán)重錯(cuò)配。明明有無(wú)數(shù)真實(shí)、緊迫的問(wèn)題亟待解決，我們卻把海量資金投向一個(gè)定義模糊、前景不明的目標(biāo)。”

“但當(dāng) OpenAI 這樣的公司手握千億資金時(shí)，它們其實(shí)不必做出務(wù)實(shí)的選擇，”西蒙斯補(bǔ)充道，“資本規(guī)模本身，就足以讓它們脫離現(xiàn)實(shí)需求的引力。”

這種扭曲的敘事也正滲透進(jìn)政策領(lǐng)域。加州大學(xué)戴維斯分校的科技政策研究者蒂娜·勞（Tina Law）擔(dān)憂，政策制定者正被游說(shuō)力量牽引，過(guò)度關(guān)注“AI 終將毀滅人類”的遙遠(yuǎn)假想，而忽略了算法偏見(jiàn)、勞動(dòng)替代、監(jiān)控?cái)U(kuò)張等當(dāng)下真實(shí)存在的危害。對(duì)“存在性風(fēng)險(xiǎn)”的宏大辯論，反而將結(jié)構(gòu)性不平等、數(shù)字鴻溝等迫切議題邊緣化。

“炒作對(duì)科技公司而言是一門(mén)有利可圖的生意，”勞一針見(jiàn)血地指出，“其核心策略是營(yíng)造一種‘不可避免’的敘事：如果我們不發(fā)展，別人就會(huì)領(lǐng)先。一旦某種技術(shù)被塑造成歷史必然，人們不僅會(huì)猶豫是否要抵制，更會(huì)懷疑自己是否有能力抵制。”

佐治亞理工學(xué)院的技術(shù)政策學(xué)者米爾頓·穆勒（Milton Mueller）則將 AGI 競(jìng)賽比作當(dāng)年的核軍備競(jìng)賽：“它建立在一種危險(xiǎn)的邏輯上——誰(shuí)先掌握這項(xiàng)技術(shù)，誰(shuí)就能控制所有人。這種思維會(huì)徹底扭曲我們的外交政策與國(guó)際關(guān)系。”

穆勒進(jìn)一步指出，企業(yè)乃至政府之所以熱衷推動(dòng) AGI 神話，背后是明確的商業(yè)與戰(zhàn)略動(dòng)機(jī)。關(guān)鍵在于，這場(chǎng)競(jìng)賽根本沒(méi)有公認(rèn)的終點(diǎn)線。只要神話還能吸引投資與關(guān)注，它就可以被無(wú)限期地講述下去。

故事的結(jié)局或許并不復(fù)雜。它既非烏托邦，也非地獄——更可能的是，在抵達(dá)任何所謂“奇點(diǎn)”之前，OpenAI 與它的同行們，已在追逐神話的過(guò)程中賺得盆滿缽滿。

而世界面對(duì)的許多真實(shí)的問(wèn)題，依然在那里。

新的“AGI”還在路上

迄今為止，我們還未討論到一個(gè)最典型的特征：陰謀論往往預(yù)設(shè)存在一個(gè)幕后操縱的權(quán)力集團(tuán)，而信徒們相信，通過(guò)不懈追尋“真相”，就能揭開(kāi)這個(gè)精英階層的面具。

當(dāng)然，那些警惕 AGI 的人并沒(méi)有公開(kāi)指控光明會(huì)或世界經(jīng)濟(jì)論壇在阻撓 AGI 的實(shí)現(xiàn)或隱藏其秘密。

但假如，真正的操縱者并非在阻止 AGI，而是在長(zhǎng)期鼓吹 AGI 敘事呢？硅谷的巨頭們正在投入巨額資源，竭力開(kāi)發(fā) AGI——而這首先是一門(mén)生意。對(duì)他們而言，AGI 的神話具有無(wú)比現(xiàn)實(shí)的商業(yè)與戰(zhàn)略價(jià)值。

正如一位人工智能公司高管近期私下透露的那樣：“AGI 必須永遠(yuǎn)被描述為‘距離實(shí)現(xiàn)還有 6 到 12 個(gè)月’。如果顯得太遙遠(yuǎn)，我們就無(wú)法從頂尖機(jī)構(gòu)吸引人才；但如果顯得太近……那故事還怎么講下去？”

香農(nóng)·瓦洛爾曾尖銳指出：“如果 OpenAI 公開(kāi)說(shuō)他們只是在打造能讓公司更賺錢(qián)的機(jī)器，公眾絕不會(huì)買(mǎi)賬。”你創(chuàng)造神，自己也得成為神。

正如大衛(wèi)·克魯格所觀察到的，硅谷彌漫著一種根深蒂固的邏輯：開(kāi)發(fā)人工智能是獲取終極權(quán)力的途徑（這也是利奧波德·阿申布倫納《情境感知》的核心論點(diǎn)之一）。“我們即將擁有如神一般的力量，”克魯格說(shuō)，“但我們的意識(shí)、倫理和制度卻并未準(zhǔn)備好。很多人相信，誰(shuí)先實(shí)現(xiàn) AGI，誰(shuí)就基本掌控了世界。”

“他們投入巨大精力去推銷(xiāo)一個(gè)充滿 AGI 的未來(lái)圖景，并且憑借其影響力，已經(jīng)取得了相當(dāng)大的成功。”他補(bǔ)充道。

本·戈策爾甚至對(duì)這個(gè)隱秘集團(tuán)的成功流露出近乎悲哀的情緒。他開(kāi)始懷念 AGI 仍處于邊緣、無(wú)人問(wèn)津的歲月。“我們這一代投身 AGI 研究的人，既需要遠(yuǎn)見(jiàn)，也需要固執(zhí)——甚至是一種蠻勁，”他說(shuō)，“但現(xiàn)在呢？它變得就像你奶奶勸你別學(xué)哲學(xué)了，趕緊找份正經(jīng)工作一樣。”

“這種想法變得如此主流，實(shí)在令人困惑，”他坦言，“這幾乎讓我想轉(zhuǎn)行去做些真正冷門(mén)的東西——那些還沒(méi)被人群淹沒(méi)的領(lǐng)域。”他半開(kāi)玩笑地（我猜）說(shuō)：“顯然，給 AGI 收尾比滿足我個(gè)人探索前沿的偏好更重要。”

但我仍然不明白：他們到底在完善什么？如果我們?nèi)绱顺撩杂谶@個(gè)科技童話，對(duì)真正的技術(shù)發(fā)展究竟意味著什么？從很多方面看，我認(rèn)為整個(gè) AGI 理念建立在對(duì)人工智能能力的扭曲預(yù)期之上——甚至建立在對(duì)“智能”本質(zhì)的誤解之上。

歸根結(jié)底，AGI 論點(diǎn)的核心在于：人工智能已取得飛速進(jìn)步且將持續(xù)提升。但暫且拋開(kāi)技術(shù)層面的質(zhì)疑——若它未能持續(xù)進(jìn)步呢？——剩下的主張無(wú)非是：只要擁有足夠數(shù)據(jù)、計(jì)算力或神經(jīng)網(wǎng)絡(luò)，智能便能像商品般無(wú)限獲取。

可事實(shí)并非如此，智能并非可無(wú)限遞增的量化指標(biāo)。智者可能在某領(lǐng)域卓爾不群，卻在其他領(lǐng)域平庸無(wú)奇。例如某些諾貝爾獎(jiǎng)得主彈琴或育兒能力極差，還有某些所謂的“聰明人”堅(jiān)稱 AGI 明年就會(huì)到來(lái)。

我們不禁要問(wèn)：下一個(gè)讓我們上鉤的神話，會(huì)是什么？

通話結(jié)束前，戈策爾隨口提到他剛在舊金山參加了一場(chǎng)活動(dòng)，“主題是關(guān)于超感官知覺(jué)、預(yù)知未來(lái)……那些東西。”

“這就是 20 年前 AGI 的處境，”他說(shuō)，“那個(gè)時(shí)候，每個(gè)人都覺(jué)得這想法簡(jiǎn)直離譜。”

參考資料：

https://www.technologyreview.com/2025/10/30/1127057/agi-conspiracy-theory-artifcial-general-intelligence/