科技界億萬富翁們似乎正為“世界末日”做準(zhǔn)備，我們應(yīng)該擔(dān)心嗎？

作者：佐伊·克萊曼 來源：英媒

據(jù)說早在2014年，馬克·扎克伯格（又譯朱克伯格、祖克柏，Mark Zuckerberg）就開始在夏威夷考艾島（Kauai）修建他名為“古蘭尼牧場”（Koolau Ranch）的龐大莊園，占地達(dá)1,400英畝。

根據(jù)《連線》（Wired）雜志報道，該莊園將設(shè)有避難設(shè)施，配備獨(dú)立能源與糧食供應(yīng)。不過，參與施工的木匠與電工都被要求簽署保密協(xié)議。

外圍的道路被一道六英尺高的圍墻隔絕視線。

去年當(dāng)有人問他是否在建造“世界末日地堡”時，這位Facebook創(chuàng)辦人斬釘截鐵地回答“沒有”。他解釋說，那個大約5,000平方英尺的地下空間“就像個小避難所，也可以說是地下室而已”。

然而，這并沒有阻止外界的猜測——特別是當(dāng)他又在加州帕洛阿爾托（Palo Alto）克雷森特公園（Crescent Park）社區(qū)買下11處房產(chǎn)，并在下方興建約7,000平方英尺的地下空間。

扎克伯格據(jù)報在帕洛阿爾托的一個社區(qū)購置房產(chǎn)，總花費(fèi)約1.1億美元

《紐約時報》指出，雖然建筑許可證上寫的是“地下室”，但有鄰居稱之為“地堡”，甚至戲稱是“億萬富翁版的蝙蝠洞”。

其他科技界領(lǐng)袖似乎也在進(jìn)行類似的“備災(zāi)投資”——購地興建地下設(shè)施，將其改造成豪華地堡。

LinkedIn聯(lián)合創(chuàng)辦人里德·霍夫曼（Reid Hoffman）曾提及過“世界末日保險”（apocalypse insurance），他表示約有一半的超級富豪都擁有這種“保險”，而紐西蘭更是熱門避難地。

那么，他們真的在為戰(zhàn)爭、氣候變化，或某種我們尚未知曉的災(zāi)難做準(zhǔn)備嗎？

• 薩姆·阿特曼曾表示，若發(fā)生全球性災(zāi)難，他考慮過與彼得·蒂爾（Peter Thiel）一起前往紐西蘭偏遠(yuǎn)地區(qū)的房產(chǎn)避難。

近年人工智能（AI）的飛快發(fā)展，讓這份不安更深。許多人擔(dān)心科技進(jìn)展的速度快得驚人。

Open AI的首席科學(xué)家兼聯(lián)合創(chuàng)辦人伊利亞·蘇茨克弗（Ilya Sutskever）據(jù)報就是其中之一。

2023年中，總部位于舊金山的Open AI已推出ChatGPT——這款聊天機(jī)器人如今被全球數(shù)億人使用，公司也在快速推出更新的版本。

不過，據(jù)記者郝珂靈（Karen Hao）在其新書中披露，那年夏天，蘇茨克弗越來越相信電腦科學(xué)界已接近實(shí)現(xiàn)“人工通用智能”（AGI）——即機(jī)器能與人類智力匹敵的時刻。

她寫道，蘇茨克弗曾在一次會議上建議，應(yīng)為公司頂尖科學(xué)家預(yù)先建造一座地下避難所，以防這項(xiàng)強(qiáng)大技術(shù)面世前出現(xiàn)意外。

伊利亞·蘇茨克弗（Ilya Sutskever）據(jù)報曾說：“在人工通用智能面世之前，我們一定會先建好地堡?！?br/>

據(jù)廣泛報道，蘇茨克弗當(dāng)時說：“在人工通用智能面世之前，我們一定會先建好地堡。”但“我們”究竟指的是誰，并不清楚。

這句話揭示了一個耐人尋味的現(xiàn)象：許多頂尖電腦科學(xué)家和科技業(yè)領(lǐng)袖，一方面全力推動高度智能的人工智能發(fā)展，另一方面卻也深深害怕它最終可能帶來的后果。

那么，所謂的“人工通用智能”如果真的會出現(xiàn)的話，究竟會在何時出現(xiàn)？它的革命程度是否真有可能強(qiáng)大到讓普通人都感到恐懼？

“比我們想象的更快到來”

多位科技界領(lǐng)袖都聲稱，人工通用智能即將到來。Open AI行政總裁阿特曼在2024年12月表示，人工通用智能將“比世上大多數(shù)人想象的更快”出現(xiàn)。

DeepMind聯(lián)合創(chuàng)辦人德米斯·哈薩比斯爵士（Sir Demis Hassabis）預(yù)測，它會在未來五至十年內(nèi)實(shí)現(xiàn)。Anthropic創(chuàng)辦人達(dá)里奧·阿莫代（Dario Amodei）去年更撰文稱，他偏好的說法是“強(qiáng)人工智能”（powerful AI），可能早在2026年就會出現(xiàn)。

然而，也有人持懷疑態(tài)度。南安普頓大學(xué)（University of Southampton）電腦科學(xué)教授溫蒂·霍爾女爵（Dame Wendy Hall）說：“他們總是在移動球門柱。（何時實(shí)現(xiàn)人工通用智能）要看你問的是誰。”

她補(bǔ)充說：“科學(xué)界認(rèn)為人工智能技術(shù)確實(shí)了不起，但離真正的人類智力還差得遠(yuǎn)?！?/p>

據(jù)廣泛報道，蘇茨克弗當(dāng)時說：“在人工通用智能面世之前，我們一定會先建好地堡?！钡拔覀儭本烤怪傅氖钦l，并不清楚。

這句話揭示了一個耐人尋味的現(xiàn)象：許多頂尖電腦科學(xué)家和科技業(yè)領(lǐng)袖，一方面全力推動高度智能的人工智能發(fā)展，另一方面卻也深深害怕它最終可能帶來的后果。

那么，所謂的“人工通用智能”如果真的會出現(xiàn)的話，究竟會在何時出現(xiàn)？它的革命程度是否真有可能強(qiáng)大到讓普通人都感到恐懼？

“比我們想象的更快到來”

多位科技界領(lǐng)袖都聲稱，人工通用智能即將到來。Open AI行政總裁阿特曼在2024年12月表示，人工通用智能將“比世上大多數(shù)人想象的更快”出現(xiàn)。

DeepMind聯(lián)合創(chuàng)辦人德米斯·哈薩比斯爵士（Sir Demis Hassabis）預(yù)測，它會在未來五至十年內(nèi)實(shí)現(xiàn)。Anthropic創(chuàng)辦人達(dá)里奧·阿莫代（Dario Amodei）去年更撰文稱，他偏好的說法是“強(qiáng)人工智能”（powerful AI），可能早在2026年就會出現(xiàn)。

然而，也有人持懷疑態(tài)度。南安普頓大學(xué)（University of Southampton）電腦科學(xué)教授溫蒂·霍爾女爵（Dame Wendy Hall）說：“他們總是在移動球門柱。（何時實(shí)現(xiàn)人工通用智能）要看你問的是誰。”

她補(bǔ)充說：“科學(xué)界認(rèn)為人工智能技術(shù)確實(shí)了不起，但離真正的人類智力還差得遠(yuǎn)?！?/p>

• 約翰·馮·諾伊曼被認(rèn)為是最早提出“奇點(diǎn)”概念的人之一，遠(yuǎn)在這個詞出現(xiàn)之前。他身兼物理學(xué)家、數(shù)學(xué)家、經(jīng)濟(jì)學(xué)家與電腦科學(xué)家等多重身份。

2024年出版、由埃里克·施密特（Eric Schmidt）、克雷格·蒙迪（Craig Mundie）以及已故的亨利·基辛格（Henry Kissinger）所撰寫的書籍《創(chuàng)世紀(jì)》（Genesis），探討了一種極度強(qiáng)大的科技——其在決策與領(lǐng)導(dǎo)上的效率高到人類最終可能將控制權(quán)完全交給它。

他們認(rèn)為，這不是“會不會發(fā)生”的問題，而是“何時發(fā)生”的問題。

人人都有錢花，不用工作？

支持發(fā)展人工通用智能與人工超級智能的人，幾乎以傳教般的熱情宣揚(yáng)其潛在好處。他們認(rèn)為，這項(xiàng)技術(shù)將能找到致命疾病的新療法、解決氣候變化，甚至發(fā)明取之不盡的潔凈能源。

伊隆·馬斯克（Elon Musk）甚至聲稱，超級智能的AI可能開啟一個“全民高收入”的新時代。

他最近表示，人工智能將變得極為便宜且普及，幾乎人人都會想擁有自己專屬的“R2-D2與C-3PO”（指《星球大戰(zhàn)》中的機(jī)器人）。

他興奮地說：“每個人都將享有最好的醫(yī)療、食物、住宅、交通，以及一切所需——永續(xù)的富足生活?！?/p>

當(dāng)然，這也有令人恐懼的一面。這項(xiàng)技術(shù)會否被恐怖分子利用，成為毀滅性的武器？又或者，它有一天自行判斷人類才是世界問題的根源，進(jìn)而決定毀滅我們？

• 伊隆·馬斯克曾支持這樣的觀點(diǎn)：未來人人都會想擁有自己的R2-D2和C-3PO。

“如果它比你還聰明，那我們就必須把它控制起來?！比f維網(wǎng)（World Wide Web）發(fā)明者蒂姆·伯納斯-李（Tim Berners-Lee）本月稍早接受BBC訪問時警告說。

“我們必須確保有能力把它關(guān)掉。”

各國政府也在采取保護(hù)措施。美國作為眾多領(lǐng)先AI公司的基地。在2023年，時任總統(tǒng)拜登簽署一項(xiàng)行政命令，要求部分企業(yè)向聯(lián)邦政府提交安全測試結(jié)果。不過，特朗普總統(tǒng)其后撤銷了部分條款，稱該命令是對創(chuàng)新的“阻礙”。

同時，英國政府兩年前成立了“AI安全研究所”（AI Safety Institute），這是一個政府資助的研究機(jī)構(gòu)，旨在更深入了解高階人工智能可能帶來的風(fēng)險。

而那些超級富豪們，則有他們自己的“世界末日保險”計劃。

• 馬斯克：“每個人都會享有最好的醫(yī)療、食物、住宅、交通和一切所需——永續(xù)的富足生活。”

LinkedIn的霍夫曼曾打趣說：“說自己要在紐西蘭買房，其實(shí)就是一種心照不宣的暗號，懂的人自然懂?！毕氡氐乇ひ彩峭瑯拥囊馑?。

不過，這里也暴露出一個極具人性的缺陷。

我遇過一位保鑣，他曾為某位擁有“地堡”的億萬富翁工作過。他告訴我，倘若世界真的發(fā)生災(zāi)難，他們的安保團(tuán)隊(duì)首要任務(wù)是干掉那位老板，然后自己進(jìn)地堡。從他的語氣來看，他似乎不是在開玩笑。

這一切都是杞人憂天的胡言亂語嗎？

尼爾·勞倫斯（Neil Lawrence）是劍橋大學(xué)的機(jī)器學(xué)習(xí)教授。對他而言，整場關(guān)于人工通用智能的討論本身就是一派胡言。

他說：“所謂‘人工通用智能’這個概念，就像說要造出一種‘人工通用交通工具’一樣荒謬。”

“合適的交通工具取決于情境。我坐空中巴士A350飛去肯尼亞，每天開車去大學(xué)上班，走路去餐廳吃飯??沒有一種交通工具能同時做到這一切?！?/p>

在他看來，有關(guān)人工通用智能的討論只是在分散注意力。

“我們已經(jīng)創(chuàng)造出的技術(shù)，讓普通人首次能直接與機(jī)器對話，并讓它按照人類的意愿行事。這是極為非凡的——是徹底的變革?！?/p>

“但令人擔(dān)憂的是，我們太容易被大科技公司營造出的人工通用智能故事吸引，而忽略了真正該思考的——如何讓這些技術(shù)更好地服務(wù)人類?！?/p>

• 馬克·扎克伯格與妻子普莉希拉合影。他表示，夏威夷莊園的地下空間“就像個小避難所”。

現(xiàn)有的人工智能工具都是以海量數(shù)據(jù)訓(xùn)練出來的，擅長從中辨識模式——無論是醫(yī)學(xué)影像中的腫瘤跡象，還是預(yù)測句子中下一個最可能出現(xiàn)的詞。然而，不論他們的回答多么逼真，人工智能依然不具備“感覺”。

Cognizant的霍賈特說：“有些‘取巧’的方法可以讓大型語言模型（AI聊天機(jī)器人的基礎(chǔ)技術(shù)）表現(xiàn)得好像它有記憶、能學(xué)習(xí)，但這些做法都令人不滿意，遠(yuǎn)不如人類?！?/p>

位于加州的IV.AI公司行政總裁文斯·林奇（Vince Lynch）同樣對關(guān)于人工通用智能的夸大說法持保留態(tài)度。

他說：“這是很高明的行銷。如果你聲稱自己正在打造史上最聰明的東西，人們自然會想向你付款?！?/p>

他補(bǔ)充說：“這不是什么‘兩年內(nèi)就能實(shí)現(xiàn)’的事。它需要龐大的運(yùn)算力、極高的人類創(chuàng)造力，還得經(jīng)歷無數(shù)次反復(fù)嘗試?！?/p>

• 電影《2001太空漫游》早已警示人類關(guān)于具自我意識電腦的危險。

當(dāng)被問到是否相信人工通用智能終有一天會實(shí)現(xiàn)時，他沉默了許久，然后說：“我真的不知道。”

沒有意識的智能

在某些方面，人工智能已經(jīng)超越了人類大腦。生成式人工智能（Generative AI ）工具可以在這一分鐘成為中世紀(jì)歷史專家，下一分鐘又能解出復(fù)雜的數(shù)學(xué)方程式。

一些科技公司承認(rèn)，他們并不總是清楚自家產(chǎn)品為什么會產(chǎn)生某種回應(yīng)。Meta公司甚至表示，其AI系統(tǒng)已出現(xiàn)自我改進(jìn)的跡象。

但歸根究柢，無論機(jī)器變得多么聰明，在生物層面上人類大腦仍占上風(fēng)——它擁有約860億個神經(jīng)元和600兆個突觸，遠(yuǎn)遠(yuǎn)超過人工系統(tǒng)的規(guī)模。

研究人員正研究人腦，以期更深入理解“意識”的本質(zhì)。

人類大腦在互動之間無需停頓，并且會不斷適應(yīng)新的資訊。

霍賈特說：“如果你告訴一個人‘在太陽系外的行星上發(fā)現(xiàn)了生命’，他會立刻記住這件事，并據(jù)此改變自己的世界觀；但對大型語言模型而言，只有當(dāng)你不斷重復(fù)這是事實(shí)時，它才會‘知道’這件事?！?/p>

“大型語言模型也沒有‘元認(rèn)知’，也就是說，它并不是真正知道自己知道什么。而人類似乎擁有一種自我省察的能力，也就是所謂的‘意識’，能讓我們意識到自己所知道的東西?！?/p>

這正是人類智慧的核心所在——也是目前實(shí)驗(yàn)室仍無法復(fù)制的部分。

主圖來源：The Washington Post via Getty Images/ Getty Images MASTER. 首圖為馬克·扎克伯格與一張未知地點(diǎn)的地堡示意照。