通向超級(jí)智能的失控之路可能讓人類勞動(dòng)徹底淘汰

在里斯本網(wǎng)絡(luò)峰會(huì)上，當(dāng)創(chuàng)業(yè)推介和技術(shù)演示熱火朝天時(shí)，馬克斯·泰格馬克傳達(dá)了一個(gè)令人清醒的信息：人類可能正在朝著自身被淘汰的方向狂奔。這位麻省理工學(xué)院物理學(xué)家兼未來(lái)生命研究所所長(zhǎng)已經(jīng)花了十多年時(shí)間警告人工超級(jí)智能的生存風(fēng)險(xiǎn)，現(xiàn)在他認(rèn)為，這種威脅比以往任何時(shí)候都更加接近。

"在游說(shuō)團(tuán)體介入之前，曾經(jīng)有過(guò)明確的定義，"泰格馬克在峰會(huì)上接受采訪時(shí)告訴我。他指的是超級(jí)智能，這個(gè)術(shù)語(yǔ)最初由哲學(xué)家尼克·博斯特羅姆在其2014年具有影響力的著作中推廣。這個(gè)概念描述的是在幾乎所有領(lǐng)域都具有遠(yuǎn)超人類智能水平的通用人工智能系統(tǒng)；不僅僅在國(guó)際象棋或語(yǔ)言翻譯方面更出色，而是在創(chuàng)造力、問(wèn)題解決、科學(xué)推理以及所有其他認(rèn)知任務(wù)方面都更加優(yōu)越。

這個(gè)想法并不新鮮。1965年，數(shù)學(xué)家I.J.古德提出了"智能爆炸"的概念，警告說(shuō)一臺(tái)能夠設(shè)計(jì)更好機(jī)器的超智能機(jī)器將引發(fā)遞歸式自我改進(jìn)循環(huán)，將人類智能遠(yuǎn)遠(yuǎn)甩在身后。甚至著名計(jì)算機(jī)科學(xué)家和數(shù)學(xué)家艾倫·圖靈在1951年就討論了比人類聰明得多的機(jī)器可能如何取得控制權(quán)。"最近，就像任何流行的術(shù)語(yǔ)一樣，它被營(yíng)銷目的所利用，"泰格馬克諷刺地觀察道，他指的是馬克·扎克伯格試圖將這個(gè)術(shù)語(yǔ)與智能眼鏡等消費(fèi)產(chǎn)品聯(lián)系起來(lái)的做法。

雖然Meta確實(shí)使用"超級(jí)智能"這個(gè)術(shù)語(yǔ)，但應(yīng)該注意的是，其他公司通常提及的是一個(gè)相似但不同的概念：AGI，即通用人工智能的縮寫(xiě)。當(dāng)然，并非所有人對(duì)后者的定義都相同，但一般來(lái)說(shuō)，當(dāng)AI在大多數(shù)領(lǐng)域展現(xiàn)出與人類智能水平相當(dāng)?shù)哪芰r(shí)，就被認(rèn)為實(shí)現(xiàn)了AGI。

超級(jí)智能遠(yuǎn)遠(yuǎn)超越了這一點(diǎn)。但就時(shí)間而言，泰格馬克認(rèn)為，這兩個(gè)里程碑比人們想象的更接近，因?yàn)橐坏〢GI存在，它就可能通過(guò)古德幾十年前預(yù)測(cè)的遞歸式自我改進(jìn)迅速演化為超級(jí)智能。

失控的前沿領(lǐng)域

美國(guó)發(fā)現(xiàn)自己處于一種奇特的境地：人工超級(jí)智能可能在幾乎所有經(jīng)濟(jì)有價(jià)值的工作中超越人類能力，引發(fā)人類失去對(duì)這些超智能機(jī)器控制的擔(dān)憂，并導(dǎo)致不可預(yù)測(cè)的后果。然而，開(kāi)發(fā)這些系統(tǒng)的行業(yè)卻幾乎沒(méi)有監(jiān)管。

"我們?cè)诿绹?guó)處于這樣一種滑稽的境地，對(duì)三明治的監(jiān)管比對(duì)AI的監(jiān)管還要多，"泰格馬克說(shuō)道，他的挫敗感顯而易見(jiàn)。他指出了最近的悲?。呵嗌倌暝谂c聊天機(jī)器人對(duì)話后自殺，這種事件在受監(jiān)管的行業(yè)中是不可想象的。"如果有人推出百憂解的新競(jìng)爭(zhēng)對(duì)手，他們必須進(jìn)行臨床試驗(yàn)，確保這不會(huì)大大增加用戶的自殺風(fēng)險(xiǎn)。但這些事情可能在AI領(lǐng)域發(fā)生，因?yàn)檫@個(gè)行業(yè)完全沒(méi)有監(jiān)管。"

與制藥業(yè)的比較是刻意的。泰格馬克講述了沙利度胺的故事，這是一種在1960年代向孕婦推銷的藥物，導(dǎo)致超過(guò)10,000名嬰兒出生時(shí)有嚴(yán)重畸形。公眾的強(qiáng)烈抗議導(dǎo)致了FDA的創(chuàng)立和現(xiàn)代臨床試驗(yàn)要求。"所有行業(yè)開(kāi)始時(shí)都沒(méi)有監(jiān)管，"他解釋道。"通常是發(fā)生了壞事，然后才有監(jiān)管。"

與人工智能相關(guān)的最常見(jiàn)擔(dān)憂之一是它會(huì)造成大規(guī)模失業(yè)，甚至可能導(dǎo)致整個(gè)職業(yè)的消失。有了超級(jí)智能，情況可能會(huì)更糟。"根據(jù)定義，它可以做我們能做的一切，但做得更好，"泰格馬克解釋道。"人類不可能通過(guò)工作獲得報(bào)酬，因?yàn)槌?jí)智能可以做得更好更便宜。你和我都不會(huì)有工作。沒(méi)有人會(huì)有工作。"

有人說(shuō)這些擔(dān)憂是牽強(qiáng)附會(huì)的，AI最終會(huì)創(chuàng)造比消除的工作更多的就業(yè)機(jī)會(huì)。然而，未來(lái)生命研究所最近發(fā)起的禁止創(chuàng)造"超級(jí)智能"的請(qǐng)?jiān)敢呀?jīng)收集了超過(guò)127,000個(gè)簽名，其中包括名人和該領(lǐng)域的杰出人物。

FLI在10月對(duì)2,000名美國(guó)成年人進(jìn)行的一項(xiàng)調(diào)查顯示，64%的人反對(duì)創(chuàng)造先進(jìn)AI，其他調(diào)查，如皮尤研究中心最近進(jìn)行的調(diào)查，證實(shí)了美國(guó)公眾對(duì)這項(xiàng)技術(shù)的態(tài)度正在改變：最初的熱情逐漸讓位于負(fù)面評(píng)價(jià)。

過(guò)去，F(xiàn)LI類似的呼吁被批評(píng)者斥為對(duì)AI當(dāng)前危害的干擾：大規(guī)模數(shù)據(jù)中心的環(huán)境足跡、已經(jīng)發(fā)生的工作崗位流失、算法偏見(jiàn)。泰格馬克堅(jiān)決反駁。"這就像說(shuō)我們有房子著火，所以我們需要更好的消防車，我們不應(yīng)該談?wù)撊蜃兣?，因?yàn)樗鼤?huì)分散我們建設(shè)更好消防部門(mén)的注意力，"他說(shuō)。

他還對(duì)當(dāng)前的"軍備競(jìng)賽"框架提出異議，即：我們必須匆忙行事，否則中國(guó)會(huì)超越我們。"這就是技術(shù)公司游說(shuō)者的框架，因?yàn)樗麄儼l(fā)現(xiàn)這是在美國(guó)避免監(jiān)管的最佳方式。"

條約問(wèn)題

國(guó)際條約能起作用嗎？核武器的類比似乎顯而易見(jiàn)但有缺陷——AI系統(tǒng)不像核設(shè)施那樣容易檢測(cè)或控制。然而，泰格馬克比大多數(shù)人更樂(lè)觀。

他的樂(lè)觀情景從本地開(kāi)始：中國(guó)和美國(guó)出于自保而獨(dú)立約束各自的公司，實(shí)施部署前必須滿足的安全標(biāo)準(zhǔn)。然后，就像核武器一樣，他們?cè)诜乐瓜蚩植婪肿踊蛄髅?guó)家擴(kuò)散方面找到共同點(diǎn)。

然而，還有另一種更悲觀的可能情景：被政治分歧和企業(yè)利益所癱瘓，我們無(wú)法協(xié)調(diào)響應(yīng)。直到為時(shí)已晚。

Q&A

Q1：什么是超級(jí)智能？它與通用人工智能有什么區(qū)別？

A：超級(jí)智能是指在幾乎所有領(lǐng)域都具有遠(yuǎn)超人類智能水平的AI系統(tǒng)，不僅在特定任務(wù)上更出色，而且在創(chuàng)造力、問(wèn)題解決、科學(xué)推理等所有認(rèn)知任務(wù)方面都更優(yōu)越。而通用人工智能（AGI）是指具有與人類智能水平相當(dāng)能力的AI。超級(jí)智能遠(yuǎn)遠(yuǎn)超越AGI，一旦AGI實(shí)現(xiàn)，可能通過(guò)遞歸式自我改進(jìn)迅速演化為超級(jí)智能。

Q2：為什么泰格馬克認(rèn)為超級(jí)智能會(huì)讓人類失業(yè)？

A：根據(jù)泰格馬克的觀點(diǎn)，超級(jí)智能根據(jù)定義可以做人類能做的一切，但做得更好。這意味著人類將無(wú)法通過(guò)工作獲得報(bào)酬，因?yàn)槌?jí)智能可以做得更好更便宜，最終導(dǎo)致所有人都失去工作。這不僅是某些職業(yè)的消失，而是人類勞動(dòng)價(jià)值的徹底淘汰。

Q3：目前AI行業(yè)的監(jiān)管狀況如何？

A：泰格馬克指出，美國(guó)AI行業(yè)幾乎完全沒(méi)有監(jiān)管，他形容為"對(duì)三明治的監(jiān)管比對(duì)AI的監(jiān)管還要多"。這導(dǎo)致了一些悲劇，比如青少年與聊天機(jī)器人對(duì)話后自殺的事件。他認(rèn)為所有行業(yè)開(kāi)始時(shí)都沒(méi)有監(jiān)管，通常是發(fā)生壞事后才有監(jiān)管，并呼吁在為時(shí)已晚之前建立適當(dāng)?shù)陌踩珮?biāo)準(zhǔn)。