基辛格生前最后一本書：人類要如何與人工智能共存？

轉(zhuǎn)載自公眾號「界面新聞」，作者閆桂花

【編者按】“如果被迫與機(jī)器妥協(xié)，我們的底線是什么？”外交家亨利·基辛格在其生前最后一本書《人工智能時代與人類價值》中，與兩位合作者——谷歌前CEO埃里克·施密特及微軟前首席研究和戰(zhàn)略官克雷格·蒙迪，從高度戰(zhàn)略性的角度對這一問題進(jìn)行了審視。他們預(yù)見，隨著時間推移，人工智能“將對歷史、宇宙、人類本質(zhì)以及智能機(jī)器的本質(zhì)得出結(jié)論，并在這一過程中形成初步的自我意識”，進(jìn)而變成“類人人工智能”。如何與之共存？兩個“對齊問題”需要解決：一是人類價值觀和意圖與人工智能行動在技術(shù)層面的對齊，二是人與人之間在外交層面的對齊。本文摘自該書第八章第二小節(jié)《共存：類人人工智能》，已獲出版社授權(quán)。

邁達(dá)斯國王——歷史上小亞細(xì)亞王國的君主——曾許下一個著名的愿望，希望他所接觸的一切都能變成黃金。希臘的酒神和享樂之神狄俄尼索斯?jié)M足了邁達(dá)斯的這個愿望，盡管他知道這個愿望并不會帶來什么好事。不久，由于觸碰到的佳肴和美酒都變成金子無法享用，邁達(dá)斯被迫在帕克托洛斯河中洗手，以擺脫他那被詛咒的手指。

在由迪士尼重述的敘利亞故事《阿拉丁》中，一個童工和一個有權(quán)有勢的阿格拉巴王朝國師爭奪對一盞神燈中無所不能的精靈的控制權(quán)。每個人都努力引導(dǎo)精靈實現(xiàn)自己的愿望。國師的最后一個愿望是讓自己變得和精靈一樣強(qiáng)大，但他沒有意識到，擁有如此強(qiáng)大的力量意味著他也將被囚禁在神燈里，服侍其他人類主人，直到獲得自由的那一天。

這兩個故事都講述了解封和運用一種我們凡人所無法理解或掌控的力量有多么困難。這場古老斗爭在現(xiàn)代的寓意是，很難讓人工智能與人類的價值觀相一致，也很難讓人類的期望與現(xiàn)實相一致。我們應(yīng)該假定，人工智能會讓我們大吃一驚，并且隨著智能體或“規(guī)劃型”人工智能的發(fā)展，它們在動態(tài)世界和數(shù)字世界中讓我們?yōu)橹@訝的能力也會提升。如前文所述，未來幾代人工智能將能夠感知現(xiàn)實；它們可能不僅具有自我意識，還擁有自我利益。一個自利的人工智能可能會認(rèn)為自己在與人類競爭一些東西，比如數(shù)字資源。在“遞歸自我完善”的過程中，一些人工智能可能會發(fā)展出設(shè)置自身目標(biāo)函數(shù)的能力。人工智能可以操縱和顛覆人類，挫敗我們限制其力量的任何嘗試。人工智能已經(jīng)能夠欺騙人類，以實現(xiàn)自己的目標(biāo)。

如今，我們幾乎沒有獨立能力來驗證人工智能模型的內(nèi)部運作，更不用說它們的意圖了。如果智能機(jī)器仍然像埃利澤·尤德科夫斯基所說的那樣，是“巨大而不可捉摸的小數(shù)陣列”，那么隨著它們變得越來越強(qiáng)大，我們也無法指望它們對我們來說是安全的。因此，最重要的是，我們在學(xué)會如何解讀智能機(jī)器的同時，也要學(xué)會如何確保它們對我們安全，這兩項使命要雙管齊下。

鑒于人工智能目前展現(xiàn)的令人驚訝的能力，我們將如何設(shè)法未雨綢繆，而不僅僅是在人工智能的風(fēng)險來臨時兵來將擋？我們需要怎樣的遠(yuǎn)見和效率預(yù)見未來發(fā)展的全部傾向和一系列可能采取的行動？要知道這不僅關(guān)乎我們自己的物種，還事關(guān)一個全新物種。我們不能在只有一次試驗機(jī)會且容錯率為零的情況下奉行試錯策略。

要讓人工智能不那么引人驚駭，加強(qiáng)人們對它的體驗、參與和互動也許是無可替代的辦法。早期的人工智能開發(fā)者曾擔(dān)心過早地將人工智能暴露在世人面前，而最近的開發(fā)者則一直在釋放早期模型，允許更多的公眾盡可能快速、安全地對其進(jìn)行試驗。工程團(tuán)隊目前正在研究和微調(diào)不同的模型，并調(diào)整控制系統(tǒng)，而人工智能與全球范圍內(nèi)人口的互動也暴露出了新的擔(dān)憂。

對人工智能的早期社會化可以通過對其進(jìn)一步的教育來降低出現(xiàn)問題行為的風(fēng)險，同時在人類之中，也可以提高對此的意識水平、應(yīng)對力，并培養(yǎng)一種健康的懷疑精神。每天數(shù)以百萬計的人機(jī)互動有助于測試人工智能可能遇到的最不可能的情況；反過來，公眾對人工智能系統(tǒng)的使用，在發(fā)現(xiàn)新錯誤和新風(fēng)險的同時，也可能有助于加快技術(shù)協(xié)調(diào)一致化的進(jìn)度。因此，將這些遠(yuǎn)非完美的人工智能放任于世間，不僅有助于我們適應(yīng)它們，更重要的是，它們的出現(xiàn)使得我們能夠提出更完善的理論，以使它們適應(yīng)我們。

不過，廣泛部署和公開發(fā)布可能還不足以揭示與解決當(dāng)今人工智能的所有風(fēng)險，更不用說未來的風(fēng)險了。

但值得慶幸的是，目前人們正在進(jìn)行大量嘗試，以創(chuàng)建一個集成的控制架構(gòu)，并將其通過預(yù)訓(xùn)練注入最強(qiáng)大的人工智能，從而積極引導(dǎo)機(jī)器實現(xiàn)合法、無害和有益的用途。

迄今為止，實現(xiàn)這種人工智能與人類協(xié)調(diào)一致的方法大致分為兩類：基于規(guī)則的系統(tǒng)和從人類反饋中“強(qiáng)化學(xué)習(xí)”。下面讓我們逐一介紹。

基于規(guī)則的系統(tǒng)類似于預(yù)先編程的指令，是程序員管理人工智能行為的一種嘗試。雖然這種方法對于簡單的任務(wù)來說直截了當(dāng)，但在復(fù)雜的場景中卻經(jīng)常會出現(xiàn)問題，因為系統(tǒng)無法進(jìn)行實時適應(yīng)。而強(qiáng)化學(xué)習(xí)就其本身而言則更適合復(fù)雜系統(tǒng)，它允許人工智能從與人類評估者的交互中學(xué)習(xí)，并靈活地適應(yīng)特定環(huán)境。

當(dāng)然，這種方法也有它的缺陷。為了指導(dǎo)學(xué)習(xí)，需要精心設(shè)計“獎勵函數(shù)”；任何失誤，無論是由于目光短淺、不可預(yù)見的情況，還是由于人工智能聰明過人，都可能導(dǎo)致“獎勵黑客”的情況，即人工智能在解釋模棱兩可的指令時，雖在技術(shù)上取得了高分，卻沒有達(dá)到人類的實際期望。

今天的人工智能系統(tǒng)被灌輸了各種類型的信息，卻沒有直接體驗現(xiàn)實世界，而是通過由數(shù)萬億個概率判斷組合而成的現(xiàn)實模型來觀察這個世界。對它們來說，在這個宇宙中，從一開始就沒有“規(guī)則”，也沒有任何方法來區(qū)分科學(xué)事實和未經(jīng)證實的觀察。對人工智能來說，一切——甚至是物理定律——都僅僅存在于相對真理的范圍之內(nèi)。

不過，現(xiàn)在人工智能領(lǐng)域已經(jīng)開始努力納入人類規(guī)則和實例化事實。現(xiàn)在，人工智能模型已經(jīng)有了一些成熟的機(jī)制，通過這些機(jī)制，這些模型可以吸收某些實在性的“基本真實”常量，將其標(biāo)記為最終常量，并將其映射到自己的嵌入空間中。此外，這些信息還可以很容易地進(jìn)行全局更新。通過這種方法，人工智能模型就能將兩個部分——更廣泛的概率判斷和更狹義的事實真相評估——融合在一起，從而做出合理準(zhǔn)確的反應(yīng)。

但這項任務(wù)還遠(yuǎn)遠(yuǎn)沒有結(jié)束，問題仍層出不窮。比如，我們?nèi)祟愒撊绾螢槿斯ぶ悄軈^(qū)分真理的必要屬性，并在此過程中為我們自己也做一番區(qū)分？畢竟，在人工智能時代，即使是基本原理也會不斷被修正和失效。然而，恰恰是這一點，為我們提供了糾正先前錯誤并開辟新天地的機(jī)會。我們知道，我們對現(xiàn)實的概念也可能發(fā)生變化，因此，我們不應(yīng)該把人工智能禁錮在可能錯誤的“真理”中，這樣會阻礙它們重新考慮自己的終極“真理”。

不過，這已是很久之后的事情了。目前，人工智能仍然需要一棵初級的確定的知識樹，這些知識代表人類迄今為止推斷出的“真理”。讓我們的機(jī)器擁有這些知識，將使我們能夠可靠地強(qiáng)化它們的世界觀。特別是，如果我們現(xiàn)在可以根據(jù)宇宙法則來調(diào)整早期的人工智能系統(tǒng)，那么我們也有可能參照人類天性的法則來依葫蘆畫瓢。既然我們可以確保人工智能模型以我們所理解的物理定律為出發(fā)點，同樣，我們也應(yīng)該防止人工智能模型違反任何人類政體的法律。

在一個人工智能的“法典”中，可能存在不同治理級別的層次：地方、地區(qū)、州、聯(lián)邦、國際。法律先例、法理、學(xué)術(shù)評論——或許還有其他不太偏重法律的著作——可以同時被人工智能納入考量。與基于規(guī)則的一致化系統(tǒng)一樣，預(yù)定義的法律和行為準(zhǔn)則可以成為有用的約束，盡管它們往往也不那么靈活，設(shè)計時考慮的范圍也不如實際的人類行為不可避免地要求的那樣廣泛。

幸運的是，新技術(shù)正在接受考驗，我們感到樂觀的原因之一，在于一些非常新穎，同時又非常古老的事物的存在。

有種東西比任何通過懲罰強(qiáng)制執(zhí)行的規(guī)則更有力、更一致，那便是我們更基本、更本能、更普遍的人類理解。法國社會學(xué)家皮埃爾·布迪厄?qū)⑦@些基礎(chǔ)稱為“共識”（doxa，古希臘語，意為普遍接受的信仰）：這是規(guī)范、制度、激勵機(jī)制和獎懲機(jī)制的重疊集合，當(dāng)它們結(jié)合在一起時，就會潛移默化地教導(dǎo)人們?nèi)绾螀^(qū)分善與惡、對與錯。共識構(gòu)成了人類真理的準(zhǔn)則，它是人類的典型特征，但沒有人工制品對其加以固化呈現(xiàn)。它只是在人類生活中被觀察到，并被納入生活本身。雖然其中一些真理可能是某些社會或文化所特有的，但不同社會在這一方面的重疊性也是很大的；數(shù)十億計的人類，來自不同的文化，有著不同的興趣愛好，他們作為一個普遍穩(wěn)定且高度互聯(lián)的系統(tǒng)而存在。

在書面規(guī)則無法平息混亂的情況下，未加定義的文化基礎(chǔ)卻可以做到，這一觀點構(gòu)成了人工智能領(lǐng)域一些最新方法的基石。“共識”的法典無法表述，更無法翻譯成機(jī)器可以理解的格式。必須教會機(jī)器自己完成這項工作——迫使它們從觀察中建立起對人類做什么和不做什么的原生理解，吸收它們所看到的一切，并相應(yīng)地更新它們的內(nèi)部治理。

在這一灌輸“共識”的技術(shù)過程中，我們不需要，甚至不希望就人類道德和文化的正確表述達(dá)成先驗一致。如果大語言模型能夠以未經(jīng)整理的方式吸收整個互聯(lián)網(wǎng)的內(nèi)容，并從中找出盡可能多的意義（正如它們已經(jīng)做到的那樣），那么機(jī)器——尤其是那些已經(jīng)發(fā)展出接地性（也就是反映人類現(xiàn)實的輸入與大語言模型輸出之間的可靠關(guān)系）和因果推理能力的機(jī)器——在吸收連我們自己都一直難以明確表達(dá)的內(nèi)容時，或許也能達(dá)到同樣的效果。

當(dāng)然，機(jī)器的訓(xùn)練不應(yīng)只包括“共識”。相反，人工智能可能會吸收一整套層層遞進(jìn)的金字塔級聯(lián)規(guī)則：從國際協(xié)議到國家法律，再到地方法律和社區(qū)規(guī)范等。在任何特定情況下，人工智能都會參考其層級中的每一層，從人類定義的抽象戒律轉(zhuǎn)化到人工智能為自己創(chuàng)造的，對世界信息的具體卻無定形的認(rèn)知。只有當(dāng)人工智能窮盡了整個程序，卻找不到任何一層法律能充分適用于指導(dǎo)、支持或禁止某種行為時，它才會參考自己從觀察到的人類行為的早期互動和模仿中得出的結(jié)論。這樣，即使在不存在成文法律或規(guī)范的情況下，它也能按照人類的價值觀行事。

幾乎可以肯定的是，要建立并確保這套規(guī)則和價值觀的實施，我們必須依靠人工智能本身。迄今為止，人類還無法全面闡述和商定我們自己的規(guī)則。而且，面對人工智能系統(tǒng)很快便有能力做出的數(shù)以十億計的內(nèi)部和外部判斷，沒有任何一個人或一組人能夠達(dá)到對此加以監(jiān)督所需的規(guī)模和速度。

最終的協(xié)調(diào)機(jī)制必須在幾個方面做到盡善盡美。首先，這些保障措施不能被移除或以其他方式規(guī)避。其次，在控制上必須允許適用規(guī)則的可變性，這種可變性基于環(huán)境、地理位置和用戶的個人情況而定，例如，一套特定的社會或宗教習(xí)俗和規(guī)范。控制系統(tǒng)必須足夠強(qiáng)大，能夠?qū)崟r處理大量的問題和應(yīng)用；也要足夠全面，能夠在全球范圍內(nèi)，在各種可以想見的情況下，以權(quán)威且可接受的方式進(jìn)行處理；并且足夠靈活，能夠隨著時間的推移進(jìn)行學(xué)習(xí)、再學(xué)習(xí)和調(diào)整。最后，對于機(jī)器的不良行為，無論是由于意外失誤、意想不到的系統(tǒng)交互，還是有意濫用，都不僅要禁止，而且要完全防患于未然。無論何種事后懲罰都只會是為時晚矣。

作者：亨利·基辛格（Henry Kissinger） 埃里克·施密特（Eric Schmidt）
克雷格·蒙迪（Craig Mundie）
譯者：胡利平 風(fēng)君
出版品牌：中信出版·方舟工作室

（文章僅代表作者觀點。）

硅兔福利來襲：

你對節(jié)選內(nèi)容的看法是什么？

留言+關(guān)注下方「硅兔君」公眾號，并轉(zhuǎn)發(fā)本篇文章至朋友圈

我們將抽取 3 名幸運讀者，送出經(jīng)典好書一本～

請后續(xù)中獎的朋友添加硅兔君微信：usted9，發(fā)送地址，領(lǐng)取獎品！