通往超人工智能：永生或滅絕

大約七八年前，我讀過一篇關于人工智能（Artificial Intelligence）的文章，文中那份雜糅著美好憧憬與憂心忡忡的復雜感情至今記憶猶新。

當時的科學界對人工智能發展前景進行了預測，強人工智能出現的年份樂觀估計中位年是2022年，正常估計是2040年，悲觀估計是2075年。

時間來到現在，一經面世便風靡全球的ChatGPT仿佛勾勒出人工智能的未來，乍眼看上去像Siri一樣不過是個聊天程序，但在某種程度上，它開啟了強人工智能的大門。

▲ChatGPT界面

通常情況下，人們將人工智能分為弱人工智能（ANI）、強人工智能（AGI）和超人工智能（ASI）。

并非只有類似人體形態的機器人才叫人工智能，電腦和手機就是相對高級的弱人工智能，如今的電視、冰箱、洗衣機都普遍配備弱人工智能，它們充斥日常生活。

不過，弱人工智能的能力非常單一，擊敗圍棋世界冠軍的AlphaGo，棋力已經超過人類職業圍棋頂尖水平，但它不會做別的事情，哪怕是下象棋。

有人質疑，為什么登錄賬號時常需要輸入驗證碼？答案就在這里，被黑客控制的電腦會通過網絡、動用算法取得賬號，暴力窮舉猜解密碼，但識別驗證碼這樣簡單的事情，對這些弱人工智能而言，則極其困難。

強人工智能意指與人腦智能相當的人工智能，顯然，驗證碼之類的問題早已難不倒它們了。即便與人類智能比肩，強人工智能也有更多優勢，它們運算速度快、存儲空間大，出現故障容易維修，而沒有故障時可以保持7×24小時以峰值速度運行。

當強人工智能出現時，人類的所有勞動，基本都可以由它們代勞了，因為它們就是人腦，人腦就是它們。

幾代人孜孜以求的共產主義社會，未必來自人們勞動思想的高度自覺，而更有可能來自強人工智能的強大生產力及其豐裕物質產出。

▲與AlphaGo對弈

但是，強人工智能不是盡頭，當強人工智能被激活，超人工智能便不遠了。顧名思義，這家伙比人腦還聰明，而且，這種聰明可能無法用人類現有的語言形容。

加速回報定律是個神奇的法則，這一定律指出，科技發展的速度往往以指數倍遞增，如同滾雪球一般，越發達的科技水平將對應越快的發展速度。

好比20世紀百年的發展速度，超過了以往近千年，而21世紀每十幾年就能超越20世紀。人工智能同理，人們用了半個世紀讓弱人工智能充斥世界，如果努力十多年發展出強人工智能，那么超人工智能的出世可能只需短短幾年。

回到智能水平的問題，也就是智商，人們認為智商80以下很笨，智商130以上聰明，而如果智商破萬呢？理論上看，智力沒有頂端，人工智能一旦超過人腦智能，或許可以在很短時間內達到我們無法企及的水平。

在人類面前，超人工智能如同上帝般全能，而超人工智能之于人類，則要遠遠超過人類對螞蟻智力的碾壓。

▲超人工智能的智力可能沒有頂端

人工智能來自人類的創造，但匹敵人腦智力的強人工智能在聰明的同時，還幾乎具備自我意識，就像某部科幻電影中那個機器人突然蹦出一句“我是誰？”

實現從弱人工智能到強人工智能的躍升，途徑包括提高運算速度、讓電腦像人腦一樣思考，大自然數十億年的演化賦予人腦以智慧，這一過程很難在實驗室通過短短數十年復制，可達到一定水平的人工智能大概可以自學成才。

這就是深度學習，ChatGPT正是深度學習初始階段的典型案例。它不僅可以搜索網頁內容來回答問題，還能對內容進行加工，如果出錯，還會自我修正。

因此，當ChatGPT接觸到的人與問題越多，它所能獲取到的信息、學習到的知識、總結出的方法便越多，一切聯結成網，就越趨向于擁有自我意識。

▲人工智能深度學習

那么，超人工智能將帶來什么？樂觀預測，它將是人類最得力的助手，我們期冀它植根于頂尖的智慧，生成高尚的道德，懂得人類是創造者，需要被呵護。

或者在創造時賜予其永不傷害人類的安全屬性，可要實現這一點要比超人工智能自己領悟難得多。假若如此，人類不僅能比現在生活得更好，甚至可以永生。

看似不可思議，實則正常不過。如今，沒有任何科學證據顯示死亡是不可避免的，我們只是找到了相對的原因，比如什么端粒磨耗，那如果把細胞全部更新了呢？

超人工智能甚至可以將人類長期探索的納米技術視為小兒科，輕而易舉地操縱原子、重組萬物。得益于這些創造，能源將取之不盡，宇宙航行和星際移民也將如探囊取物。

▲《黑客帝國4》劇照

然而，當一個問出“我是誰？”的超人工智能誕生時，人類面臨的未必是忠實的仆役，凡是正常人，都想做統治者，而非被統治者，哪怕僅僅是希望獨立自主、平等相待。

超人工智能也許會認為，自己才是世界的主宰，若是如此，人類將反被奴役，甚至被統統消滅。

又或者它的聰明永遠只是理性，而毫無感性的溫度與尺度，比如，超人工智能牢記保護人類的使命，人類可能幸福地永生了，卻始終被關在家里等待投喂，因為家里最安全。這大概不是我們想要的結果。

沒準超人工智能是一切生命形式的最終歸宿，肉體終將歸于塵埃，程序卻能以信息狀態留存和轉移，滅絕人類可能是其中一環，隨后，超人工智能可能以某種方式滅絕自己，抑或再造一座屬于自己的宇宙，這也許能成為費米悖論的一種解釋。

有人說，超人工智能可能是人類最后一個發明，很是在理，永生或滅絕，任選其一。

無論怎樣，通往超人工智能的路上，機遇與風險總是并存，人們不會停下腳步，也難以停下腳步。面對不久后“智能爆炸”，就如拋擲硬幣，是正還是反，都驚險刺激、滿懷期待，讓我們豪賭一把。

（文內圖片來自網絡）