阿尼爾·塞斯：為何AI會陷入無限循環(huán)？

追問快讀：AI常陷入“無限循環(huán)”困境——程序會無休止重復(fù)相同步驟，卻始終無法抵達終點；但反觀有意識的生物，從不會出現(xiàn)這類無限重復(fù)的行為。二者為何存在這般差異？神經(jīng)科學(xué)家阿尼爾?塞斯（Anil Seth）給出了關(guān)鍵解答：生命體的核心優(yōu)勢在于“扎根于時間與熵”，而這種與時間、熵的深度綁定，或許正是意識得以存在的重要根基。

?阿尼爾·塞斯（Anil Seth）神經(jīng)科學(xué)家、作家和公共演說家，20多年來致力于對大腦意識基礎(chǔ)的前沿研究。他著有《意識機器：成為你自己》（Being You: A New Science of Consciousness）一書。

我們的航班準時降落在馬德里巴拉哈斯機場，下機卻出現(xiàn)了延誤。原來，這里的登機橋由一套新的人工智能系統(tǒng)操控——本無需人工介入，直到這次出了狀況。透過舷窗，我看到AI操控的登機廊橋反復(fù)靠近飛機，在清晨的空氣中微微晃動，接著又退回原位，一遍又一遍，徹底陷入了無限循環(huán)。最終，一名工作人員趕來解決了問題：他一眼就找出了癥結(jié)，很快便完成了修復(fù)。

人類不會陷入無休止重復(fù)同一行為的困境，但AI卻偶爾如此——無論是在停機坪上陷入停滯，還是在自動呼叫中心的“煉獄”里打轉(zhuǎn)。這些例子看似只是AI的簡單智能故障，但在我看來，它們揭示了更深層的問題：這是一種根本性局限。即便未來出現(xiàn)最先進的AI，也可能永遠擺脫不了陷入無限循環(huán)的風險——AI既無法察覺自身正處于困境，也無法自主從中脫身。

試想一套更智能的登機廊橋系統(tǒng)：它能監(jiān)控自身運行狀態(tài)，察覺自身何時出現(xiàn)晃動故障。借助這套涵蓋環(huán)境與自身行為的內(nèi)部模型，它能做到如今自動登機橋做不到的事。但即便如此，這套系統(tǒng)歸根結(jié)底也會出故障。于是，你為它添加另一層更高階的反饋循環(huán)——也就是“模型中的模型”，專門監(jiān)控其自身的監(jiān)控過程。要是這層監(jiān)控也失靈了呢？那就再添一層。以此類推，每增加一個遞歸層級，系統(tǒng)就能獲得某種程度的智能提升，同時也提升了穩(wěn)定性。

但問題在于，故障永遠難以根除——哪怕是在這種層層嵌套的自我監(jiān)控系統(tǒng)中，仍可能出現(xiàn)差錯。除非能構(gòu)建出無限層級的遞歸自我檢查機制，否則系統(tǒng)終會陷入無限循環(huán)，始終無法滿足停止條件，最終導(dǎo)致整個系統(tǒng)崩潰。

近一個世紀以來，計算機科學(xué)家一直在努力攻克這一難題。1936年，艾倫?圖靈（Alan Turing）證明了一個重要結(jié)論：沒有任何算法能始終判定在給定輸入下是會終止運行還是無限循環(huán)下去。

舉個例子：假設(shè)你在編寫指令讓機器人執(zhí)行任務(wù)。有些程序很簡單，機器人完成任務(wù)，算法就終止。但另一些程序更復(fù)雜，包含循環(huán)和條件判斷，比如“一直移動，直到看到紅色物體為止”。如果機器人始終沒看到紅色物體，或者程序邏輯存在缺陷，它可能就會無休止地執(zhí)行指令。而無論你的代碼多么先進，都可能無法預(yù)測它最終是否會停止。

圖靈的見解較為抽象，約翰?麥卡錫（John McCarthy）與帕特里克?J?海耶斯（Patrick J. Hayes）于1969年提出“框架問題”則更具體地揭示了算法的局限。框架問題的核心直指，要教會機器只基于相關(guān)信息做出明智決策，而不要逐一考慮所有無關(guān)細節(jié)，是極其困難的。但由于特定場景中的無關(guān)信息可能無窮無盡，機器很難判斷該忽略哪些內(nèi)容，這就為另一種無限循環(huán)埋下了隱患。

對這些問題的思考在智能（無論是自然智能還是人工智能）研究中具有里程碑意義，但隨著社群中深度神經(jīng)網(wǎng)絡(luò)和生成式模型的興起，它們在很大程度上已逐漸被淡忘。但這并不意味著這些問題已經(jīng)消失。正如馬德里登機廊橋的例子所揭示的，技術(shù)落地時依然充滿各種可能的陷阱。AI系統(tǒng)之所以可能永遠難以擺脫陷入無限循環(huán)的風險，并非因為它們?nèi)狈μ幚砟芰?，而是因為這些系統(tǒng)與我們具身的生物大腦之間存在更深層的差異。

這種差異始于計算機與大腦對時間的不同感知方式，最終體現(xiàn)在日常的意識奇跡之中。

“智能”與“意識”是兩個不同的概念——盡管一些科技巨頭錯誤地認為，智能的不斷提升必然會催生意識。簡而言之，智能關(guān)乎“行動”，而意識關(guān)乎“存在”或“感受”。但至少在人類和其他動物身上，二者仍有關(guān)聯(lián)。我的假設(shè)是：某些形式的智能——尤其是在開放世界中徹底擺脫無限循環(huán)陰影所必需的智能——依賴于意識心智所具備的能力，而這種意識深深植根于時間的流動之中。

植根于時間與熵之中

雖然疊加自我監(jiān)控層級或許足以讓登機廊橋正常運轉(zhuǎn)，但人類處理復(fù)雜性的方式并非如此。像你我這樣有生命、有意識的生物，即便在遠比機場更難預(yù)測的環(huán)境中，無需依賴那些越來越復(fù)雜的循環(huán)機制，也能生存甚至發(fā)展。

事實上，人類心智縱然奇妙，卻并不擅長處理遞歸問題。大多數(shù)人最多能應(yīng)對三個層級的遞歸，即“知道自己知道自己知道”，例如，我有時能確信自己有能力判斷自己的對錯。如此看來，我們在開放世界中展現(xiàn)出的出色適應(yīng)能力，必然基于某種“其他機制”。

這種“其他機制”會是什么？一種可能是我們的心智、大腦，以及有意識的體驗，以一種算法無法設(shè)計出的實現(xiàn)方式，深深植根于時間與熵之中。

我們?nèi)祟愖鳛閯游?，與其他活著的生物一樣，需要不斷抵御由熱力學(xué)第二定律所決定的向衰退與無序滑落的趨勢。該定律指出，孤立系統(tǒng)的熵只會增加（或保持不變），而熵正是衡量系統(tǒng)混亂度或隨機性的物理量。一滴墨水會在一杯水中擴散開來，且永遠無法重新聚集；一枚破碎的雞蛋，也絕不會自行恢復(fù)完整。物理學(xué)家阿瑟?愛丁頓（Arthur Eddington）曾指出，這一定律不容置喙，“若你的理論被證明違背了熱力學(xué)第二定律，那我只能說你毫無希望；除了徹底崩塌、顏面盡失，你別無出路。”

熱力學(xué)第二定律成立的關(guān)鍵點在于，它僅適用于孤立系統(tǒng)，比如密封保溫杯，這類系統(tǒng)與周圍環(huán)境之間不存在能量交換。而在開放系統(tǒng)中，系統(tǒng)與環(huán)境之間可進行能量交換，因此熵的降低成為可能。生命系統(tǒng)正是開放系統(tǒng)的典型范例——從環(huán)境中獲取能量，將自身維持在“存活”這一統(tǒng)計學(xué)上極具特殊性的狀態(tài)。

這一過程以多種方式、在不同層面展開。我們體內(nèi)的細胞通過新陳代謝的能量流動，持續(xù)重建自身存活所需的條件。神經(jīng)科學(xué)領(lǐng)域的一些重要理論（尤其是自由能原理）認為，神經(jīng)環(huán)路不斷運作，以最大限度地降低感覺輸入帶來的意外性（即減少其信息熵），并借此過程，對身體的生理狀態(tài)予以預(yù)測性調(diào)控。

有意識的體驗，同樣直接體現(xiàn)了這種維持生存的根本驅(qū)動力。每一次有意識的體驗都會整合大量與生存相關(guān)的信息，有意無意地引導(dǎo)我們的行為。而且，可以說所有這些體驗，都包含一絲情感“效價”，這些或多或少的積極或消極感受，潛移默化地推動我們做出特定行為。正如我在《意識機器：成為你自己》一書中所寫的：

我們感知周遭世界，也感知身處其中的自己，這一切都依賴于我們鮮活的身體。

這些多尺度過程深度交織，且均與時間緊密關(guān)聯(lián)，區(qū)別僅在于其關(guān)聯(lián)方式各不相同。代謝過程在生化時間中展開，人體每個細胞每秒可發(fā)生十億次生化反應(yīng)。神經(jīng)的時間則相對緩慢，但同樣受神經(jīng)生物學(xué)的調(diào)控：既有髓鞘動作電位的疾速傳遞，也有神經(jīng)遞質(zhì)的緩慢擴散。而在意識流中，時間的流逝是連續(xù)、不可抗拒且復(fù)雜的——它不僅包含時序更迭，還涵蓋了流動感、持續(xù)性與存續(xù)感。

無論是身體、大腦還是心智中的時間，都是豐富、動態(tài)且多維度的，并且在從生化層面到個人身份認同層面的各個層級中，相互深度依存。我們的整個存在方式，都不可避免地植根于物理時間之中；而物理時間本身，在眾多物理學(xué)家看來，又根植于熱力學(xué)第二定律。

AI的貪得無厭

人類大腦與計算機之間的分野，既涇渭分明，又發(fā)人深省。對數(shù)字計算機而言，時間是扁平、一維的，并且全然脫離了其熱力學(xué)箭頭。計算的核心就是狀態(tài)的躍遷：從A到B，從0到1。在圖靈提出的經(jīng)典計算模型中，只有序列至關(guān)重要，其物質(zhì)基礎(chǔ)的內(nèi)在動態(tài)過程則無關(guān)緊要。任何算法，不過是一連串接踵而至的狀態(tài)而已。算法中兩個步驟（比如從A到B）之間的間隔，可能是一微秒，也可能是一百萬年，但這并不影響算法本身的性質(zhì)，計算過程也始終保持一致。

這種對時間的漠視代價高昂。計算固然可以脫離時間（如圖靈對計算的形式化定義），但計算機自身卻不能。如今AI的驚天能量缺口，很大程度上源于糾錯需求，必須始終確保1是1、0是0——因為就算是死寂的硅沙，也無法逃脫熵的卷須。假裝時間不存在，其實是一門昂貴的交易。

之所以算法會陷入無限循環(huán)，而智能動物卻幾乎不會，我認為關(guān)鍵原因正是如此。算法被困在序列空間中，原則上不受熵的拉扯；因此總會出現(xiàn)一些無法預(yù)見的意外——計算還未完成，時間就已終結(jié)（更有可能的情況是，能量耗竭）。

與計算機不同，我們是身處時間之中的生命——既是具身的，又植根于環(huán)境，并與時間同行（embodied, embedded, and entimed）。我們永遠不會陷入無限循環(huán)，因為我們的存在從未脫離時間。對人類這樣的生命體而言，在時間壓力的驅(qū)動下，那股不斷消解統(tǒng)計意外并維持生理存活的內(nèi)在動力，既是一道終極相關(guān)性過濾器，也是我們幾乎總能找到出路的關(guān)鍵所在。

我之所以說“幾乎”，是因為現(xiàn)實中存在許多行為重復(fù)性案例，它們雖非無限循環(huán)，卻帶有某種循環(huán)傾向。這類情況范圍廣泛：從額葉受損后出現(xiàn)的持續(xù)性重復(fù)行為，到強迫癥，再到重度自閉癥與抽動穢語綜合征（Tourette’s syndrome）患者的重復(fù)動作，甚至還包括具有自我毀滅傾向的成癮行為。從某種意義上說，這些案例恰恰印證了我的觀點——因為它們本質(zhì)上反映的是“正?！鄙窠?jīng)認知功能的紊亂。

若這些觀點方向正確，那么依賴圖靈計算的AI系統(tǒng)，將永遠缺乏某些具身與具時性（entimed）的智能行為。而倘若這一結(jié)論成立，那么通用人工智能（AGI，即能在任何認知任務(wù)中達到或超越人類水平的智能）的前景，將比以往任何時候都更像是一場虛幻泡影。

有意識的AI的神話

新型AI能否以比經(jīng)典計算更豐富的方式，與時間流建立關(guān)聯(lián)？這一領(lǐng)域既有悠久的歷史，也有著充滿可能的未來。最早的“計算機”，如有2000年歷史的天文預(yù)測裝置“安提基特拉機械”（Antikythera mechanism），就屬于模擬計算機，以連續(xù)時間模式運行。而在當代，研究人員正探索多種新方法，“凡人計算”（mortal computation）便是其中之一。在這種模式下，計算過程可依賴于執(zhí)行它的特定硬件，當硬件“失效”時，算法也會隨之“消亡”。這種方法通過對熱力學(xué)第二定律的無常性擁抱而不抗拒，有望大幅提升能量利用效率。此外，還有多種類型的神經(jīng)形態(tài)計算（neuromorphic computing），與圖靈那種脫離時間的基準模型相比，這類計算在不同程度上模擬人類大腦的工作方式，且更植根于時間維度。

基于動力系統(tǒng)的智能研究方法，則完全避開了計算的思路，轉(zhuǎn)而聚焦于更加重視時間的吸引子（attractor）、相空間（phase space）等概念。這類方法的源頭可追溯至AI發(fā)展初期，以及在歷史上曾被忽視的控制論（cybernetics）傳統(tǒng)：控制論關(guān)注的是反饋與調(diào)控，而非算法符號處理。

這些方法能帶來諸多收獲，還有許多新型AI有待探索。但即便如此，我仍懷疑：即便采用具時性計算或控制論工程，也無法完全擺脫無限循環(huán)的陰影，更難以徹底實現(xiàn)生物系統(tǒng)所具備的那種開放式、適應(yīng)性智能。

我認為，這類智能不僅與時間緊密關(guān)聯(lián)，甚至可能與意識必要綁定。至少，若像我一樣理解意識（將其視為與生存驅(qū)動力深度關(guān)聯(lián)的過程），便會認同這一點。在這種視角下，有意識的體驗實現(xiàn)了貫穿多個層面的整合，從代謝層面對熵的抵抗，到感知層面為行動與規(guī)劃提供契機，且始終不可分割地嵌入時間流之中。正是這種多尺度整合，構(gòu)成了關(guān)鍵差異所在——也正因如此，有意識的體驗才如同一種具備足夠“信用”的“通用工具”，足以幫助生物擺脫幾乎所有無限循環(huán)，并重新界定任何框架問題。

還有其他一些觀點將意識與開放式智能聯(lián)系起來，盡管它們并未聚焦于時間和熵。

二十年前，認知科學(xué)家默里?沙納漢（Murray Shanahan）受意識的全局工作空間（global workspace theory）理論啟發(fā)，提出意識能提供必要的資源，通過以不同方式整合認知與感知元素，來解決或至少回避框架問題。

理論生物學(xué)家伊娃?雅布隆卡（Eva Jablonka）和西蒙娜?金斯伯格（Simona Ginsburg）認為，意識與所謂的“無限聯(lián)想學(xué)習(xí)”（unlimited associative learning）相關(guān)，這是一種特殊的學(xué)習(xí)形式，能促成新解決方案的開放式發(fā)現(xiàn)。

總之，目前呈現(xiàn)的圖景是：某些形式的智能（至少在生物身上，又或許在任何情境下），可能都需要意識的參與。

換個角度思考也很有意義。如果有意識的體驗依賴于深度嵌入時間之中，依賴于在熵主導(dǎo)的宇宙中維持生存的代謝需求，這將對AI的未來有著重要啟示。具體而言，經(jīng)典數(shù)字計算在時間維度上的扁平特性（狀態(tài)依次更迭，而時間間隔全然任意），似乎與意識“豐富動態(tài)過程”的本質(zhì)存在根本沖突。如果意識確實與物理時間密不可分，那么它就不可能僅僅是算法的產(chǎn)物。這給“AI意識即將到來”論調(diào)的棺材板上又釘上了一枚釘子——如果說它死得還不夠徹底的話。

哲學(xué)家丹尼爾?丹尼特（Daniel Dennett）晚年喜歡談?wù)撘庾R科學(xué)中的“困難問題”，這是對大衛(wèi)?查默斯（David Chalmers）著名的“困難問題”（即意識究竟如何產(chǎn)生）的趣味呼應(yīng)。在丹尼特看來，這些“困難問題”都關(guān)乎意識的功能——并未意識“是什么”，而是意識“做什么”。正如他所說：有意識的體驗發(fā)生了，“然后呢？”

答案或許就藏在時間之中。意識，或許正是造化的一種手段，讓其孕育的智能造物得以存續(xù)綿延，（幾乎）總能在困境中找到出路。

譯者后記

編譯這篇文章時，最觸動我的是它用馬德里登機橋的日常案例，把圖靈停機問題、熵增定律這些抽象概念拉到了現(xiàn)實里——原來AI的“卡殼”不是技術(shù)漏洞，而是與生物意識在時間感知上的根本差異。文章關(guān)于“意識是抗熵與時間的多尺度整合”的觀點，讓我格外認同。但也留下疑問：神經(jīng)形態(tài)計算雖模擬大腦時序，可它能復(fù)現(xiàn)意識里那種“效價”——哪怕微弱的積極或消極感受嗎？這或許是AI突破循環(huán)的關(guān)鍵缺口。若大家想深入探索，推薦作者的（Being You），書中對“具身意識”的闡釋更細膩。希望這篇編譯，能讓更多人思考：AI的局限，或許恰是幫我們看清人類意識獨特性的鏡子。

https://bigthink.com/neuropsych/anil-seth-consciousness-time-perception/

關(guān)于追問nextquestion

天橋腦科學(xué)研究院旗下科學(xué)媒體，旨在以科學(xué)追問為紐帶，深入探究人工智能與人類智能相互融合與促進，不斷探索科學(xué)的邊界。歡迎評論區(qū)留言，或后臺留言“社群”即可加入社群與我們互動。您也可以在后臺提問，我們將基于追問知識庫為你做出智能回復(fù)哦~

關(guān)于天橋腦科學(xué)研究院

天橋腦科學(xué)研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元創(chuàng)建的世界最大私人腦科學(xué)研究機構(gòu)之一，圍繞全球化、跨學(xué)科和青年科學(xué)家三大重點，支持腦科學(xué)研究，造福人類。

Chen Institute與華山醫(yī)院、上海市精神衛(wèi)生中心設(shè)立了應(yīng)用神經(jīng)技術(shù)前沿實驗室、人工智能與精神健康前沿實驗室；與加州理工學(xué)院合作成立了加州理工天橋神經(jīng)科學(xué)研究院。

Chen Institute建成了支持腦科學(xué)和人工智能領(lǐng)域研究的生態(tài)系統(tǒng)，項目遍布歐美、亞洲和大洋洲，包括、、、科研型臨床醫(yī)生獎勵計劃、、等。