2024智源大會，我們梳理了來自20+個AI頂尖人士的觀點

2024年的智源大會落幕了。

這一持續(xù)舉辦6年的會議，或許是目前國內(nèi)最坦誠的AI大會。

在這里，曾出現(xiàn)過Geoffery Hinton、Stuart Russell 、楊立昆、姚期智、張鈸等全球頂級AI學(xué)者的交鋒。全球最具影響力和爭議性的AI公司CEOSam Altman也曾連線發(fā)言。

今年6月，在AGI席卷全球一年半后，我們不僅在智源大會上看到Russell和Tegmark討論AI安全、謝賽寧和Sora及Dall-E團隊負(fù)責(zé)人連線交流多模態(tài)，還見證智譜AI、月之暗面、零一萬物、百川智能、面壁智能這幾家國內(nèi)大模型頂流罕見齊聚。

（「四木相對論」拍攝）

在「四木相對論」的觀察中，這屆智源大會迸發(fā)出若干有趣的火花。

首先是國內(nèi)頂流AGI公司的CEO們，直面了大模型API降價、Scaling Law失效、大模型商業(yè)模式等關(guān)鍵問題。

而且，AGI的內(nèi)涵雖然已存在相對共識，但多位大咖還是被要求多次定義這一名詞。

此外，語言和視覺等多模態(tài)元素如何融合，如何找到真正通往AGI的多模態(tài)路徑，也被多個學(xué)者激烈討論。

另一個值得關(guān)注的現(xiàn)象是，由于學(xué)術(shù)界和產(chǎn)業(yè)界算力資源差距加大，一些學(xué)界老師甚至已經(jīng)開始思考該如何定位自己在產(chǎn)業(yè)中的工作。面對一些來自產(chǎn)業(yè)觀眾的提問，他們也直言，在學(xué)界沒有遇到過這類問題，無法給出解決方案。

但自由思考同樣是學(xué)界的優(yōu)勢。

比如，在「意識和通用人工智能」的Panel中，我們看到幾位研究腦科學(xué)的學(xué)者，持續(xù)嘗試定義人與機器的最終區(qū)別——在產(chǎn)業(yè)界，這一定會被認(rèn)為是太過遙遠的話題。

在兩天的參會后，「四木相對論」通過梳理現(xiàn)場20+位嘉賓的觀點，從眾多議題中抽取出討論性最高的六個話題進行總結(jié)。

我們挑選的話題覆蓋AGI、多模態(tài)、具身智能、Scaling Law、AI安全和人類意識，從技術(shù)延伸到哲學(xué)，從猜想延續(xù)到商業(yè)落地。

希望能在這一很多人擔(dān)憂被AI拋棄的時刻，提供一份知識參考。

AGI的定義：本質(zhì)上不是非共識，但值得拆解

*AGI，當(dāng)今科技界最熱的詞匯。

但在2024年智源大會上，我們看到一道奇異景觀——包括百川智能CEO王小川、月之暗面CEO楊植麟、智譜AI CEO張鵬在內(nèi)的AI大咖們依然在火熱討論什么是AGI。

事實上，在「四木相對論」觀察到AGI的定義在硅谷不存在過多爭議。大多數(shù)人認(rèn)為，AGI指AI系統(tǒng)具備取代大部分人類白領(lǐng)工作的能力。而實現(xiàn)這個目標(biāo)的時間周期，大概是6年。

在圍觀今年的Panel后，我們認(rèn)為國內(nèi)大咖們對AGI的討論依舊圍繞AI幫助人類完成任務(wù)展開，并不存在過多非共識。但相比之前，大家拆解出了更多可定義的細(xì)節(jié)。

月之暗面CEO楊植麟認(rèn)為，AGI 的定義是重要的，但它不一定需要在現(xiàn)在被非常精確地、有量化地定義。因為它可能是一個定性的，感性的東西。

"我覺得它最重要的作用，是能讓社會或者說所有人，能夠?qū)τ谡f接下來要發(fā)生什么事情有個準(zhǔn)備。因為也許這個技術(shù)的節(jié)奏會非常快。那我們?nèi)绻軌蛑?AGI 它是什么樣的，能夠某種程度上去定義它，我覺得其實是可以更好地去準(zhǔn)備這個事情，不管是對每個人的職業(yè)，還是說行業(yè)接下來可能會怎么發(fā)展。"

第二，他覺得AGI在短期內(nèi)可能需要一些量化（指標(biāo)），因為如果完全沒有量化的話，可能就沒有辦法去衡量AGI開發(fā)的進度。短期來說，楊植麟覺得 evaluation（評估） 本身也會是一個很難的問題，可能也是個很大的挑戰(zhàn)。

百川智能CEO王小川進行了舉例。他認(rèn)為，判斷AGI的一個標(biāo)準(zhǔn)是，AI是否能夠成為一個醫(yī)生。

"AI的數(shù)據(jù)來自于人類社會產(chǎn)生的數(shù)據(jù)，所以在評價里面，我是拿人的職業(yè)來和AI作比較。醫(yī)生在所有職業(yè)里，相對而言智力密度最高，既需要多模態(tài)，也需要少幻覺、有效記憶（看70 萬字的病歷），也有推理的能力，也有查文獻的能力等等。"他解釋自己的邏輯。

但術(shù)業(yè)有專攻，醫(yī)生也有自己相對了解和不了解的領(lǐng)域，不夠通用。

所以，"如果我們認(rèn)為醫(yī)生是比 AGI 低的，醫(yī)生都造不了，咱們就別談這 AGI 。不過如果你覺得醫(yī)生比 AGI 高，但醫(yī)生也只是'造人'里的一種，所以在我的邏輯里面，醫(yī)生跟 AGI 是可以基本劃個等號的。"王小川認(rèn)為。

面壁智能CEO李大海，嘗試從經(jīng)濟學(xué)角度解讀AGI。

他覺得從經(jīng)濟學(xué)的角度講，如果大模型去執(zhí)行任何一個任務(wù)，邊際成本為零，這就是理想中的 AGI 。

智譜AI CEO張鵬認(rèn)為，這一概念當(dāng)前以"人"為參照度，但外延會變化。

他認(rèn)為可以把 AGI 定義成我們的一個目標(biāo)。當(dāng)前的目標(biāo)是以人為參照，讓機器像人一樣去思考，這是第一步。但機器的能力遠不止人的這個水平，我們期待它可以出現(xiàn)超越人的能力，比如Super Intelligence。

"下一步它是否能產(chǎn)生超過人的智能水平？那就是我們會不斷地去更新迭代 AGI 的內(nèi)涵和外延。"張鵬說。

多模態(tài)、視覺和語言：通往AGI路徑未定

*多模態(tài)理論上是實現(xiàn)AGI的手段之一——至少，一個能夠完成人類諸多技能的系統(tǒng)，一定具備處理多種類型數(shù)據(jù)的能力。

在產(chǎn)業(yè)中，今年Sora、 GPT-4o、Suno等產(chǎn)品的火爆，讓視頻、音頻等模態(tài)也擁有了類似語言的關(guān)注度。而這些產(chǎn)品中，語言和其它模態(tài)地自然交互，也讓多模態(tài)產(chǎn)品更加常見。

這帶來的更深思考是，多模態(tài)架構(gòu)能讓我們真正通往AGI嗎？語言是其中的橋梁嗎？語言又該如何和其他模態(tài)融合？

在會議中，紐約大學(xué)助理教授謝賽寧和Sora及Dall-E團隊負(fù)責(zé)人阿迪蒂亞·拉梅什提到了視覺和AGI的問題。

謝賽寧詢問拉梅什，是否認(rèn)為視覺生成是通往AGI的關(guān)鍵道路，以及如何看待建模人類語言，與建模包含豐富感官數(shù)據(jù)的現(xiàn)實世界之間的關(guān)系。

后者的回答篤定。他覺得在任何給定的視頻中，模型都可以獲取很多信息。并且，視頻中的很多信息用語言很難表示，從視覺中學(xué)習(xí)到的智能類型，很難僅僅通過學(xué)習(xí)語言來模擬。

"所以我認(rèn)為語言將成為實現(xiàn)能夠推理的、那些更智能的系統(tǒng)的重要組成部分。但在某個時刻，我們會將語言納入視覺，這是一種更通用的界面。"拉梅什表示。

關(guān)于語言和多模態(tài)之間的關(guān)系，他告訴觀眾："我們在DALL-E 3中看到的是，當(dāng)你用很有描述性的說明文字和一些簡短的說明文字訓(xùn)練模型時，由于使用了更多描述性的文字，簡短說明文字的性能也會得到改善。從這個方向看，也許我們可以使用語言來訓(xùn)練生成模型，幫助提高訓(xùn)練效率。但隨著我們投入越來越大的規(guī)模，模型不再依賴語言作為條件信息，而是可以開始自己解決問題。"

一個差異點是，關(guān)于多模態(tài)模型的路線，各家的選擇不盡相同。

智源研究院院長王仲遠介紹，智源研究院的多模態(tài)大模型并未采用Sora帶火的DiT路線，而是選擇了自回歸模型（auto regressive）路線。

現(xiàn)在智源研究院正通過自回歸路線訓(xùn)練的多模態(tài)模型是Emu 3，目標(biāo)是實現(xiàn)原生多模態(tài)世界模型。

他覺得，如果追求通過多模態(tài)大模型實現(xiàn) AGI，雖然難度很大，但自回歸才是終極技術(shù)路線。

在另一場Panel中，昆侖萬維2050全球研究院院長顏水成提到，多模態(tài)的超級智能體，可以形成AGI。

背后邏輯是，視覺是3D的信息，語言是1D信息，人類吸收信息的70%來自于視覺。但同時，多模態(tài)的信息要融合、推理（reasoning），可能還需要用Language來統(tǒng)一。

百川智能聯(lián)合創(chuàng)始人謝劍認(rèn)為，多模態(tài)大家希望的終局是Any（模態(tài)） To any （模態(tài)），現(xiàn)在大家的Any To Text已經(jīng)做到挺好的水平，但多種模型架構(gòu)之間還沒有很好的統(tǒng)一方案。

他覺得語言是橋梁，讓其它模態(tài)和語言去做對齊之后，可以更好地提升模型的智能。

零一萬物聯(lián)合創(chuàng)始人黃文灝解釋，之前零一萬物沒有過多發(fā)力多模態(tài)模型，是不確定多模態(tài)會提升模型智能的上限。但今年通過數(shù)據(jù)優(yōu)化等方式，零一萬物已經(jīng)取得了一定進展，今年也會有多模態(tài)的成果發(fā)布。

整體來說，通往AGI的架構(gòu)還有很多探索空間。

另外在交互方面，不少學(xué)者也認(rèn)為，現(xiàn)在人類最習(xí)慣的交互模式還是語言，如果脫離語言打造多模態(tài)模型，適用性不強。

具身智能：最火熱方向之一，但或許問題最多

*從Figure01的持續(xù)發(fā)布，到OpenAI重啟機器人團隊，具身智能同樣是2024年全球的AI焦點。

但數(shù)據(jù)缺失、成本較高、現(xiàn)有大模型還不足以支撐具身落地，也是這一領(lǐng)域正面臨的問題。

在具身智能Panel中，我們總結(jié)了來自北大、清華、NUS、宇樹科技的專家觀點。

整體來說，具身智能領(lǐng)域目前存在兩大核心難點，一是技術(shù)發(fā)展路線存在諸多瓶頸，二是短期的未來幾年內(nèi)的實際落地應(yīng)用場景尚不清晰。

技術(shù)上可以細(xì)拆為幾個方面：用于感知、獲取信息并推理出明確任務(wù)目標(biāo)的大模型；用于實際執(zhí)行動作、作用于真實世界實際物體的小模型；能夠支撐模型做持續(xù)訓(xùn)練和迭代的高質(zhì)量真實數(shù)據(jù)；機器人本體。

首先來說大模型層面的難點。

不同于目前主流的多模態(tài)大模型，機器人對于為了感知外界物理世界信息而捕捉到的圖像，需要進行更復(fù)雜的識別與推理。

例如，準(zhǔn)確識別目標(biāo)物體、獲取物體的相對方位和距離、根據(jù)物體信息及任務(wù)目標(biāo)推理出需要執(zhí)行的動作指令等等。而這些功能，都不是目前主流多模態(tài)大模型所擅長的。

其次是小模型方面，也可以叫作機器人的“技能庫”。

目前的技能庫并不豐富。相對常規(guī)的技能按照本體技能、互動技能來分類大約只有走路、跑步、跳躍，以及抓取、移動、放置。

而且，由于目前能夠?qū)崿F(xiàn)的技能相對比較簡單和少量，在實際訓(xùn)練時都是采用端到端的訓(xùn)練方式，意味著針對每一個技能單獨訓(xùn)練了一個模型，每一個技能是一個單獨的API。

這在實際應(yīng)用場景中就會造成，當(dāng)機器人明確了任務(wù)目標(biāo)及實現(xiàn)方式后，首先必不可少的過程是選擇技能，并執(zhí)行調(diào)用。這樣一是會造成時間延遲上的問題，二是這一步本身也可能會有誤差。

理想形態(tài)下是將技能庫整合為一個模型，一個API，不論任務(wù)目標(biāo)和對象物體是什么，都是調(diào)用這一個相對泛化的通用模型來解決。

另外，訓(xùn)練數(shù)據(jù)依舊是相對匱乏。

目前具身智能的訓(xùn)練數(shù)據(jù)大多都來自操作模擬器得出的過程及結(jié)果數(shù)據(jù)，而模擬器對真實世界的近似模擬程度會嚴(yán)重影響數(shù)據(jù)質(zhì)量。

為提高模擬效率，目前主流的模擬器技術(shù)都是相對輕量級的模擬，與真實世界的偏差較大。但是如果想要提升模擬器的真實性，又會導(dǎo)致模擬器本身的“體積”相對較重，開發(fā)難度高的同時，模擬效率也會比較低。

除了模擬器外，具身智能訓(xùn)練數(shù)據(jù)的另一重要部分是采集自真實世界的數(shù)據(jù)，而這一部分?jǐn)?shù)據(jù)的依舊數(shù)量較少。從技術(shù)和成本的角度出發(fā)，目前不太可能投入大量的機器人在真實世界中執(zhí)行采集數(shù)據(jù)的任務(wù)，所以目前大家暫時還是通過人工采集，或者極少量的真實機器人去采集，成本和速度都存在一定問題。

最后是機器人本體方面，核心問題主要集中在觸覺缺失和造價成本上。

目前機器人能夠獲取的主流的信息模態(tài)，主要集中在圖像和聲音上，圖像部分包括了文字、數(shù)字等符號元素。

而對比人能夠完成的各種復(fù)雜任務(wù)來看，觸覺的缺失會導(dǎo)致很大的一部分信息丟失，比如布料的材質(zhì)、水流等流體的判斷等。

但觸覺傳感器相比其他傳感器來說成本較高，且傳感器反饋的數(shù)據(jù)形態(tài)也較為復(fù)雜。此外，造價成本高昂也是限制具身智能投入真實應(yīng)用場景的主要阻力之一。

除了技術(shù)外，另一個核心難題是短期內(nèi)的實際應(yīng)用場景較不清晰。

綜合來看，3-5年內(nèi)能夠應(yīng)用機器人到實際業(yè)務(wù)場景中的領(lǐng)域，需要滿足幾個條件。

首先是任務(wù)相對簡單。因為技術(shù)上的限制，目前機器人尚不能完成較為復(fù)雜的任務(wù)。

其次是與人力相比，機器人的綜合成本相對較低，當(dāng)然也有可能是一個人力成本可能無窮大的領(lǐng)域，比如排爆、飛機試飛等。

然后是錯誤率容忍度相對較高，因為按照目前的技術(shù)，機器人是比較有可能出錯的，而且相比人的話，機器人在出錯后可能并不會及時進行反應(yīng)并彌補。

最后是安全層面，投入機器人后一定不能對人類造成傷害。有專家認(rèn)為，最先可能應(yīng)用的領(lǐng)域是工廠或體育賽事，因為這兩個領(lǐng)域相比較而言都目標(biāo)明確且簡單、規(guī)則清晰、相對遠離人類。

AI安全：無盡的拷問與追求

*包括可解釋性、隱私、可控在內(nèi)的AI安全問題，一直困擾著產(chǎn)學(xué)研界。這次智源大會上，不少專家學(xué)者也給出自己的看法。

但根據(jù)「四木相對論」的長期觀察，這一領(lǐng)域目前依舊困難重重、進展緩慢。

加州大學(xué)伯克利分校計算機科學(xué)教授、《人工智能：現(xiàn)代方法》作者斯圖爾特·羅素（Stuart Russell）一直認(rèn)為，“如果我們不理解人工智能如何運作，就無法保證這個系統(tǒng)是安全的。”

在這次大會中，羅素表示，人工智能的能力會不斷提高，最終會遠遠超過人類。

他認(rèn)為OpenAI首席執(zhí)行官薩姆·奧爾特曼表示會研究如何創(chuàng)建AGI并保證它的安全，研究它的用途。但羅素覺得，一旦制造出 AGI，就沒有另一個十年的時間來研究如何讓它變得安全。

羅素還給出一個紅線的概念：安全和不安全很難區(qū)分，不過可以劃定明確的不安全行為和不可接受的行為，要求人工智能系統(tǒng)不要越過這些紅線。比如人工智能系統(tǒng)不應(yīng)該自我復(fù)制、不應(yīng)該侵入其他計算機系統(tǒng)、它們也不應(yīng)該幫助恐怖分子設(shè)計生物武器。

有意思的是，在其他并行論壇上，有學(xué)者在回答觀眾關(guān)于檢測AI生成內(nèi)容的問題時，直言并不能給出具體的建議。

另外，還有產(chǎn)業(yè)界知名專家表示，目前關(guān)于虛假圖像類的檢測，比較容易解決。但如果要針對大語言模型，檢測出模型生成的虛假文字內(nèi)容，并沒有特別好的方案。

紐約大學(xué)助理教授謝賽寧和Sora及Dall-E團隊負(fù)責(zé)人阿迪蒂亞·拉梅什的對話中，也提到了安全。

謝賽寧詢問，我們是否能期待 Sora 近期會發(fā)布一些更新？

拉梅什回應(yīng)稱，如果要發(fā)布一個強大的視頻生成系統(tǒng)，我們最關(guān)心的是安全性以及對社會的影響。

要小心謹(jǐn)慎，保證發(fā)布像 Sora 這樣的模型時，人們不會把它用于傳播虛假信息之類的事情，并且模型運行的方式也在人們的期望范圍內(nèi)。他覺得認(rèn)為需要做大量工作才能確保模型安全，才能足夠自信地發(fā)布。

Scaling Law：大模型第一性原理，現(xiàn)在也需要"雕花"了？

*Scaling Law還會持續(xù)奏效，但Scale的方式也要改變。

在持續(xù)一年多的大模型戰(zhàn)局中，Scaling Law似乎是最先被證明的共識。

但隨著模型越來越大，也有很多人認(rèn)為Scaling Law會面臨數(shù)據(jù)和算力的上限。并且，總有一些數(shù)據(jù)是大模型無法獲得的，各家獨有的數(shù)據(jù)也無法統(tǒng)一。

各種原因，讓Scaling Law出現(xiàn)爭議。

在智源大會上，國內(nèi)"Scaling Law"信仰第一人——月之暗面CEO楊植麟，依然認(rèn)為Scaling Law，是通往AGI的第一性原理。他覺得，提升模型規(guī)模的本質(zhì)是壓縮，而壓縮可以產(chǎn)生智能。

但是楊植麟同樣認(rèn)為，現(xiàn)在Scaling Law的最大問題是怎么解決這些比較稀缺，甚至可能不存在的數(shù)據(jù)。整體他覺得規(guī)模化定律，或者說大模型，本身沒有太本質(zhì)的問題。

但或許，實現(xiàn)Scaling Law的方式要發(fā)生變化。

“如果只是沿著現(xiàn)在的方法預(yù)測下一個Token，用和現(xiàn)在完全一樣的數(shù)據(jù)分布，搞一堆網(wǎng)頁文本，上限是明顯的。Scaling Law并沒有定義模型是什么樣的，比如要有多少模態(tài)，數(shù)據(jù)是什么樣的，數(shù)據(jù)是生成出來的還是用網(wǎng)頁文本，所以Scaling Law會持續(xù)演進，只是在這個過程中Scaling Law的方法可能會發(fā)生很大變化。”

百川智能CEO王小川同樣認(rèn)為，Scaling Law到目前為止沒有看到邊界，還在持續(xù)發(fā)揮價值。比如馬斯克的xAI號稱要買30萬片B100、B200來做，就是一個例子。

但他覺得，在 Scaling Law 之外需要范式的變化，不應(yīng)該只是簡單地去 predict token 變成壓縮模式。

智譜AI CEO張鵬也覺得，Scaling Law還在向前推進，目前為止還未看到Scaling Law失效的預(yù)兆。“至于它是否能夠幫助我們到達頂峰，現(xiàn)在找不到一個確切答案，但現(xiàn)階段它是有效的，未來相當(dāng)一段時間之內(nèi)它仍會有效。”

張鵬還說，Scaling Law的“有效”是動態(tài)概念。對于Scaling Law，早期關(guān)注的是參數(shù)量規(guī)模，現(xiàn)在擴展到參數(shù)量、數(shù)據(jù)量、數(shù)據(jù)質(zhì)量，變成一種計算量。隨著對規(guī)律的認(rèn)知越來越深，規(guī)律的本質(zhì)越來越被揭示，掌握本質(zhì)就能掌握通往未來的鑰匙。

零一萬物CEO李開復(fù)覺得，Scaling Law已被驗證有效并且尚未達到頂峰，但利用尺度定律不能盲目堆GPU，僅僅依靠堆砌更多算力提升模型效果，只會導(dǎo)致那些擁有足夠多GPU的公司或國家才能勝出。

面壁智能CEO李大海認(rèn)為，Scaling Law其實是一個經(jīng)驗公式，是整個行業(yè)對于大模型這樣一個復(fù)雜系統(tǒng)的觀察以后的一個經(jīng)驗總結(jié)。這個經(jīng)驗總結(jié)會隨著對模型訓(xùn)練工作過程中做的實驗越來越多、認(rèn)知越來越清晰，會有更加細(xì)的顆粒度的認(rèn)知，

比如，面壁就發(fā)現(xiàn)除了前面說的這些維度之外，在模型訓(xùn)練中的訓(xùn)練方法本身，對于Scaling Law、對智能的影響也是比較顯著相關(guān)的。

他說："這個顯著的影響在我們固定住參數(shù)規(guī)模以后，其實就會變得非常重要，因為現(xiàn)在大家覺得參數(shù)規(guī)模是能夠不斷地往上scale，它是低垂的果實，只要擴就可以，所以就覺得沒關(guān)系，我們先去做這個，先往上放大，但是一旦我們固定說我們要讓端側(cè)的芯片能夠去支撐這個規(guī)模的模型，能夠去做到足夠好的智能，那么數(shù)據(jù)的質(zhì)量、訓(xùn)練的方法這些都變得非常重要。"

清華大學(xué)智能產(chǎn)業(yè)研究院院長、智源學(xué)術(shù)顧問委員張亞勤認(rèn)為，至少將來5年左右，Scaling Law還是產(chǎn)業(yè)的大方向。

但相比只有3斤重、能耗20瓦的大腦，當(dāng)前大模型決策效率低。不管是微軟、OpenAI還是當(dāng)前的主流大模型，仍處于采購英偉達芯片的階段，只有提高大模型效率才能建立真正的商業(yè)模式。

關(guān)于"意識"，人類最后的壁壘是什么？

*相比機器智能，人類最像人的地方是什么？

這或許才是關(guān)于終局的討論。

人類作為智慧生命所獨有的能力是什么？來自北京大學(xué)和清華大學(xué)的學(xué)者們得出了相對一致的結(jié)論。

人類具有主動的學(xué)習(xí)能力，能夠根據(jù)外部條件來做出適應(yīng)性的改變，這是智慧生命的核心標(biāo)志。由此推導(dǎo)，如果機器具有跟人一樣的智慧水平，那它應(yīng)該也能做到自我學(xué)習(xí)、自我改變，而這，也是具有“意識”的一種可能的體現(xiàn)。

關(guān)于如何達到這一目標(biāo)，大家相對持謹(jǐn)慎的悲觀態(tài)度。

當(dāng)前AI發(fā)展的路徑，本質(zhì)上還都是在對信息進行壓縮，試圖通過壓縮來將世間萬物的運行規(guī)則“濃縮”到一個更高維的程度，而這就代表了模型的“水平”。

但是人作為智慧生命，所感知到的信息并不僅僅來自于文字的描述，我們有太多的經(jīng)驗及知識的獲取途徑，是通過各個器官感知真實的世界后而得出的。所以如果AI不具備具身、不能通過具身來進行感知，那獲得的信息一定是有局限性的。

當(dāng)討論到人與機器的本質(zhì)的區(qū)別、或者說人類作為智慧生命的“最后的”壁壘時，幾位專家給出了不同的答案。相對來說獲得大家普遍認(rèn)可的，一是人類是唯一的對死亡具備認(rèn)知的生物，二是人類是始終具有自驅(qū)的動力來不斷進行進化的物種。而這兩項，至少目前看來，機器可能完全不會具備。

一個系統(tǒng)、一個模型，是不具備理論上的生命周期的。它可以通過不斷的迭代、信息補充，永遠存在于世界上。所以對機器來說，它并不會真正知道“死亡”是什么，自己也永遠不會來到這一個節(jié)點。

而人類是有相對固定的生命周期的，雖然這個周期也在隨著科技的發(fā)展而延長。如果將人類的普遍生命周期縮短或延長一個數(shù)量級，我們的社會形態(tài)、意識，所有的一切都會有本質(zhì)的不同。

人類群體正是因為存在這個相對固定的生命周期，導(dǎo)致這個物種持續(xù)具有自發(fā)的、源自于內(nèi)心的持續(xù)迭代和進化的動力。

反觀機器，它并沒有這樣的一個核心需求，來推動它自己進行持續(xù)不斷的迭代。而這個主動性，可能是人和機器最終的本質(zhì)區(qū)別，也是人類作為智慧生命的最后壁壘。