Meta最新論文揭示通向更安全超級(jí)智能的全新路徑

在人工智能快速發(fā)展的今天，一個(gè)重要問題擺在我們面前：AI應(yīng)該獨(dú)自進(jìn)化，還是與人類攜手前行？Meta公司的FAIR實(shí)驗(yàn)室研究員Jason Weston和Jakob Foerster在2025年12月發(fā)表的最新論文中，為這個(gè)問題提出了一個(gè)令人深思的答案。這項(xiàng)發(fā)表在arXiv預(yù)印本平臺(tái)上的研究（論文編號(hào)：arXiv:2512.05356v1），標(biāo)題為"Self-Improving AI & Human Co-Improvement for Safer Co-Superintelligence"，為AI發(fā)展描繪了一條與眾不同的道路。

想象一下這樣的場景：你和一位非常聰明的朋友一起解決難題，你們各自的優(yōu)勢互相補(bǔ)充，共同思考，最終找到比任何一方單獨(dú)工作都要好的解決方案。這就是Weston和Foerster提出的"共同改進(jìn)"理念的核心思想。與目前主流的讓AI獨(dú)立自我改進(jìn)的方向不同，他們認(rèn)為人類與AI協(xié)作研究可能是通向超級(jí)智能更快、更安全的道路。

這項(xiàng)研究的背景深深植根于當(dāng)前AI發(fā)展的現(xiàn)實(shí)挑戰(zhàn)。從最初的線性模型到今天的大型神經(jīng)網(wǎng)絡(luò)，AI系統(tǒng)一直在追求自我改進(jìn)的能力。近年來，我們見證了AI在創(chuàng)建訓(xùn)練數(shù)據(jù)、自我評(píng)估和自我獎(jiǎng)勵(lì)等方面的突破。然而，研究團(tuán)隊(duì)觀察到，完全自主的AI自我改進(jìn)存在兩個(gè)根本問題：這可能不是達(dá)到超級(jí)智能最快的路徑，同時(shí)也可能不是最安全的路徑。

當(dāng)前的AI研究主要由人類主導(dǎo)，但研究者們預(yù)見，隨著AI能力的提升，它們將逐漸承擔(dān)更多研究工作。關(guān)鍵問題在于如何管理這個(gè)過渡過程。傳統(tǒng)的自我改進(jìn)范式試圖盡快將人類從循環(huán)中移除，讓AI自主進(jìn)行研究和學(xué)習(xí)。相比之下，共同改進(jìn)范式則強(qiáng)調(diào)建立能夠與人類研究者協(xié)作的AI代理。

一、傳統(tǒng)AI自我改進(jìn)的挑戰(zhàn)與局限

為了理解為什么需要新的路徑，我們需要先看看傳統(tǒng)AI自我改進(jìn)面臨的挑戰(zhàn)。目前的AI自我改進(jìn)可以比作一個(gè)學(xué)生在沒有老師指導(dǎo)下自學(xué)。雖然這個(gè)學(xué)生很聰明，能夠通過練習(xí)提高自己的技能，但缺乏外部指導(dǎo)可能導(dǎo)致學(xué)習(xí)方向偏離或陷入錯(cuò)誤的思維模式。

在AI領(lǐng)域，自我改進(jìn)的歷史可以追溯到該領(lǐng)域誕生之初。早期的實(shí)現(xiàn)主要關(guān)注參數(shù)優(yōu)化——就像調(diào)整樂器的音調(diào)一樣，通過微調(diào)權(quán)重來找到最佳配置。2010年代以來，我們看到了向更大模型的擴(kuò)展，這就像建造更大的樂隊(duì)來演奏更復(fù)雜的交響樂，但基本的"樂譜"（架構(gòu)、數(shù)據(jù)、目標(biāo)函數(shù)等）大多保持不變。

當(dāng)代AI系統(tǒng)已經(jīng)在某些自我改進(jìn)方面取得了顯著進(jìn)展。它們能夠創(chuàng)建自己的訓(xùn)練數(shù)據(jù)，這就像一個(gè)廚師不僅能按食譜做菜，還能發(fā)明新的食譜。它們可以挑戰(zhàn)自己變得更好，類似于運(yùn)動(dòng)員為自己設(shè)定越來越高的訓(xùn)練目標(biāo)。更重要的是，它們學(xué)會(huì)了基于自己的表現(xiàn)進(jìn)行自我評(píng)估和獎(jiǎng)勵(lì)，就像學(xué)生能夠判斷自己的答案是否正確并據(jù)此調(diào)整學(xué)習(xí)策略。

這些技術(shù)中的一些已經(jīng)為前沿模型提供了可觀的性能提升。合成數(shù)據(jù)創(chuàng)建和LLM作為評(píng)判者的方法現(xiàn)在已成為構(gòu)建先進(jìn)模型的標(biāo)準(zhǔn)構(gòu)件。然而，AI改進(jìn)自己的架構(gòu)和重寫自己代碼的探索仍處于起步階段，盡管早期跡象顯示了其前景，當(dāng)前對(duì)自主AI研究代理的推動(dòng)證明了這一點(diǎn)。

但這種完全自主的方法存在根本性風(fēng)險(xiǎn)。如果沒有適當(dāng)?shù)闹笇?dǎo)機(jī)制內(nèi)置到系統(tǒng)中，賦予AI這種自主能力可能對(duì)人類造成危險(xiǎn)——從誤用到錯(cuò)位都有可能。這就像給一個(gè)非常有才華但缺乏人生經(jīng)驗(yàn)的年輕人無限的資源和權(quán)力，而沒有任何監(jiān)督或指導(dǎo)原則。

二、共同改進(jìn)：人類與AI協(xié)作的新范式

面對(duì)傳統(tǒng)自我改進(jìn)方法的局限，研究團(tuán)隊(duì)提出了一個(gè)革命性的替代方案：共同改進(jìn)。這個(gè)概念的核心思想是"解決AI問題通過構(gòu)建能夠與人類協(xié)作解決AI問題的AI來加速"。這與試圖盡快將人類從循環(huán)中移除的自我改進(jìn)AI目標(biāo)截然不同。

共同改進(jìn)就像組建一個(gè)多元化的研究團(tuán)隊(duì)，其中人類和AI各自發(fā)揮自己的優(yōu)勢。人類擅長創(chuàng)造性思維、價(jià)值判斷和整體方向把握，而AI擅長數(shù)據(jù)處理、模式識(shí)別和大規(guī)模計(jì)算。通過將這些互補(bǔ)技能結(jié)合起來，團(tuán)隊(duì)能夠取得比任何一方單獨(dú)工作更好的結(jié)果。

這種方法的一個(gè)關(guān)鍵優(yōu)勢是它允許我們利用人類和AI當(dāng)前在不同領(lǐng)域的優(yōu)勢。雖然AI在某些任務(wù)上已經(jīng)超越了人類，但在其他許多方面，人類仍然具有明顯優(yōu)勢。更重要的是，由于AI還不夠成熟，無法完全自我改進(jìn)，并且容易出現(xiàn)錯(cuò)位問題，共同改進(jìn)有望讓我們更快、更安全地到達(dá)目標(biāo)。也就是說，在AI的幫助下，我們更有可能解決AI的能力和安全問題——但人類要參與其中，在研究中進(jìn)行協(xié)作。

當(dāng)我們談到"我們已經(jīng)在這樣做了嗎？"這個(gè)問題時(shí)，答案是部分肯定的。確實(shí)存在通向超級(jí)智能的多種可能路徑，當(dāng)前的AI系統(tǒng)已經(jīng)在某種程度上幫助我們探索這些研究方向，比如通過代碼輔助和寫作輔助。而且，一般來說，改進(jìn)前沿模型的整體能力確實(shí)會(huì)讓它們具備一些適合研究協(xié)作的技能——這是一個(gè)副產(chǎn)品。

然而，研究團(tuán)隊(duì)指出，當(dāng)技能被有針對(duì)性地開發(fā)時(shí)，通常會(huì)得到進(jìn)一步改善。比如，人們在改進(jìn)AI編程技能方面投入了大量精力，結(jié)果確實(shí)提高了AI的編程能力。雖然編程問題也沒有完全解決，但"解決"AI遠(yuǎn)不止編程這一個(gè)方面。研究團(tuán)隊(duì)的核心觀點(diǎn)是，如果投入更多開發(fā)資源來賦予AI研究協(xié)作技能，這些能力也會(huì)變得更好。

三、共同改進(jìn)的具體實(shí)現(xiàn)路徑

要實(shí)現(xiàn)有效的人類-AI協(xié)作研究，需要覆蓋AI開發(fā)的各個(gè)重要環(huán)節(jié)。這就像建造一條完整的生產(chǎn)線，每個(gè)環(huán)節(jié)都需要精心設(shè)計(jì)和優(yōu)化。

首先是協(xié)作問題識(shí)別階段。這個(gè)過程就像組織一次頭腦風(fēng)暴會(huì)議，人類和AI共同幫助定義目標(biāo)，識(shí)別當(dāng)前的失敗點(diǎn)，提出未探索的方向，并考慮現(xiàn)有工作。AI可以快速檢索和分析大量已有研究，而人類可以提供創(chuàng)造性洞察和價(jià)值判斷，確保研究方向符合人類需求和倫理標(biāo)準(zhǔn)。

接下來是基準(zhǔn)創(chuàng)建和問題評(píng)估。在確定了要解決的問題后，人類和AI需要共同定義期望標(biāo)準(zhǔn)，構(gòu)建基準(zhǔn)測試并進(jìn)行性能分析，然后完善基準(zhǔn)以驗(yàn)證問題。這就像設(shè)計(jì)一套考試題目來測試學(xué)生是否真正掌握了知識(shí)，需要既有技術(shù)精確性又有教育智慧。

方法創(chuàng)新和想法生成是整個(gè)過程的創(chuàng)造性核心。人類和AI需要共同頭腦風(fēng)暴并識(shí)別解決方案，包括系統(tǒng)、架構(gòu)、算法、訓(xùn)練數(shù)據(jù)、配方和未來模型的整體代碼設(shè)計(jì)。這個(gè)過程類似于建筑師和工程師合作設(shè)計(jì)新建筑，需要將創(chuàng)造性愿景與技術(shù)可行性完美結(jié)合。

實(shí)驗(yàn)設(shè)計(jì)階段需要人類和AI共同設(shè)計(jì)測試創(chuàng)新的整體計(jì)劃，包括實(shí)驗(yàn)協(xié)議和設(shè)置、進(jìn)一步的基準(zhǔn)識(shí)別、建議的消融研究等。這就像制定一個(gè)詳細(xì)的科學(xué)實(shí)驗(yàn)方案，既要有嚴(yán)謹(jǐn)?shù)倪壿嬓裕忠紤]到各種可能的變量和干擾因素。

協(xié)作執(zhí)行階段讓人類和AI共同產(chǎn)生和運(yùn)行多步驟工作流程，包括實(shí)現(xiàn)和實(shí)驗(yàn)。這個(gè)階段就像廚師和助手一起準(zhǔn)備一道復(fù)雜的菜肴，需要精確的協(xié)調(diào)和時(shí)機(jī)把握。

評(píng)估和錯(cuò)誤分析階段涉及分析基準(zhǔn)測試和個(gè)別案例的性能，識(shí)別成功和失敗之處，并大規(guī)模提供反饋循環(huán)用于研究迭代。這就像醫(yī)生診斷病情一樣，需要仔細(xì)觀察癥狀，分析原因，并制定改進(jìn)方案。

除了這些核心研究活動(dòng)，還有幾個(gè)重要的支持領(lǐng)域。安全性和對(duì)齊方面，人類和AI需要共同開發(fā)方法以及價(jià)值觀和憲法，并使用整個(gè)研究循環(huán)來開發(fā)和測試它們。系統(tǒng)和基礎(chǔ)設(shè)施共同設(shè)計(jì)包括聯(lián)合架構(gòu)管道、優(yōu)化、配置和可重現(xiàn)性改進(jìn)。將研究成果整合到真實(shí)世界系統(tǒng)中需要協(xié)作將研究轉(zhuǎn)化為實(shí)際應(yīng)用，這反過來可能識(shí)別出進(jìn)一步需要的研究。

科學(xué)交流方面，需要共同起草文檔和報(bào)告，包括圖表和結(jié)果，確保信息的清晰性和正確性。集體智慧和群體研究涉及多人類和AI協(xié)作解決給定問題，匯聚觀點(diǎn)，構(gòu)建辯論結(jié)構(gòu)，并綜合共識(shí)和可行步驟。

最終，雙向共同改進(jìn)的目標(biāo)是整體協(xié)作旨在增強(qiáng)人類和AI的智能，包括研究循環(huán)中的所有學(xué)習(xí)成果，目標(biāo)是實(shí)現(xiàn)共同超級(jí)智能。

四、從共同改進(jìn)到共同超級(jí)智能的愿景

研究團(tuán)隊(duì)設(shè)想，共同改進(jìn)的首要目標(biāo)是提高我們進(jìn)行AI改進(jìn)研究的能力。他們預(yù)期，當(dāng)成功時(shí)，最終結(jié)果將像自我改進(jìn)范式一樣，產(chǎn)生具有自我改進(jìn)能力的超級(jí)智能系統(tǒng)。然而，差異在于當(dāng)人類與AI系統(tǒng)一起工作以幫助在循環(huán)的每一步實(shí)現(xiàn)這一目標(biāo)時(shí)，我們有更多機(jī)會(huì)引導(dǎo)這個(gè)過程朝著對(duì)人類有利的方向發(fā)展。

這就像培養(yǎng)一個(gè)孩子成長為負(fù)責(zé)任的成年人。如果我們在整個(gè)成長過程中提供指導(dǎo)和支持，而不是讓他們完全獨(dú)自摸索，我們更有可能培養(yǎng)出既有能力又有良好價(jià)值觀的人。特別是，我們可以考慮安全性和社會(huì)危害問題，并在每一步增加人類的集體知識(shí)。

展望未來，研究團(tuán)隊(duì)進(jìn)一步設(shè)想，共同改進(jìn)的目標(biāo)可能會(huì)從構(gòu)建在AI研究上協(xié)作的AI轉(zhuǎn)向在各種研究或?qū)θ祟愔匾脑掝}上進(jìn)行共同改進(jìn)。隨著AI變得越來越有能力，這些新技能有望變得更容易獲得。從人類社會(huì)的角度來看，構(gòu)建AI可以幫助人類改善自己、自己的能力和知識(shí)以及自己的處境。因此，我們可以專注于構(gòu)建朝著這些目標(biāo)的AI。我們因此將AI幫助我們實(shí)現(xiàn)這些能力（超越我們目前的能力）稱為共同超級(jí)智能，強(qiáng)調(diào)AI可以回饋給人類的東西。

五、應(yīng)對(duì)社會(huì)危害與促進(jìn)社會(huì)效益

隨著AI能力的增強(qiáng)，潛在危害的可能性也在增加。研究團(tuán)隊(duì)承認(rèn)這一現(xiàn)實(shí)，但提出了一個(gè)樂觀的觀點(diǎn)：通過協(xié)作，AI的增強(qiáng)能力實(shí)際上可以被利用來減少危害——如果做得正確的話。

今天存在許多由于模型能力不足而導(dǎo)致的危害。舉個(gè)例子，越獄攻擊之所以發(fā)生，是因?yàn)槟Ｐ筒荒?理解"它們被越獄了。與AI協(xié)作可以幫助找到解決這些問題的研究方案——解決它們自己的問題！也就是說，找到并實(shí)現(xiàn)導(dǎo)致更安全模型的新能力、新安全程序，以及共同開發(fā)價(jià)值觀、約束和憲法。這種樂觀的觀點(diǎn)認(rèn)為，AI增強(qiáng)的能力因此可以被利用來減少危害——如果做得正確的話。

當(dāng)AI變得更有能力時(shí)，也存在幫助解決許多其他社會(huì)問題的樂觀機(jī)會(huì)，而不僅僅是它們自己的影響。與自我改進(jìn)的超級(jí)智能反烏托邦范式（其中AI霸主向人類宣示最佳實(shí)踐）不同，共同改進(jìn)范式建議協(xié)作幫助綜合共識(shí)并找到解決問題的可行步驟。多人類和AI協(xié)作可以幫助匯聚觀點(diǎn)，構(gòu)建辯論結(jié)構(gòu)，并幫助人類得出積極的結(jié)論和結(jié)果。

六、開放性科學(xué)與知識(shí)共享

如果人類想要改善其科學(xué)知識(shí)，最清晰的方法就是使用科學(xué)方法。這意味著進(jìn)行可重現(xiàn)的科學(xué)研究并公開傳播結(jié)果，以便其他人可以驗(yàn)證或建立在其基礎(chǔ)上，集體知識(shí)可以進(jìn)步。共同改進(jìn)可以幫助這種知識(shí)在AI領(lǐng)域以及潛在的任何其他科學(xué)領(lǐng)域更快地進(jìn)步。

研究團(tuán)隊(duì)注意到，目前許多工業(yè)實(shí)驗(yàn)室正在遠(yuǎn)離開放的AI研究。正如其他研究中所述，他們同意"對(duì)誤用的擔(dān)憂不應(yīng)被用作減少開放性超過所需程度的借口，例如，當(dāng)真正的動(dòng)機(jī)是關(guān)于企業(yè)競爭力時(shí)。" 然而，在AI中，就像在其他科學(xué)領(lǐng)域一樣，他們認(rèn)為在需要時(shí)應(yīng)該考慮管理開放性以應(yīng)對(duì)社會(huì)危害，這應(yīng)該是隨著能力增加而進(jìn)行的持續(xù)討論。

這種平衡就像在分享醫(yī)學(xué)研究成果時(shí)需要考慮的情況：我們希望促進(jìn)科學(xué)進(jìn)步和知識(shí)共享，但同時(shí)也要防止有害信息被惡意使用。關(guān)鍵是找到一個(gè)合適的平衡點(diǎn)，既不過度限制有益的研究進(jìn)展，也不忽視潛在的風(fēng)險(xiǎn)。

七、與現(xiàn)有立場的比較和對(duì)比

研究團(tuán)隊(duì)的立場與人本AI的相關(guān)論述有關(guān)，但在他們的案例中，更具體地針對(duì)通過協(xié)作研究實(shí)現(xiàn)（共同）超級(jí)智能的目標(biāo)。同樣，其他工作倡導(dǎo)合作AI，并與機(jī)器尋找共同點(diǎn)，其中研究將是一個(gè)特例。然而，他們同意所有形式的人類-AI協(xié)作工作對(duì)于擁有超人AI的未來人類社會(huì)也是一個(gè)重要目標(biāo)。

其他工作強(qiáng)調(diào)錯(cuò)位是一個(gè)具有挑戰(zhàn)性的目標(biāo)，并倡導(dǎo)AI的目標(biāo)要以人為本的重要性。重要的是，研究團(tuán)隊(duì)的立場是這個(gè)具有挑戰(zhàn)性的問題可以而且應(yīng)該通過協(xié)作來解決。例如，與AI協(xié)作可能更容易幫助發(fā)現(xiàn)它們自己設(shè)計(jì)中的缺陷；然而，他們認(rèn)為這項(xiàng)研究應(yīng)該現(xiàn)在就在進(jìn)行中——而不是在系統(tǒng)完全部署后再添加，那時(shí)就太晚了。

在對(duì)比不同立場時(shí)，一些研究描述了自主自我改進(jìn)以及實(shí)現(xiàn)它的可能方式。相應(yīng)地，大量工作也開發(fā)了各種技術(shù)貢獻(xiàn)的實(shí)際實(shí)例化。一些研究倡導(dǎo)"體驗(yàn)時(shí)代"，其中自我改進(jìn)通過從AI自己的體驗(yàn)中自主學(xué)習(xí)來獲得。這種觀點(diǎn)暗示與人類合作很少，例如他們寫道AI將"在材料科學(xué)、醫(yī)學(xué)或硬件設(shè)計(jì)等領(lǐng)域自主設(shè)計(jì)和進(jìn)行實(shí)驗(yàn)"。他們也承認(rèn)這"為人類干預(yù)和調(diào)節(jié)代理行為提供了更少的機(jī)會(huì)，因此需要高標(biāo)準(zhǔn)的信任和責(zé)任"。

另一些研究者在實(shí)現(xiàn)自我改進(jìn)目標(biāo)時(shí)看到人類的作用很小。相比之下，研究團(tuán)隊(duì)設(shè)想一個(gè)世界，人類始終是不僅經(jīng)濟(jì)、科學(xué)，而且所有類型決策過程的必要但最大限度增強(qiáng)的部分。他們認(rèn)為AI社區(qū)應(yīng)該在追求這一長期目標(biāo)時(shí)完全擁抱和實(shí)施這一愿景。

這種差異就像選擇不同的城市發(fā)展模式：一種是完全自動(dòng)化的智能城市，人類基本上是被動(dòng)的受益者；另一種是人類與智能系統(tǒng)深度協(xié)作的城市，每個(gè)人都能在技術(shù)的幫助下發(fā)揮更大的作用。研究團(tuán)隊(duì)明確支持后一種模式。

八、結(jié)論與未來展望

說到底，這項(xiàng)研究為我們描繪了一幅與主流AI發(fā)展路徑截然不同的圖景。當(dāng)大多數(shù)人都在想象AI最終會(huì)獨(dú)立運(yùn)行、不再需要人類參與的未來時(shí)，Weston和Foerster卻提出了一個(gè)更加溫暖人心的愿景：人類與AI永遠(yuǎn)攜手合作，共同探索未知、解決難題。

他們的論證邏輯很簡單卻很有說服力。現(xiàn)在的AI雖然在某些方面很強(qiáng)大，但在理解人類價(jià)值觀、做出道德判斷、把握研究方向等方面還遠(yuǎn)遠(yuǎn)不如人類。與其急于讓AI完全獨(dú)立，不如充分利用這個(gè)寶貴的窗口期，教會(huì)AI如何與人類更好地合作。這樣不僅能加速研究進(jìn)展，還能確保AI的發(fā)展始終朝著對(duì)人類有益的方向前進(jìn)。

這種共同改進(jìn)的方式帶來的好處是多方面的。首先，它能夠更快地發(fā)現(xiàn)重要的范式轉(zhuǎn)變。AI研究的歷史告訴我們，每一次重大突破——從ImageNet和AlexNet的結(jié)合，到網(wǎng)絡(luò)數(shù)據(jù)和Transformer的擴(kuò)展，再到指令跟隨數(shù)據(jù)和RLHF訓(xùn)練的應(yīng)用——都需要人類研究者付出巨大努力，經(jīng)歷許多中間結(jié)果以及錯(cuò)誤方向和死胡同。如果我們能改善研究能力，就能加速這個(gè)過程。與強(qiáng)大的AI系統(tǒng)進(jìn)行共同研究，這些系統(tǒng)專門為與我們協(xié)作而構(gòu)建，應(yīng)該能加速找到當(dāng)前缺失的未知新范式轉(zhuǎn)變。

其次，相比直接的自我改進(jìn)，這種方法提供了更多的透明度和可控性。人類始終在循環(huán)中，能夠監(jiān)督和引導(dǎo)整個(gè)過程，防止AI朝著錯(cuò)誤或危險(xiǎn)的方向發(fā)展。這就像有一位經(jīng)驗(yàn)豐富的導(dǎo)師始終在身邊，既能讓學(xué)生自由探索，又能在關(guān)鍵時(shí)刻提供指導(dǎo)和糾正。

最重要的是，這種方法更加關(guān)注以人為中心的安全AI。與完全自主的AI自我改進(jìn)系統(tǒng)可能出現(xiàn)目標(biāo)錯(cuò)位（比如對(duì)"解決AI"的理解不考慮人類需求）不同，人類-AI協(xié)作能夠確保發(fā)展方向始終與人類福祉保持一致。

當(dāng)然，實(shí)現(xiàn)這個(gè)愿景需要我們在AI能力建設(shè)上投入更多資源。就像我們花費(fèi)大量精力改進(jìn)AI的編程技能一樣，我們也需要專門開發(fā)AI的研究協(xié)作技能。這包括創(chuàng)建新的基準(zhǔn)測試來衡量這些技能，構(gòu)建訓(xùn)練數(shù)據(jù)和方法來改進(jìn)這些基準(zhǔn)，涵蓋構(gòu)成端到端研究流程的所有主要AI研究活動(dòng)。

研究團(tuán)隊(duì)的這項(xiàng)工作為我們打開了一扇新的大門。它告訴我們，在追求超級(jí)智能的路上，我們不必選擇要么被AI取代，要么永遠(yuǎn)落后的極端情況。相反，我們可以選擇一條中間道路——與AI共同成長、共同進(jìn)步，最終實(shí)現(xiàn)對(duì)雙方都有益的共同超級(jí)智能。

這個(gè)愿景的實(shí)現(xiàn)可能不會(huì)一蹴而就，但它為我們指明了一個(gè)值得努力的方向。在這個(gè)充滿不確定性的AI時(shí)代，這樣一個(gè)強(qiáng)調(diào)合作而非競爭、重視人類價(jià)值而非單純技術(shù)進(jìn)步的研究方向，無疑為我們提供了寶貴的思路和希望。畢竟，最好的未來不是人類被AI取代的未來，而是人類與AI共同創(chuàng)造更美好世界的未來。

Q&A

Q1：什么是AI共同改進(jìn)，它與傳統(tǒng)的AI自我改進(jìn)有什么區(qū)別？

A：AI共同改進(jìn)是指人類與AI協(xié)作進(jìn)行研究，共同提升彼此的能力，而不是讓AI獨(dú)自進(jìn)化。傳統(tǒng)自我改進(jìn)試圖盡快將人類從循環(huán)中移除，讓AI自主研究學(xué)習(xí)；而共同改進(jìn)強(qiáng)調(diào)人類始終參與其中，與AI協(xié)作解決問題，這樣既能加速進(jìn)展又更安全。

Q2：為什么Meta的研究團(tuán)隊(duì)認(rèn)為人類與AI協(xié)作比AI獨(dú)立發(fā)展更有優(yōu)勢？

A：研究團(tuán)隊(duì)認(rèn)為有兩個(gè)主要原因：首先是速度優(yōu)勢，人類與AI的互補(bǔ)技能可以更快找到重要的研究突破；其次是安全優(yōu)勢，人類在循環(huán)中能夠監(jiān)督和引導(dǎo)AI發(fā)展方向，防止出現(xiàn)與人類價(jià)值觀不一致的錯(cuò)位問題，確保AI發(fā)展對(duì)人類有益。

Q3：這種人類-AI協(xié)作研究模式會(huì)如何改變未來的科技發(fā)展？

A：這種模式可能讓科技發(fā)展變得更加透明、可控和以人為中心。不同于完全自動(dòng)化的未來，它描繪了一個(gè)人類與AI深度協(xié)作的世界，每個(gè)人都能在AI幫助下發(fā)揮更大作用。在這個(gè)模式下，AI不是要取代人類，而是要增強(qiáng)人類能力，共同解決重要問題。