超級智能的“人本轉向”：在風險中尋找可持續未來 | 社會科學報

“圖靈測試”已成歷史，“超級智能”臨界點迫近。在技術失控的陰影下，我們面臨怎樣的關鍵抉擇？近日，《評論匯編》刊文《邁向人本主義超級智能》（Toward Humanist Superintelligence）指出，我們不應追求無限自主的通用超級智能，而應構建“人本主義超級智能”，即在醫療、能源等特定領域具備超凡能力，但地位永遠嚴格“從屬于人”的人工智能。

原文 ：《構建風險可控的“人本主義超級智能”》

編譯 |楊逸 楊勇

圖片 |網絡

1

跨越圖靈測試失效的歷史門檻

數十年來，圖靈測試一直是人工智能研究者的指路明燈。在人工智能的早期探索中，研究者需要一個明確的標準來衡量機器的智能水平。其核心思想非常巧妙：如果一臺機器能在純文字對話中，表現得讓人類判斷者無法分辨它究竟是機器還是真人，那么我們就可以認為這臺機器通過了測試，具備了類人的智能。它精準地捕捉到了“智能”在行為層面的一個直觀體現，即能否在對話中完美地模仿人類。

然而，隨著推理模型和自主能力的出現，以及人工智能基礎設施迭代步伐的加快，如今最先進的AI模型已能輕松，甚至超額完成這種“模仿游戲”，這標志著該測試作為衡量智能巔峰的標尺，其歷史使命已趨于終結。我們已站在通往超級智能道路上的關鍵臨界點：即人工智能在所有任務上的表現都超過人類水平的時刻。事實上，我們這個時代最關鍵的問題并非人工智能是否會超越我們，因為在某些方面它已經做到了，在許多其他方面它也將會做到。而在某些方面，我們永遠是不可被替代的。所以，真正的問題是：我們能否塑造人工智能，使其促進而非破壞人類的繁榮。這是我們這個時代面臨的最為重要的挑戰。

如今，對人工智能的過度炒作已然令人厭倦，但我們仍應當以最嚴肅的態度來審視人工智能，因為它關乎我們所有人的未來，其重要性無出其右。科學和技術一直是人類進步最強大的引擎。在過去的250年里，這個引擎使預期壽命翻倍，使數十億人擺脫貧困，并為我們帶來了抗生素、電力和即時的全球通信，人工智能是這個故事的下一個篇章。它代表著我們在加速科學發現、推動經濟增長和造福人類社會各個方面的巨大潛力。

然而，人工智能的這種潛力，唯有在我們以正確的方式構建它時，方能真正轉化為人類的福祉。一旦它失控，我們將付出難以承受的代價。目前，尚無人能給出令人信服的答案，告訴我們該如何安全地約束它，并確保其目標與人類的價值觀始終保持一致。我們正置身于一個前所未有的歷史節點：手握史上最強大的技術，卻對其可控性與持久的益處心存疑慮。

但像所有技術一樣，我們可以為其確立一個簡單的評判準則：它是否改善了人類的生活？它是否明確地為人類服務？

2

打造“人本主義超級智能”

當我們開啟人工智能的下一階段時，前行的道路已然清晰：必須致力于構建“人本主義超級智能”。這并非要創造一個全知全能、最終脫離我們掌控的自主實體——恰恰相反，其核心在于發展一種高度先進，卻始終受到嚴格約束、與人類價值觀高度統一，并堅定服務于人類集體利益的人工智能。

為此，我們不應盲目追求無限制的通用智能，而是要聚焦于在特定領域內達到超人類水平的智能。其根本目的不是打造一個能無止境自我迭代、最終目的不明的“失控”系統，而是要切實地將突破性能力轉化為普惠全球數十億人的現實福祉。它必須永遠且明確地處于人類的從屬地位。這正是微軟超級智能團隊的核心愿景：確保人類安全無虞，控制權牢牢在握。

為何必須將“人本主義”置于超級智能的核心？因為這關乎我們所要創造的未來的根本底色。人本主義傳統的精神內核——即堅信人的價值與尊嚴至高無上，并致力于通過理性與仁愛來增進全人類的福祉，在數百年的文明演進中，已經證明了其維護人性光輝的永恒力量與非凡韌性。

將這種精神注入人工智能的構建藍圖，意味著我們不是在創造一種冰冷的、純粹工具性的力量，而是在締造一個以賦能和守護人類為第一原則的伙伴。以此為指導，我們便能最大限度地激發人工智能解決全球性難題、催生文化繁榮的非凡潛力。同時，從設計源頭就規避那些可能導致失控或被少數人壟斷，進而帶來災難性后果的致命風險。我們需要的，是一個堅定支持人類、增益個體創造力，并悉心呵護我們脆弱星球的美好愿景。任何將人類邊緣化，或將我們置于從屬地位的技術未來，都是不可接受的。

3

錨定社會福祉的現實路徑

若能循此路徑成功構建人本主義超級智能，我們為文明所開啟的，將是一個前所未有的繁榮時代。我們有望迎來一個物質與知識極大豐富的新紀元。更重要的是，這將是一個創造力迸發的黃金時期——全新的藝術形式將應運而生，文化表達將變得空前多元與活躍，為人類的精神世界注入新的活力。這正是數十年來驅動人類不斷前行的、真正鼓舞人心的宏偉使命。科技的進步始終是人類社會發展最強大的引擎，我們需要確保其發展方向始終向善。

人本主義超級智能為我們指明一條風險可控、發展可持續的前進道路。其關鍵實施路徑，在于錨定那些能夠產生深遠社會效益的特定領域，致力于取得突破性進展。想象一下，人工智能助手可以減輕日常生活中的精神負擔，提高生產力，并通過適應性、個性化學習重塑教育；醫療超級智能能夠提供準確、普惠的專家級診斷，這可能會徹底變革全球醫療保健體系；在清潔能源方面，超級智能將實現充裕、低成本的發電和儲能，以滿足不斷增長的能源需求，同時也能保護地球的生態環境。

毋庸置疑，人比技術或人工智能更重要。超級智能可能是有史以來最偉大的發明，但前提是它必須恪守這一準則。這意味著要確保問責制和透明度，建立有效的監督與制衡機制，并始終將長期安全置于短期效益之上。我們的目標絕非不計代價地追求能力的極致，而是要以審慎的態度，鋪設一條通往能力強大但邊界清晰、行為可預測的超級智能之路。這條道路上的每一個選擇，都必須服務于一個終極目的：鞏固人類的自主性，保障文明的延續與繁榮。

文章為社會科學報“思想工坊”融媒體原創出品，原載于社會科學報第1981期第7版，未經允許禁止轉載，文中內容僅代表作者觀點，不代表本報立場。

本期責編：程鑫云

《社會科學報》2026年征訂

點擊下方圖片網上訂報↓↓↓