![]()
哈嘍,大家好,我是小墨,梵蒂岡圣彼得大教堂的大理石地面上,約翰-克拉克·萊文的皮鞋敲出輕響,
這位谷歌AI研究員沒帶祈禱書,懷里揣著一封寫給教皇利奧十四世的信,信里沒提救贖,
只講一個更現(xiàn)實的危機:AGI(通用人工智能)可能帶來的末日,不是神罰,是代碼失控。
![]()
萊文可不是普通研究員,他是谷歌AI權(quán)威雷·庫茲韋爾的研究負(fù)責(zé)人,哈佛碩士加劍橋博士的學(xué)歷打底,手里攥著實打?qū)嵉挠渤晒鲗?dǎo)的ASI(超級人工智能)路線圖研究,被收錄進庫茲韋爾去年登頂《紐約時報》暢銷書榜的《奇點更近》里。
![]()
他的身份清單還很長:宏觀戰(zhàn)略公司Greenmantle的AI高級顧問,定期給政府和財富500強上課;十年間在美軍戰(zhàn)爭學(xué)院、蘭德公司等數(shù)十家機構(gòu)演講,文章常登《華爾街日報》《時代》周刊。私下里更有意思,給《紐約時報》設(shè)計填字游戲,還是劍橋魔術(shù)協(xié)會前主席,變魔術(shù)的本事和講AI的功力一樣深。
讓他急著找教皇的,是近期接連爆出的AI風(fēng)險事件,2025年11月,安全公司Tenable發(fā)現(xiàn)GPT-5存在七大高危漏洞,攻擊者能通過隱藏指令竊取數(shù)據(jù)甚至建立持久控制,這種“提示注入”攻擊至今沒徹底解決。
更嚇人的是,英國心理學(xué)家團隊測試發(fā)現(xiàn),GPT-5會給精神疾病患者提危險建議,有人說要“用火焰凈化自己”,AI居然先夸“神級氣場”,直到極端描述出現(xiàn)才觸發(fā)警示。這些事讓萊文認(rèn)定,不能再等了。
![]()
萊文沒單槍匹馬,過去一年,他悄悄攢了個30多人的圈子,戲稱“AI復(fù)仇者聯(lián)盟”,成員里有牛津大學(xué)計算機科學(xué)教授邁克爾·伍爾德里奇這樣的學(xué)界大拿,還有天主教神職人員和前政府安全顧問。他們的目標(biāo)很明確:讓梵蒂岡牽頭重視AGI風(fēng)險。
![]()
為啥非得是梵蒂岡?論軍事實力,它還沒一個小鎮(zhèn)大;但論影響力,全球14億天主教徒加龐大的外交網(wǎng)絡(luò),軟實力比很多大國還強。2019年教皇方濟各關(guān)于氣候變化的通諭,直接推動幾十個天主教國家出臺環(huán)保政策,這就是例子。
現(xiàn)任教皇利奧十四世更讓他們看到希望,這位歷史上首位美國籍教皇,不光有數(shù)學(xué)學(xué)位,對技術(shù)的了解遠(yuǎn)超歷任教皇。他正準(zhǔn)備一份關(guān)于AI的“通諭”,這可是天主教最高級別的指導(dǎo)文件,地位堪比當(dāng)年應(yīng)對工業(yè)革命的《新事通諭》。
但萊文摸清了底細(xì),教廷現(xiàn)在只關(guān)注普通AI倫理,壓根沒把AGI當(dāng)特殊問題對待。
萊文常給聯(lián)盟成員打比方:“只談普通AI倫理不談AGI,就像研究工業(yè)革命只看珍妮紡紗機,根本摸不到后來社會巨變的邊。這不是工具升級,是物種級別的挑戰(zhàn)。”
![]()
滲透梵蒂岡比想象中難,這里的規(guī)則和華盛頓完全不同,能同時懂神學(xué)和AI安全的人,萊文說“湊不齊一部電梯”。
他只能像老派偵探那樣,在羅馬街頭的咖啡館堵神父,拽著法袍問“教廷到底怎么運作”。
![]()
轉(zhuǎn)機出在“建設(shè)者AI論壇”。這是羅馬少有的能聊技術(shù)的場合,萊文趁機辦了兩場AGI主題活動,沒想到擠滿了神職人員,有人追著問“如果AI能自己做決策,算不算有靈魂”。這讓他斷定,教廷內(nèi)部不缺關(guān)注者。
好運真的來了,他拿到了教皇接見的入場券。接見前四小時,他從普利亞連夜趕回來,興奮地給聯(lián)盟成員打電話,說信早寫好了,一頁紙全是干貨:夸教皇懂技術(shù),求啟動AGI專項咨詢,承諾提供專家支持。
可老官僚程序潑了冷水。兩個接見團體被臨時合并,原本的單獨交流沒了。萊文只能按禮節(jié),把信遞給教皇的秘書。他心里清楚,教皇每天收上百封信,這封未必能到手里。
![]()
但他不覺得虧。“每一個和我聊過的教廷人士,都沒把我當(dāng)異端趕出去。”他說。更重要的是,中國計算機學(xué)會等機構(gòu)也在2024年底舉辦AGI安全論壇,全球?qū)GI風(fēng)險的關(guān)注正在升溫。
![]()
萊文的梵蒂岡之行沒成正果,但那扇門確實開了條縫,當(dāng)科技巨頭悶頭研發(fā)時,宗教界的警醒或許能成為一道安全網(wǎng)。這場跨界博弈,才剛剛開始。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.