No.0278
Science Partner
Bring you to the side of science
![]()
導(dǎo) 讀
你得先認(rèn)識(shí)杰弗里·辛頓的這個(gè)得意門生,伊利亞·蘇茨克維這位“仙人”。
伊利亞·蘇茨克維,1986年生于蘇聯(lián)。發(fā)際線后退,雙眼深邃,說話時(shí)常停頓,眨眼斟酌詞語。在同行眼中,他可能是同輩中最有天賦的AI科學(xué)家。
他不是那種熱衷于聚光燈的人。他是那種會(huì)在實(shí)驗(yàn)室發(fā)現(xiàn)一個(gè)新論文、然后從椅子上跳起來跑過走廊對(duì)大家大喊“停下手里所有事,就是這個(gè)了!”的那種人。2017年他在辦公室讀到谷歌的Transformer論文時(shí),就干了這件事。而那篇論文,正是今天所有大語言模型的技術(shù)基礎(chǔ)。
這樣一個(gè)人,為什么要花時(shí)間整理70頁文件,彈劾自己的老朋友兼老板奧特曼呢?
走,跟伙伴君來!
今日主筆 | 恒意
杰弗里·辛頓愛徒的70頁文件:AI第一科學(xué)家為何反目
01. 答案在于他真的相信
了解伊利亞,首先要理解他的世界觀。
他真的相信:人類正在制造一種可能比任何核武器都危險(xiǎn)的東西。不是假裝相信,不是為了融資說說漂亮話,是真的、骨子里相信。他在OpenAI的早期曾對(duì)新員工說:“你們將拯救世界。”不是比喻,是字面意思。
隨著公司規(guī)模的擴(kuò)大,隨著模型一代比一代強(qiáng),他越來越確信AGI的到來不再遙遠(yuǎn)。而與此同時(shí),他越來越懷疑:掌控這項(xiàng)技術(shù)的那個(gè)人,是否配得上這份責(zé)任。
他對(duì)其他董事說了一句話,后來成為這篇《紐約客》報(bào)道的核心引述:“我認(rèn)為山姆不該是那個(gè)手握決策按鈕的人。”
02. 那70頁里寫了什么
伊利亞約請(qǐng)了志同道合的同事,花數(shù)周時(shí)間,整理了約70頁的材料:Slack聊天記錄、人力資源文件、相關(guān)說明文字。有些圖片明顯是用手機(jī)拍攝的,顯然是為了避免在公司設(shè)備上留下痕跡。
這份文件以閱后即焚的消息形式發(fā)送給其他董事。一名收到備忘錄的董事回憶:“他當(dāng)時(shí)極度恐懼。”
這份文件是指控奧特曼的,用最簡(jiǎn)潔的話說,就是兩個(gè)字:撒謊。有一份備忘錄開頭列了一個(gè)清單,標(biāo)題是“山姆一貫表現(xiàn)出……”,第一條就是“撒謊”。具體指控包括:向高管和董事歪曲事實(shí);在內(nèi)部安全規(guī)程上欺騙董事會(huì);就安全審批狀態(tài)做出虛假聲明;向不同人做出相互矛盾的承諾。
03. 其實(shí),還有另一份文件
伊利亞的文件在硅谷被直接稱為“伊利亞備忘錄”,廣為流傳。
但《紐約客》的調(diào)查其實(shí)還披露了另一份此前從未公開的文件:達(dá)里奧·阿莫迪(Dario Amodei)在OpenAI任職期間寫下的200多頁私人筆記,標(biāo)題叫《我與OpenAI的經(jīng)歷》,副標(biāo)題赫然寫著私密,請(qǐng)勿分享。
阿莫迪是誰?他是OpenAI的前研究負(fù)責(zé)人,后來離職創(chuàng)立了Anthropic,研發(fā)了Claude系列AI工具,現(xiàn)在OpenAI旗下GPT最強(qiáng)勁的競(jìng)爭(zhēng)對(duì)手。
兩個(gè)人,各自獨(dú)立、沒有密謀,卻得出了幾乎相同的結(jié)論。阿莫迪在筆記里直接寫道:“OpenAI最大的問題,就是山姆本人。”
04. 為什么沒有人在當(dāng)時(shí)阻止他?
這是這個(gè)故事最讓人不舒服的地方。
這些擔(dān)憂不是突然冒出來的。早在Loopt時(shí)代,奧特曼的早期員工就觀察到他模糊”我或許能做成這件事“和”我已經(jīng)做成了這件事“的界限。一名曾受投資者委托擔(dān)任其監(jiān)護(hù)人的資深員工甚至說,極端情況下這會(huì)釀成Theranos那樣的騙局(Theranos是硅谷歷史上最臭名昭著的詐騙案)。但奧特曼每次都能把關(guān)鍵人留住,把反對(duì)者化解,在關(guān)鍵時(shí)刻找到足夠多的盟友。
伊利亞自己,最終也在那場(chǎng)“政變”最關(guān)鍵的時(shí)刻動(dòng)搖了,因?yàn)樗庾R(shí)到:如果奧特曼不復(fù)職,OpenAI將會(huì)覆滅。他為了保住這家公司,親手瓦解了自己精心策劃的彈劾。這或許是整個(gè)故事里最令人唏噓的細(xì)節(jié)。那么,一個(gè)真問題是,后來事實(shí)到底證明了,誰才是那個(gè)謊言的人呢?
我是恒意,咱們明天繼續(xù)聊~有了解事情原委的伙伴,歡迎在評(píng)論區(qū)留言呀~
![]()
曾經(jīng)是親密伙伴的奧特曼(左)和 蘇茨克維 (右)
本文僅作科普分享使用,歡迎小伙伴們點(diǎn)、收藏、關(guān)注,以備不時(shí)之需,當(dāng)然更歡迎您把 介紹給周邊可能需要的更多伙伴們呀。
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.