《硅谷最危險(xiǎn)的人》七期連載系列之第二期｜杰弗里·辛頓愛徒的70頁文件：AI第一科學(xué)家為何反目

No.0278

Science Partner

Bring you to the side of science

導(dǎo) 讀

你得先認(rèn)識(shí)杰弗里·辛頓的這個(gè)得意門生，伊利亞·蘇茨克維這位“仙人”。

伊利亞·蘇茨克維，1986年生于蘇聯(lián)。發(fā)際線后退，雙眼深邃，說話時(shí)常停頓，眨眼斟酌詞語。在同行眼中，他可能是同輩中最有天賦的AI科學(xué)家。

他不是那種熱衷于聚光燈的人。他是那種會(huì)在實(shí)驗(yàn)室發(fā)現(xiàn)一個(gè)新論文、然后從椅子上跳起來跑過走廊對(duì)大家大喊“停下手里所有事，就是這個(gè)了！”的那種人。2017年他在辦公室讀到谷歌的Transformer論文時(shí)，就干了這件事。而那篇論文，正是今天所有大語言模型的技術(shù)基礎(chǔ)。

這樣一個(gè)人，為什么要花時(shí)間整理70頁文件，彈劾自己的老朋友兼老板奧特曼呢？

走，跟伙伴君來！

今日主筆 | 恒意

杰弗里·辛頓愛徒的70頁文件：AI第一科學(xué)家為何反目

01. 答案在于他真的相信

了解伊利亞，首先要理解他的世界觀。

他真的相信：人類正在制造一種可能比任何核武器都危險(xiǎn)的東西。不是假裝相信，不是為了融資說說漂亮話，是真的、骨子里相信。他在OpenAI的早期曾對(duì)新員工說：“你們將拯救世界。”不是比喻，是字面意思。

隨著公司規(guī)模的擴(kuò)大，隨著模型一代比一代強(qiáng)，他越來越確信AGI的到來不再遙遠(yuǎn)。而與此同時(shí)，他越來越懷疑：掌控這項(xiàng)技術(shù)的那個(gè)人，是否配得上這份責(zé)任。

他對(duì)其他董事說了一句話，后來成為這篇《紐約客》報(bào)道的核心引述：“我認(rèn)為山姆不該是那個(gè)手握決策按鈕的人。”

02. 那70頁里寫了什么

伊利亞約請(qǐng)了志同道合的同事，花數(shù)周時(shí)間，整理了約70頁的材料：Slack聊天記錄、人力資源文件、相關(guān)說明文字。有些圖片明顯是用手機(jī)拍攝的，顯然是為了避免在公司設(shè)備上留下痕跡。

這份文件以閱后即焚的消息形式發(fā)送給其他董事。一名收到備忘錄的董事回憶：“他當(dāng)時(shí)極度恐懼。”

這份文件是指控奧特曼的，用最簡(jiǎn)潔的話說，就是兩個(gè)字：撒謊。有一份備忘錄開頭列了一個(gè)清單，標(biāo)題是“山姆一貫表現(xiàn)出……”，第一條就是“撒謊”。具體指控包括：向高管和董事歪曲事實(shí)；在內(nèi)部安全規(guī)程上欺騙董事會(huì)；就安全審批狀態(tài)做出虛假聲明；向不同人做出相互矛盾的承諾。

03. 其實(shí)，還有另一份文件

伊利亞的文件在硅谷被直接稱為“伊利亞備忘錄”，廣為流傳。

但《紐約客》的調(diào)查其實(shí)還披露了另一份此前從未公開的文件：達(dá)里奧·阿莫迪（Dario Amodei）在OpenAI任職期間寫下的200多頁私人筆記，標(biāo)題叫《我與OpenAI的經(jīng)歷》，副標(biāo)題赫然寫著私密，請(qǐng)勿分享。

阿莫迪是誰？他是OpenAI的前研究負(fù)責(zé)人，后來離職創(chuàng)立了Anthropic，研發(fā)了Claude系列AI工具，現(xiàn)在OpenAI旗下GPT最強(qiáng)勁的競(jìng)爭(zhēng)對(duì)手。

兩個(gè)人，各自獨(dú)立、沒有密謀，卻得出了幾乎相同的結(jié)論。阿莫迪在筆記里直接寫道：“OpenAI最大的問題，就是山姆本人。”

04. 為什么沒有人在當(dāng)時(shí)阻止他？

這是這個(gè)故事最讓人不舒服的地方。

這些擔(dān)憂不是突然冒出來的。早在Loopt時(shí)代，奧特曼的早期員工就觀察到他模糊”我或許能做成這件事“和”我已經(jīng)做成了這件事“的界限。一名曾受投資者委托擔(dān)任其監(jiān)護(hù)人的資深員工甚至說，極端情況下這會(huì)釀成Theranos那樣的騙局（Theranos是硅谷歷史上最臭名昭著的詐騙案）。但奧特曼每次都能把關(guān)鍵人留住，把反對(duì)者化解，在關(guān)鍵時(shí)刻找到足夠多的盟友。

伊利亞自己，最終也在那場(chǎng)“政變”最關(guān)鍵的時(shí)刻動(dòng)搖了，因?yàn)樗庾R(shí)到：如果奧特曼不復(fù)職，OpenAI將會(huì)覆滅。他為了保住這家公司，親手瓦解了自己精心策劃的彈劾。這或許是整個(gè)故事里最令人唏噓的細(xì)節(jié)。那么，一個(gè)真問題是，后來事實(shí)到底證明了，誰才是那個(gè)謊言的人呢？

我是恒意，咱們明天繼續(xù)聊～有了解事情原委的伙伴，歡迎在評(píng)論區(qū)留言呀～

曾經(jīng)是親密伙伴的奧特曼（左）和 蘇茨克維 （右）

本文僅作科普分享使用，歡迎小伙伴們點(diǎn)、收藏、關(guān)注，以備不時(shí)之需，當(dāng)然更歡迎您把 介紹給周邊可能需要的更多伙伴們呀。