![]()
智東西
作者 陳駿達(dá)
編輯 李水青
智東西1月21日報道,今天,知名華人AI研究員、xAI聯(lián)合創(chuàng)始人楊格(Greg Yang)在社交媒體上宣布,因罹患萊姆病,他決定退出xAI的日常事務(wù),轉(zhuǎn)為非正式顧問,把重心放在自己的健康上,真正進(jìn)入“創(chuàng)始人模式”,但這一次是為身體而戰(zhàn)。
![]()
▲楊格官宣退居二線的公開信(圖源:X平臺)
楊格是知名的數(shù)學(xué)家和AI研究員。在xAI和微軟研究院工作期間,他一直致力于數(shù)學(xué)基礎(chǔ)與深度學(xué)習(xí)理論方面的研究,是Grok的主要架構(gòu)師之一。
楊格畢業(yè)于哈佛大學(xué),獲得數(shù)學(xué)學(xué)士和計算機科學(xué)碩士學(xué)位。本科期間,他的導(dǎo)師是知名華人數(shù)學(xué)家、菲爾茲獎得主丘成桐。畢業(yè)后,他在包括丘成桐在內(nèi)的兩位菲爾茲獎得主推薦下,加入微軟研究院,直至2023年作為聯(lián)合創(chuàng)始人創(chuàng)辦xAI。
楊格離職的消息傳出后,馬斯克第一時間來到評論區(qū)問候,他希望楊格盡快好起來,并說道:“也許Grok能找到治療方法。”
![]()
▲馬斯克給楊格送上問候(圖源:X平臺)
也有不少xAI的“戰(zhàn)友們”來到評論區(qū)向楊格送上關(guān)心。xAI一向以高強度工作文化著稱,此前有網(wǎng)友在參觀xAI時曬出全員在辦公室搭帳篷過夜的畫面。
![]()
▲xAI辦公室里堆滿帳篷(圖源:X平臺)
在官宣推文中,楊格提到,自己可能很早就患上了萊姆病,但是在全力以赴創(chuàng)建xAI、長期透支身體、削弱免疫系統(tǒng)之后,癥狀才開始顯現(xiàn)。盡管有人勸說楊格“不該把自己逼得那么狠”,但他稱自己依然不后悔:“正是因為拼得夠狠,才更早發(fā)現(xiàn)了這個問題。”
一、兩度從哈佛休學(xué),本科期間認(rèn)定要做AGI
楊格出生于中國湖南省,之后輾轉(zhuǎn)廣州、北京等地,在國內(nèi)完成小學(xué)教育后前往美國德克薩斯州休斯敦就讀初中和高中,最后在哈佛學(xué)院(Harvard College,哈佛大學(xué)的本科教育學(xué)院)學(xué)習(xí)數(shù)學(xué)。
在哈佛學(xué)院的第二學(xué)年結(jié)束時,楊格決定休學(xué)并全身心投入音樂事業(yè),接下來的1年多時間里,他成為了一名電子舞曲制作人和DJ。正是在這一時期,他接觸到了AI的相關(guān)思想,并決定將實現(xiàn)AGI作為他人生的唯一目標(biāo)。
![]()
▲大學(xué)期間當(dāng)DJ的楊格
休學(xué)一年半后,楊格回到哈佛,出版了自己的第一篇論文,但他決定在大四春季學(xué)期又休學(xué)兩年。
在二次休學(xué)間,楊格迅速系統(tǒng)學(xué)習(xí)了數(shù)學(xué)和理論計算機科學(xué)的主要分支,并掌握了AI領(lǐng)域的前沿進(jìn)展,同時也在物理、生物學(xué)和神經(jīng)科學(xué)方面達(dá)到了熟練水平。
在這一階段,他癡迷于研究神經(jīng)圖靈機,并借鑒了可微拓?fù)鋵W(xué)中的思路,提出了“Lie Access Neural Turing Machine(基于李群訪問的神經(jīng)圖靈機)”,相關(guān)論文發(fā)表在ICLR上。
![]()
最終,在2017年,楊格加速完成剩余課程,獲得了哈佛大學(xué)的數(shù)學(xué)學(xué)士學(xué)位和計算機科學(xué)碩士學(xué)位。
二、隨機分配導(dǎo)師遇上丘成桐,學(xué)業(yè)事業(yè)都獲加持
在哈佛就讀期間,楊格不僅找到了自己熱愛的事業(yè),也遇到了一位對他人生經(jīng)歷產(chǎn)生重大影響的關(guān)鍵人物。
在2022年接受智源社區(qū)采訪時,楊格回憶道,每個學(xué)期,哈佛數(shù)學(xué)系會為每個學(xué)生隨機指定一位學(xué)術(shù)導(dǎo)師。二次休學(xué)歸來后,他的導(dǎo)師是獲得了1982年菲爾茲獎的知名數(shù)學(xué)家丘成桐。他稱,當(dāng)時他根本沒有意識到日后丘成桐帶來的影響。
由于看到了楊格的學(xué)術(shù)潛力,丘成桐開始帶他去參加很多學(xué)術(shù)活動,與博士生和研究者見面交流,甚至還推薦楊格申請摩根獎(Morgan Prize)——這是對本科數(shù)學(xué)家而言能夠獲得的最高榮譽。最終楊格獲得了提名。
丘成桐的推薦也影響了楊格的職業(yè)路徑。畢業(yè)前楊格原本申請了谷歌大腦的實習(xí),但最后offer遲遲未發(fā)放。丘成桐提議楊格試試微軟,并直接將他引薦給了當(dāng)時微軟的全球執(zhí)行副總裁沈向洋。
楊格還與當(dāng)時在微軟工作的另一位菲爾茨獎得主Michael Freedman建立聯(lián)系,二人因共同的研究興趣相談甚歡,Michael Freedman也向沈向洋推薦了楊格。
一周后,沈向洋向楊格發(fā)出了加入微軟的邀請:“有兩位菲爾茨獎得主推薦你,我要是再拒絕就顯得太傻了,不是嗎?”
三、主要研究張量程序,希望建立深度學(xué)習(xí)的“萬有理論”
2017年加入微軟后,楊格一直在微軟雷蒙德研究院工作。他的研究有一條貫穿始終的主線——一個名為Tensor Programs(張量程序)的理論框架,也就是用數(shù)學(xué)的語言,建立能夠描述和分析神經(jīng)網(wǎng)絡(luò)架構(gòu)的底層編程語言。
在個人網(wǎng)站中,楊格稱他的目標(biāo)是建立一個面向大規(guī)模深度學(xué)習(xí)的“萬有理論”,它能夠:告訴我們?nèi)绾我宰顑?yōu)方式擴展神經(jīng)網(wǎng)絡(luò)的規(guī)模,并為這些模型提供穩(wěn)健、可解釋的理論解釋,從而為安全性與對齊(alignment)研究提供指導(dǎo)。
這一理論是“超參數(shù)遷移(hyperparameter transfer)”范式的基礎(chǔ),使研究者能夠?qū)Υ笮蜕窠?jīng)網(wǎng)絡(luò)進(jìn)行高效調(diào)參,也就是讓在小模型上調(diào)好的訓(xùn)練參數(shù),可以“直接搬”到大模型上用。
在微軟研究院工作期間,楊格等人聯(lián)合OpenAI提出了μTransfer方法,能進(jìn)行高效的超參數(shù)調(diào)整。
不過,在2023年6月,楊格決定離開微軟,加入xAI追求AGI事業(yè)。在xAI任職期間,楊格將自己的μTransfer方法應(yīng)用于Grok的研究中。
以下是楊格在X平臺發(fā)布的公開信的完整編譯:
我一直在與萊姆病作斗爭。
(智東西注:萊姆病是一種主要由蜱蟲傳播的細(xì)菌感染,癥狀包括發(fā)熱、皮疹、關(guān)節(jié)痛。早期治療效果最好,可在幾周內(nèi)康復(fù),但是這一疾病很難發(fā)現(xiàn)。若未及時治療,細(xì)菌可侵入關(guān)節(jié)、神經(jīng)和心臟,導(dǎo)致關(guān)節(jié)炎、面癱、心律異常等長期并發(fā)癥)
從今天開始,我將從xAI的日常事務(wù)中退一步,轉(zhuǎn)為一個非正式的顧問角色,把重心放在自己的健康上,真正進(jìn)入“創(chuàng)始人模式”,但這一次是為身體而戰(zhàn)。
癥狀始于2025年初我生病的時候(可能是感冒、流感,或者新冠——我并不確定)。在“康復(fù)”后的幾周里,我清楚地感覺到自己精力下降、創(chuàng)造力變?nèi)酢⑿袆恿Σ蛔恪4撕螅业臓顟B(tài)時好時壞,但低谷一次比一次更低。
有時只是無意中吃錯了東西,就會讓我極度疲憊,需要好幾天才能恢復(fù)。鍛煉之后,全身都會虛弱好幾天。有一周時間,我每天睡12個小時,卻依然無法恢復(fù)體力。
萊姆病以難以診斷而聞名,但幸運的是,我有一位非常出色的醫(yī)生。他懷疑這些癥狀并非只是心理作用,而是免疫系統(tǒng)出了問題。經(jīng)過幾輪檢查和抽絲剝繭式的排查,最終發(fā)現(xiàn)我患有萊姆病。
這讓我非常意外,因為人們通常認(rèn)為萊姆病來自蜱蟲叮咬(叮咬處會呈現(xiàn)“靶心”樣的紅斑),但我完全不記得自己曾被叮過。更可能的情況是,我在很久以前就感染了萊姆病,只是在全力以赴創(chuàng)建xAI、長期透支身體、削弱免疫系統(tǒng)之后,癥狀才開始顯現(xiàn)。
總體來說,我反而覺得自己很幸運,能這么早發(fā)現(xiàn)問題。萊姆病是一種嚴(yán)重的疾病,隨著年齡增長會越來越難治療——很多人在五六十歲才發(fā)現(xiàn),治療難度要大得多。它也可能極其致殘,讓患者長期臥床不起。但幸運的是,我目前仍然可以正常生活,照顧好自己的日常起居。
所以,盡管有人說“你不該把自己逼得那么狠”,我依然不后悔。我正是因為拼得夠狠,才更早發(fā)現(xiàn)了這個問題。現(xiàn)在我可以把它治好,將來反彈時,也能把自己推得更遠(yuǎn)。
慢性萊姆病在醫(yī)學(xué)文獻(xiàn)和公眾認(rèn)知中都仍然缺乏充分理解。對患者來說,這往往是一場孤獨的戰(zhàn)斗。但我希望分享自己的經(jīng)歷,能讓這條路不再那么孤單。
結(jié)語:xAI頻現(xiàn)離職
2024年以來,xAI已有多名聯(lián)合創(chuàng)始人離職,分別為Kyle Kosic(24年4月)、Christian Szegedy(25年2月)和Igor Babuschkin(25年8月)。
雖然硅谷的人才流動頻繁也是正常現(xiàn)象,但聯(lián)創(chuàng)這一級別的人物離職,仍會引起外界對xAI組織內(nèi)部問題的猜測。再結(jié)合近期與Grok生成不當(dāng)內(nèi)容相關(guān)的爭議,xAI這一帶有馬斯克強烈個人色彩的AI獨角獸未來會如何發(fā)展,仍是未知數(shù)。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.