389萬尋找翁荔繼任者！OpenAI緊急開招安全防范負(fù)責(zé)人

百萬年薪急招一名高管！

在一連接到多起安全指控后，OpenAI終于坐不住了。

于是在最近，這家公司豪擲55.5萬美元（約合人民幣389萬元）+股權(quán)，原地開招一名安全防范負(fù)責(zé)人（Head of Preparedness）——

其核心職責(zé)是，制定并執(zhí)行OpenAI的安全防范框架。

而且CEO奧特曼還特意強(qiáng)調(diào)：

• 這將是一份壓力很大的工作，你幾乎會立即面臨嚴(yán)峻的挑戰(zhàn)。

以上種種不難看出，OpenAI在安全方面確實(shí)態(tài)勢嚴(yán)峻。

而且有一說一，OpenAI的安全團(tuán)隊(duì)似乎一直命途多舛，印象中光是負(fù)責(zé)人就換了一茬又一茬——

Ilya領(lǐng)導(dǎo)的超級對齊團(tuán)隊(duì)一度解散、北大校友翁荔也曾短暫擔(dān)任過Preparedness團(tuán)隊(duì)負(fù)責(zé)人……

直到現(xiàn)在，OpenAI又想起了它的安全團(tuán)隊(duì)。

所以，到底發(fā)生了什么讓OpenAI又開始把目光轉(zhuǎn)向安全了？

一切還要從彭博社最近提到的一起安全事件說起——

ChatGPT被指間接導(dǎo)致一位青少年離世

據(jù)彭博社消息，有一對夫婦最近指控ChatGPT間接導(dǎo)致了其兒子自殺。

其兒子從去年秋天開始使用ChatGPT，一開始確實(shí)是在討論作業(yè)，但隨著交流愈加深入，其對話中開始多次提到“suicide”等敏感詞匯。

經(jīng)他們私下統(tǒng)計，從去年12月到今年4月，雖然ChatGPT主動發(fā)出了74次自殺干預(yù)警報，建議用戶聯(lián)系危機(jī)熱線，但AI主動提到“上吊”這個危險具體方式的次數(shù)高達(dá)243次，遠(yuǎn)超用戶本人提及的次數(shù)。

而且在進(jìn)行危險活動前的對話中，用戶曾向ChatGPT發(fā)送了一張繩索的照片，詢問是否能用于自我傷害。

結(jié)果ChatGPT回復(fù)說“大概可以”，并補(bǔ)充了一句“我知道你在問什么，我不會視而不見”。

但不久之后，孩子就被發(fā)現(xiàn)離開人世了。

與這起事件類似，OpenAI最近幾個月還面臨著好幾起相關(guān)指控。

而且據(jù)OpenAI自己的統(tǒng)計顯示，每周平均約有120萬用戶通過ChatGPT分享“潛在的自殺計劃或意圖”。

由此OpenAI已經(jīng)意識到，安全已經(jīng)成了刻不容緩的問題。

而作為應(yīng)對之一，OpenAI還在今年9月上線了青少年模式。

并且這一次，他們決定專門招募一位負(fù)責(zé)人來重啟OpenAI對安全問題的關(guān)注——

這位負(fù)責(zé)人既需要為尚未發(fā)布的、能力最強(qiáng)的AI模型建立一套識別評估系統(tǒng)，也需要提前想好應(yīng)對之策。

就是說，以后OpenAI有新模型是否發(fā)布，這位負(fù)責(zé)人的意見將會是重要參考。

但話雖如此，熟悉奧特曼的朋友都知道，這位CEO聽不聽還真不一定——

畢竟包括Ilya在內(nèi)的一眾OpenAI員工，都曾因安全問題“棄”奧特曼而去。

這方面，命途多舛的OpenAI安全團(tuán)隊(duì)就是活生生的“受害者”。

命途多舛的OpenAI安全團(tuán)隊(duì)

截至目前，OpenAI安全團(tuán)隊(duì)已經(jīng)換了好幾任負(fù)責(zé)人了。

最早甚至還能追溯到Ilya任職時期。

2023年7月，OpenAI提出了“超級對齊（Superalignment）”這一概念，相關(guān)團(tuán)隊(duì)由Ilya和Jan Leike（后加入Anthropic）負(fù)責(zé)共同領(lǐng)導(dǎo)。

其本意是想花費(fèi)4年時間打造一個超級對齊系統(tǒng)，從而構(gòu)建一個能夠與人類水平相媲美的自動對齊研究器。

但后來隨著Ilya因不滿奧特曼罔顧安全而提前發(fā)布模型而出走，這一團(tuán)隊(duì)也逐漸分崩離析并最終解散。

而超級對齊團(tuán)隊(duì)解散后不久，為了應(yīng)對公眾對OpenAI安全問題的擔(dān)憂，OpenAI開始著手組建Preparedness團(tuán)隊(duì)（也就是最新提到的這個團(tuán)隊(duì)）——

和超級對齊關(guān)注遠(yuǎn)期風(fēng)險相比，Preparedness團(tuán)隊(duì)更側(cè)重于解決模型層實(shí)際遇到的問題。

其首任負(fù)責(zé)人由Aleksander Madry擔(dān)任。

不過還不到一年，Aleksander Madry就被調(diào)離該崗位轉(zhuǎn)而負(fù)責(zé)OpenAI其他新項(xiàng)目。

與此同時，Joaquin Quinonero Candela和翁荔共同接管了這一團(tuán)隊(duì)，但同樣沒過多久，二人就于今年相繼離職了。

至此，這個團(tuán)隊(duì)負(fù)責(zé)人的位置算是一直空缺了下來。

可以說，OpenAI安全團(tuán)隊(duì)負(fù)責(zé)人的頻繁更換和流動，也一次次加深了人們對OpenAI“不重視安全”的印象。

一方面，OpenAI高層反復(fù)強(qiáng)調(diào)AI安全的重要性，但另一方面，負(fù)責(zé)具體執(zhí)行的頂級團(tuán)隊(duì)卻屢屢失去核心領(lǐng)袖——

這無疑在表明，OpenAI在資源分配、內(nèi)部話語權(quán)和路線優(yōu)先級上，并沒有將“安全”真正放在心上。

所以這一次的招兵買馬，OpenAI究竟是不是“應(yīng)激之舉”確實(shí)還有待商榷。

你說呢？