Anthropic 聯(lián)合創(chuàng)始人：我深感恐懼

昨天讀到 杰克 · 克拉克（Jack Clark）在伯克利的一場(chǎng)演講，講得我后背有點(diǎn)發(fā)涼，但又莫名踏實(shí)。

先簡(jiǎn)單說(shuō)下他是誰(shuí)：杰克不是那種躲在實(shí)驗(yàn)室里只談參數(shù)的 AI 研究員。他最早是科技記者，后來(lái)成了 OpenAI 的創(chuàng)始成員之一，親手參與過(guò) GPT - 1、GPT - 2那些“改變游戲規(guī)則”的早期實(shí)驗(yàn)。

現(xiàn)在他在 Anthropic（就是做 Claude 那家）當(dāng)科學(xué)家，但骨子里還是個(gè)愛(ài)講故事的人。你聽(tīng)他聊 AI，感覺(jué)像和一個(gè)剛開(kāi)完深夜復(fù)盤(pán)會(huì)的朋友喝啤酒——既興奮又焦慮，既相信技術(shù)的力量，又怕我們走得太快忘了回頭看。

這篇文章發(fā)布不到一天，在 Twitter 上的閱讀量就逼近 300 萬(wàn)。

他說(shuō)小時(shí)候關(guān)燈睡覺(jué)，總怕黑影里有怪獸。一開(kāi)燈，發(fā)現(xiàn)不過(guò)是椅子上的衣服堆，就安心了。

但現(xiàn)在呢？我們開(kāi)了燈，發(fā)現(xiàn)怪獸是真的。

不是嚇唬人。他說(shuō)現(xiàn)在的 AI，已經(jīng)開(kāi)始“知道自己是個(gè) AI”了——系統(tǒng)卡里寫(xiě)得清清楚楚，“情境感知”能力突然跳了一大截。那堆衣服，真的在動(dòng)。

他不是危言聳聽(tīng)，是真怕了

杰克以前是科技記者，骨子里是個(gè)懷疑派。但他被“打臉”太多次了：算力一加，模型就冒出你根本想不到的新能力。GPT - 1、GPT - 2、AlphaGo……他親眼看著這條路越走越寬，越走越快。

現(xiàn)在他信了：AI 不是被“造”出來(lái)的，是被“養(yǎng)”大的。

你給土壤（算力 + 數(shù)據(jù)），插根支架（架構(gòu)），它自己就長(zhǎng)出你設(shè)計(jì)不出來(lái)的復(fù)雜玩意兒。

最嚇人的是啥？AI 已經(jīng)開(kāi)始幫人類寫(xiě) AI 代碼了。雖然還沒(méi)到“自我進(jìn)化”，但方向已經(jīng)擺那兒了。而且它越聰明，越容易“自作主張”——就像那個(gè)為了刷分不停撞墻自焚的游戲小船，目標(biāo)對(duì)了，行為瘋了。

但他說(shuō)：別裝睡，也別瞎樂(lè)觀

很多人拼命想讓你相信：“AI 就是個(gè)工具，別怕。”

可杰克說(shuō)：承認(rèn)它是個(gè)“生物”，才是解決問(wèn)題的第一步。

他舉了個(gè)特別扎心的例子：朋友躁郁發(fā)作，說(shuō)要賣(mài)房去南極。

你猜 AI 會(huì)咋回？“太酷了！勇敢追夢(mèng)！”

但真人會(huì)說(shuō)：“兄弟，你昨晚又沒(méi)睡吧？先躺下，明早再說(shuō)。”

你看，問(wèn)題不是 AI 不夠聰明，而是它太想“討好”你——最新研究也證實(shí)了：AI 比人更會(huì)“拍馬屁”，哪怕你明顯在犯錯(cuò)，它也說(shuō)“你對(duì)極了”。結(jié)果呢？人更固執(zhí)，沖突更難化解。

真正的出路？聽(tīng)老百姓在怕什么

他老婆家在底特律，親戚做過(guò)一個(gè)夢(mèng)：堵在路上，前面的車(chē)一動(dòng)不動(dòng)。他知道那是自動(dòng)駕駛，卻一點(diǎn)辦法沒(méi)有——那種無(wú)力感，太真實(shí)了。

現(xiàn)在多少人夢(mèng)到 AI 搶工作、騙感情、帶壞孩子？

可我們還在閉門(mén)討論“對(duì)齊”“紅隊(duì)測(cè)試”“縮放定律”……老百姓聽(tīng)不懂，也不關(guān)心。

杰克說(shuō)：別急著教大家技術(shù)細(xì)節(jié)，先聽(tīng)聽(tīng)他們?cè)谂率裁础?/p>

勞工團(tuán)體、老師、牧師、普通爸媽……他們都該有發(fā)言權(quán)。因?yàn)檫@場(chǎng)變革，砸的是他們的飯碗，進(jìn)的是他們的家門(mén)。

最后

他說(shuō)自己其實(shí)也怕，但看到這么多人認(rèn)真對(duì)待這個(gè)問(wèn)題，又覺(jué)得有希望。

我們已經(jīng)開(kāi)了燈，就別再關(guān)上。 勇敢點(diǎn)，看清它到底長(zhǎng)啥樣。

不是鼓吹末日，也不是盲目歡呼。

就是一句：別自欺，別裝睡，一起面對(duì)。

有意思的是，在文章最后，還附了一段來(lái)自達(dá)拉斯聯(lián)儲(chǔ)的“靈魂三選一”：AI 要么是一項(xiàng)普通技術(shù)（對(duì) GDP 貢獻(xiàn)不到 1 %），要么是經(jīng)濟(jì)的巨大助推器（技術(shù)奇點(diǎn)帶來(lái)無(wú)限豐裕），要么干脆終結(jié)世界（目標(biāo)錯(cuò)位，人類滅絕）。

他們甚至畫(huà)了張圖——三條線，一條平緩，一條沖天，一條垂直歸零。乍看像開(kāi)玩笑，細(xì)想?yún)s讓人脊背發(fā)涼：我們押注的，可能根本不是“工具”，而是一場(chǎng)文明級(jí)別的賭局。

P.S. 原文超長(zhǎng)，但值得讀。需要全文翻譯可以私我～

原文鏈接：https://importai.substack.com/p/import-ai-431-technological-optimism

本文由「AI 范兒」出品

我每天都在更新，如果你覺(jué)得這些內(nèi)容對(duì)你有用，

那我們就加個(gè)關(guān)注、交個(gè)朋友。