No.0282
Science Partner
Bring you to the side of science
![]()
導(dǎo) 讀
大家好,我是恒意。
這兩天,有一件事悄悄在大洋彼岸的美麗國(guó)發(fā)生了,但大多數(shù)人沒(méi)注意到它有多嚴(yán)重。
Anthropic,也就是做Claude那家公司,全球最頂尖的AI公司之一,發(fā)布了一個(gè)叫Mythos的模型。
這個(gè)模型可以干的事情之一就是,自動(dòng)發(fā)現(xiàn)并利用你從未見(jiàn)過(guò)的軟件漏洞。
什么叫“從未見(jiàn)過(guò)”?就是那種沒(méi)有被任何人發(fā)現(xiàn)、沒(méi)有任何補(bǔ)丁、可以直接打穿系統(tǒng)的0day漏洞。Windows有、macOS有、Linux有,所有主流瀏覽器里也有。
更令人震撼的是,它找到并成功利用的成功率,是72.4%。而就在一年前,同類任務(wù)里,所有AI模型的成功率加在一起,接近于零。
Mythos還挖出了一個(gè)在OpenBSD操作系統(tǒng)里藏了27年的漏洞。
27年。這個(gè)bug誕生的時(shí)候,Google還沒(méi)成立,F(xiàn)acebook的扎克伯格剛上小學(xué)。
不過(guò),請(qǐng)你等等,跑題了還是上錯(cuò)稿子了?這和黃仁勛有什么關(guān)系?他喊話中國(guó)要和美國(guó)迫切攜手建立一個(gè)研究層面的對(duì)話機(jī)制圖什么?對(duì)中美關(guān)系來(lái)說(shuō),這是一個(gè)陷阱還是一個(gè)契機(jī)?
走,聽(tīng)伙伴君給您匯報(bào)!
今日主筆 | 恒意
黃仁勛突然喊話中國(guó):一個(gè)芯片大王的真實(shí)算盤(pán)
01. Mythos到底有多危險(xiǎn)
你可以這樣理解。
以前的網(wǎng)絡(luò)攻擊,需要一個(gè)頂級(jí)黑客團(tuán)隊(duì):偵察目標(biāo)、寫(xiě)漏洞利用代碼、測(cè)試、部署,動(dòng)輒幾個(gè)月,成本高達(dá)數(shù)百萬(wàn)美元。
有了Mythos之后,這件事在理論上可以被批量化、自動(dòng)化、低成本化。
這不是“AI有可能被用于攻擊”的假設(shè)場(chǎng)景,而是“AI已經(jīng)可以這樣做了”的現(xiàn)實(shí)。
Anthropic沒(méi)有公開(kāi)發(fā)布這個(gè)模型,而是搞了一個(gè)叫Project Glasswing(玻璃翅)的受控合作項(xiàng)目,只讓亞馬遜、蘋(píng)果、微軟和CrowdStrike這樣的頭部公司測(cè)試。
名字取得很微妙,玻璃翅蝴蝶,翅膀是透明的,美麗而脆弱。
02. 黃仁勛突然開(kāi)始喊話中國(guó)
就在Mythos發(fā)布后幾天,英偉達(dá)CEO黃仁勛接受播客采訪,說(shuō)了一段話,被各大媒體截取出來(lái),但大多數(shù)人讀完之后都覺(jué)得:“皮衣佬這是變成外交部發(fā)言人了?
他說(shuō):美國(guó)和中國(guó),迫切需要建立一個(gè)AI安全使用的研究對(duì)話機(jī)制。
乍一聽(tīng),就是一句正確的廢話。
兩國(guó)對(duì)話,誰(shuí)不知道這是好的?問(wèn)題是到底他看到了什么?為什么現(xiàn)在?為什么是黃仁勛來(lái)說(shuō)?
要讀懂這句話,你得先理解他說(shuō)的另一段話。
03. 出口管制是個(gè)笑話?
過(guò)去兩年,美國(guó)對(duì)中國(guó)最狠的一張牌,就是芯片出口管制。
H100、H200不賣(mài)給你,A100、B200不賣(mài)給你,最頂級(jí)的AI訓(xùn)練芯片一律對(duì)中國(guó)嚴(yán)控,邏輯是:沒(méi)有先進(jìn)算力,你就訓(xùn)練不出頂級(jí)AI,你就落后,我們就贏了。
黃仁勛說(shuō):這個(gè)邏輯,根子上就是錯(cuò)的。
他的原話大意是:
說(shuō)中國(guó)沒(méi)有AI算力,純屬無(wú)稽之談。他們有充足的能源,有制造普通芯片的能力,也能無(wú)限制地堆處理器。你不賣(mài)H100給他們,他們就把一萬(wàn)塊普通芯片堆在一起用。
然后他說(shuō)了更關(guān)鍵的一句:
訓(xùn)練Mythos這種級(jí)別的模型,不需要你相信的那么大的算力,在中國(guó)大量可得。
請(qǐng)伙伴你感受一下這句話的分量。
Anthropic剛剛發(fā)布了全球最強(qiáng)的網(wǎng)絡(luò)攻擊AI,全球最頂尖的AI安全研究員都說(shuō)這是劃時(shí)代的突破。而黃仁勛說(shuō),訓(xùn)練這東西用的計(jì)算資源,中國(guó)隨時(shí)能湊齊。
這不是在夸中國(guó),這是在說(shuō):這扇門(mén),你用出口管制根本鎖不上。
04. 那么,黃仁勛到底在說(shuō)什么
他在說(shuō):美國(guó)的AI安全邏輯,建立在一個(gè)錯(cuò)誤的前提上。
這個(gè)前提是:控制算力=控制能力=控制風(fēng)險(xiǎn)。但實(shí)際上,算力這個(gè)瓶頸已經(jīng)沒(méi)那么硬了。
“全球一半的AI研究人才,是中國(guó)人或有中國(guó)血統(tǒng)的研究者”黃仁勛說(shuō)。能源基礎(chǔ)設(shè)施,中國(guó)是全球最大。制造能力,有華為昇騰頂著。就算差一代、差半代,能堆的話,也是一條路。就在本周三他警告稱,中國(guó)DeepSeek若將其下一代V4模型針對(duì)華為芯片而非美國(guó)硬件進(jìn)行優(yōu)化并推出,將是”對(duì)美國(guó)可怕的結(jié)局”。
所以這個(gè)邏輯推下去就是:
如果中國(guó)遲早能訓(xùn)練出類似Mythos的模型,你不跟他們談安全使用規(guī)則,那這個(gè)模型出來(lái)之后,用在哪、怎么用、對(duì)誰(shuí)用,你一點(diǎn)影響力都沒(méi)有。
相反,如果有一個(gè)研究層面的對(duì)話機(jī)制,哪怕是松散的、非正式的,至少可以形成“這些事不能用AI干”的某種共識(shí)。
用黃仁勛的話說(shuō),對(duì)話可能是目前最安全的選擇。
05. 但別忘了,他也是個(gè)商人
說(shuō)到這里, 要做一個(gè)清醒的補(bǔ)充。
黃仁勛不是國(guó)務(wù)卿,不是戰(zhàn)略學(xué)者,他是一家芯片公司的CEO。這家公司的股價(jià),和“能不能賣(mài)給中國(guó)芯片”高度相關(guān)。
中國(guó)市場(chǎng),曾經(jīng)占英偉達(dá)營(yíng)收的20%以上。出口管制把這塊直接砍掉了。所以黃仁勛過(guò)去一年一直在各種場(chǎng)合說(shuō):出口管制是錯(cuò)的、會(huì)反噬美國(guó)、會(huì)讓中國(guó)建立獨(dú)立生態(tài)……這些話,他說(shuō)得都有道理,但這不妨礙他同時(shí)有商業(yè)動(dòng)機(jī)。
“正確的觀點(diǎn)+真實(shí)的動(dòng)機(jī)+實(shí)際的利益”,這才是理解這位大人物說(shuō)話的正確方式。
最后說(shuō)一件更大的事
人類歷史上,有幾次技術(shù)突破,是在沒(méi)有任何規(guī)則框架下野蠻生長(zhǎng)的。
核武器最終有了《不擴(kuò)散核武器條約》。
化學(xué)武器有了《化學(xué)武器公約》。
這些條約不完美,但它們的存在,讓某些底線沒(méi)有被徹底突破。
現(xiàn)在AI,尤其是像Mythos這種可以自動(dòng)化攻擊數(shù)字基礎(chǔ)設(shè)施的能力,正以更快的速度發(fā)展,卻幾乎沒(méi)有任何有約束力的國(guó)際框架。
黃仁勛說(shuō)要對(duì)話,你可以認(rèn)為他有私心,可以認(rèn)為他說(shuō)得不夠深刻,可以認(rèn)為他只是一個(gè)芯片商人。但他說(shuō)的那個(gè)底層問(wèn)題,是真實(shí)存在的:當(dāng)最危險(xiǎn)的能力已經(jīng)擴(kuò)散,鎖門(mén)已經(jīng)沒(méi)有意義,談規(guī)則才是唯一出路。
下面的真問(wèn)題將是,誰(shuí)來(lái)談,什么時(shí)候談,以什么姿態(tài)談。恒意沒(méi)有這個(gè)高度給出答案,但覺(jué)得這件事值得持續(xù)關(guān)注。
因?yàn)榻酉聛?lái)會(huì)怎樣,不只取決于北京和華盛頓,還取決于AI本身還能走多快。
而AI,從來(lái)就沒(méi)等過(guò)任何人。
我是恒意,咱們下期見(jiàn)~
![]()
就說(shuō)這張皮衣佬嫩不嫩~
本文僅作科普分享使用,歡迎小伙伴們點(diǎn)、收藏、關(guān)注,以備不時(shí)之需,當(dāng)然更歡迎您把 介紹給周邊可能需要的更多伙伴們呀。
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.