北京
人工智能公司Anthropic做了一件幾乎沒有企業(yè)會(huì)做的事：斥資數(shù)十億美元，在全球最火熱的賽道研發(fā)出一款性能遠(yuǎn)超競(jìng)品的模型，卻選擇不對(duì)外發(fā)布。這款名為Mythos的新模型展現(xiàn)出前所未有的網(wǎng)絡(luò)安全能力。它在OpenBSD這一以安全著稱的操作系統(tǒng)中找出了一個(gè)潛伏27年的漏洞；又在視頻編碼器FFmpeg中識(shí)別出一個(gè)存在16年的缺陷，這個(gè)問題曾躲過五百萬次自動(dòng)化安全測(cè)試的篩查。
然而，Anthropic并未出售該模型的使用權(quán)，而是發(fā)起“玻璃翼計(jì)劃”(Project Glasswing)，聯(lián)合亞馬遜、蘋果、微軟、CrowdStrike等公司組建防御聯(lián)盟，承諾投入1億美元的算力資源，并向美國聯(lián)邦機(jī)構(gòu)通報(bào)了相關(guān)風(fēng)險(xiǎn)。Mythos太過危險(xiǎn)，不宜公開部署；同時(shí)又太過重要，不能束之高閣。
Mythos或許是新生事物，但這種困境并不陌生。2009年，我與肯尼斯·奧耶(Kenneth Oye)和斯科特·莫爾(Scott Mohr)聯(lián)合發(fā)表了一篇關(guān)于合成生物學(xué)安全影響的論文。這一領(lǐng)域既可能催生新型生物武器，也能顯著增強(qiáng)生物防御能力，其核心挑戰(zhàn)與當(dāng)下如出一轍：強(qiáng)大的兩用技術(shù)在私營主體間擴(kuò)散，而技術(shù)發(fā)展初期，攻擊者往往比防御者更先受益。生物學(xué)家羅杰·布倫特(Roger Brent)將這一困境命名為“死亡陰影之谷”.......
繼續(xù)閱讀
全文共計(jì)2626字
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
