英偉達(dá)放大招！發(fā)布最強(qiáng)RNA基礎(chǔ)模型，1.3億蛋白質(zhì)序列訓(xùn)練，聯(lián)手扎克伯格啟動(dòng)「虛擬細(xì)胞」計(jì)劃！

英偉達(dá)殺瘋了！

“AI界春晚”英偉達(dá)GTC大會(huì)同一天，英偉達(dá)發(fā)布了一款生物學(xué)模型CodonFM。

作為當(dāng)前最先進(jìn)的RNA基礎(chǔ)模型，不僅填補(bǔ)了基因“同義突變”的空白，還可用于mRNA醫(yī)療研發(fā)、基因療法和個(gè)性化醫(yī)學(xué)。

英偉達(dá)稱，人類已經(jīng)邁向可編程生物學(xué)。

目前CodonFM已開(kāi)源發(fā)布，供研究和商業(yè)用途免費(fèi)使用，以促進(jìn)開(kāi)放合作和創(chuàng)新。

一個(gè)轉(zhuǎn)錄組尺度的基礎(chǔ)模型是AI和分子生物學(xué)之間的橋梁，意味著我們將邁向精確的、數(shù)據(jù)驅(qū)動(dòng)的編輯和治療設(shè)計(jì)。

不止如此，英偉達(dá)還宣布了一項(xiàng)宏偉的計(jì)劃：英偉達(dá)虛擬細(xì)胞（ NVIDIA Virtual Cell ），并和陳-扎克伯格倡議（CZI）達(dá)成深度合作。

CodonFM將成為其中的基礎(chǔ)模型，最終有望改變整個(gè)AI生物學(xué)的格局。

最新RNA基礎(chǔ)大模型

眾所周知，DNA和RNA都是重要的遺傳物質(zhì)。

密碼子（codon），即信使RNA鏈上決定一個(gè)氨基酸的相鄰的三個(gè)堿基，用來(lái)指示合成蛋白質(zhì)時(shí)應(yīng)該加入哪一種氨基酸，最終合成承擔(dān)一切生命活動(dòng)的蛋白質(zhì)。

長(zhǎng)期以來(lái)，密碼子的選擇對(duì)基因表達(dá)具有重要影響。

例如，在大腸桿菌中表達(dá)人類蛋白質(zhì)并進(jìn)行純化時(shí)，通常需要調(diào)整編碼序列，使其與細(xì)菌的密碼子偏好相匹配，從而實(shí)現(xiàn)高效翻譯。

圖：氨基酸密碼子表

然而，密碼子優(yōu)化的意義遠(yuǎn)不止于此。

盡管人類基因組整體上呈現(xiàn)特定的密碼子使用偏好，但不同基因或蛋白質(zhì)之間存在顯著差異，而這些差異往往與蛋白質(zhì)功能及組織特異性表達(dá)相關(guān)。

更重要的是，近年來(lái)由密碼子改變引發(fā)的“同義突變”，被認(rèn)為是疾病的隱形推手。

于是，英偉達(dá)聯(lián)合Arc研究所合作開(kāi)發(fā)了CodonFM，旨在揭示密碼子選擇背后的復(fù)雜語(yǔ)法。

該研究團(tuán)隊(duì)在來(lái)自超過(guò)20000個(gè)物種的超過(guò)1.3億個(gè)蛋白質(zhì)編碼序列上訓(xùn)練了兩種互補(bǔ)的模型架構(gòu)，處理了數(shù)千億個(gè)標(biāo)記。

CodonFM包含兩個(gè)互補(bǔ)的模型架構(gòu)——Encodon和Decodon。

Encodon是一個(gè)雙向編碼器模型，采用BERT架構(gòu)，能夠一次性處理整個(gè)序列，捕捉基因內(nèi)上游和下游的依賴關(guān)系，擅長(zhǎng)預(yù)測(cè)突變的功能效應(yīng)等需要理解整個(gè)序列上下文的任務(wù)。

Decodon則是一個(gè)自回歸解碼器模型，采用GPT架構(gòu)，根據(jù)前面的序列預(yù)測(cè)下一個(gè)密碼子，主要用于生成新的序列，如為治療優(yōu)化密碼子使用。

Encodon已經(jīng)發(fā)布，Decodon則預(yù)計(jì)于今年晚些時(shí)候發(fā)布。

這兩個(gè)模型在來(lái)自超過(guò)20000個(gè)物種的超過(guò)1.3億個(gè)蛋白質(zhì)編碼序列上進(jìn)行訓(xùn)練，處理了數(shù)千億個(gè)標(biāo)記。隨著模型參數(shù)規(guī)模的增大，從最初的7000萬(wàn)到9000萬(wàn)參數(shù)，到后來(lái)的6億、10億參數(shù)。

最終，模型在區(qū)分同義密碼子等任務(wù)上的性能顯著提升，且在多個(gè)基準(zhǔn)測(cè)試中超越了現(xiàn)有方法，實(shí)現(xiàn)了多倍的性能提升。

CodonFM還符合Scaling Law（縮放定律）。隨著模型和數(shù)據(jù)集大小的增加，模型在同義和錯(cuò)義變體分類、mRNA 翻譯效率和蛋白質(zhì)豐度預(yù)測(cè)等用例中的準(zhǔn)確性都會(huì)提高。

在生物任務(wù)測(cè)試中領(lǐng)先

因此，CodonFM 不僅適用于多種分子生物學(xué)和臨床研究場(chǎng)景，還能在零樣本（zero-shot）任務(wù)中展現(xiàn)廣泛的適用性。

突變效應(yīng)大小預(yù)測(cè)

由于CodonFM能夠編碼序列本身進(jìn)行建模，捕獲密碼子上下文、冗余和調(diào)控模式，而無(wú)需明確依賴蛋白質(zhì)結(jié)構(gòu)。

因此，模型能夠在檢測(cè)致病性錯(cuò)義突變方面實(shí)現(xiàn)強(qiáng)大的性能。

圖：破譯發(fā)育障礙（DDD） 病例與對(duì)照組中從頭錯(cuò)義變異的分類

更重要的是，CodonFM 將這種能力擴(kuò)展到解釋同義變體的更困難的問(wèn)題。同義突變使蛋白質(zhì)序列保持不變，并且歷史上一直沒(méi)有預(yù)測(cè)模型。

Encodon 能夠精準(zhǔn)檢測(cè)密碼子使用偏好與翻譯水平效應(yīng)的細(xì)微差異，并成功區(qū)分了ClinVar 數(shù)據(jù)庫(kù)中致病性與良性的同義變異，展現(xiàn)了其在解析沉默突變（同義突變）方面的獨(dú)特優(yōu)勢(shì)。

盡管理論上 DNA 模型可以學(xué)習(xí)這種語(yǔ)法，但實(shí)際上只有密碼子級(jí)模型才能捕獲不同位置不同同義密碼子選擇的值。

圖：ClinVar致病與良性數(shù)據(jù)集中同義變異的分類

mRNA療法設(shè)計(jì)

近年來(lái)，mRNA療法作為一種新興的療法迅速崛起，例如輝瑞的新冠疫苗就是mRNA生物制劑，巔峰時(shí)期年銷售額達(dá)360億美元。

然而，mRNA療法面臨一個(gè)關(guān)鍵難題：如何優(yōu)化核酸序列。

即便是微小的肽段或蛋白質(zhì)，也可能存在海量同義mRNA編碼可能——每一種序列變體都會(huì)對(duì)表達(dá)效率、穩(wěn)定性及免疫原性產(chǎn)生差異化影響。

而使用CodonFM優(yōu)化密碼子，可以在不改變蛋白質(zhì)序列的情況下，提高蛋白質(zhì)的表達(dá)和穩(wěn)定性，從而增強(qiáng)mRNA疫苗和治療的效果。

例如，優(yōu)化后的mRNA在細(xì)胞中的停留時(shí)間更長(zhǎng)，翻譯效率更高，使得蛋白質(zhì)產(chǎn)物的存在時(shí)間更長(zhǎng)，進(jìn)而提升疫苗的性能。

圖：密碼子級(jí)翻譯效率建模

老黃，盯上生命科學(xué)了

總結(jié)而言，CodonFM已經(jīng)成功學(xué)習(xí)了RNA密碼子的規(guī)則，并將其中的遺傳信息轉(zhuǎn)變?yōu)橐环N可編程語(yǔ)言。

英偉達(dá)稱，如今人類已經(jīng)邁向可編程生物學(xué)。

而CodonFM僅僅是英偉達(dá)一系列生物學(xué)模型的第一步，它還有個(gè)宏偉的計(jì)劃——打造虛擬細(xì)胞（AIVC）。

模型發(fā)布同一天，陳—扎克伯格倡議（CZI）宣布和英偉達(dá)擴(kuò)大合作伙伴關(guān)系，旨在通過(guò)推進(jìn)虛擬細(xì)胞模型徹底改變生命科學(xué)，這是一項(xiàng)旨在重新定義生物研究界限的開(kāi)創(chuàng)性舉措。

合作的核心是是將生物數(shù)據(jù)處理擴(kuò)展到 PB 級(jí)數(shù)據(jù)，涵蓋數(shù)十億個(gè)細(xì)胞觀察，從而實(shí)現(xiàn)下一代虛擬模型開(kāi)發(fā)，從而解鎖有關(guān)人類生物學(xué)的新見(jiàn)解。

虛擬細(xì)胞（AIVC），已成為AI生物學(xué)的下一個(gè)圣杯。

簡(jiǎn)單來(lái)說(shuō)，AI 虛擬細(xì)胞?是利用人工智能技術(shù)結(jié)合多模態(tài)組學(xué)數(shù)據(jù)，構(gòu)建的數(shù)字細(xì)胞，它能模擬、預(yù)測(cè)細(xì)胞行為和反映。

虛擬細(xì)胞的價(jià)值不僅在于技術(shù)突破，更在于其可能重構(gòu)生物醫(yī)學(xué)研究范式。

當(dāng)前，大多數(shù)生命活動(dòng)都是在細(xì)胞層面進(jìn)行的，如果AI能精準(zhǔn)模擬分子、細(xì)胞和組織的作用，則具有巨大的應(yīng)用前景。包括靶點(diǎn)發(fā)現(xiàn)、患者分層、藥物篩選等。

已經(jīng)有多家頂尖學(xué)術(shù)團(tuán)體，以及公司正在押注這個(gè)極為有前景的領(lǐng)域。

圖：虛擬細(xì)胞重要數(shù)據(jù)集與模型

毫無(wú)疑問(wèn)，市值已經(jīng)快站上5億美元的英偉達(dá)，將給該領(lǐng)域帶來(lái)極大的推動(dòng)力。

英偉達(dá)有頂級(jí)的計(jì)算能力、成熟的AI技術(shù)和開(kāi)放的平臺(tái)生態(tài)，正在將這一前景廣闊但挑戰(zhàn)巨大的研究領(lǐng)域，推向一個(gè)發(fā)展更快、開(kāi)放度更高的新階段。