英偉達(dá)宣布推出價(jià)值3000美元的個(gè)人AI超級(jí)計(jì)算機(jī)Digits

如果您正在尋找自己的個(gè)人AI超級(jí)計(jì)算機(jī)，英偉達(dá)Nvidia可以滿(mǎn)足您的需求。
這家芯片制造商剛剛在CES上宣布，將于5月推出一款名為Project Digits的個(gè)人人工智能超級(jí)計(jì)算機(jī)。Project Digit的核心是新的GB10 Grace Blackwell Superchip，它具有足夠的處理能力來(lái)運(yùn)行復(fù)雜的人工智能模型，同時(shí)又足夠緊湊，可以放在桌子上并從標(biāo)準(zhǔn)電源插座運(yùn)行（這種處理能力過(guò)去常常需要更大、更耗電的系統(tǒng)）。這個(gè)系統(tǒng)可以處理多達(dá)2000億個(gè)參數(shù)的AI模型，起價(jià)為3000美元。該產(chǎn)品本身看起來(lái)很像Mac Mini。

英偉達(dá)首席執(zhí)行官黃仁勛在新聞稿中表示：“人工智能將成為每個(gè)行業(yè)每個(gè)應(yīng)用程序的主流。通過(guò)數(shù)字項(xiàng)目，Grace Blackwell超級(jí)芯片將惠及數(shù)百萬(wàn)開(kāi)發(fā)者。”。“將人工智能超級(jí)計(jì)算機(jī)放在每個(gè)數(shù)據(jù)科學(xué)家、人工智能研究人員和學(xué)生的桌子上，使他們能夠參與并塑造人工智能時(shí)代。”。

每個(gè)Project Digits系統(tǒng)都配備了128GB的統(tǒng)一連貫內(nèi)存（相比之下，一臺(tái)好的筆記本電腦可能有16GB或32GB的RAM）和高達(dá)4TB的NVMe存儲(chǔ)。對(duì)于要求更高的應(yīng)用程序，兩個(gè)Project Digits系統(tǒng)可以連接在一起，處理多達(dá)4050億個(gè)參數(shù)的模型（Meta的最佳模型Llama 3.1有4050億參數(shù)）。

GB10芯片以FP4精度提供高達(dá)1 petaflop的AI性能（這意味著它每秒可以執(zhí)行1千萬(wàn)億次AI計(jì)算），該系統(tǒng)采用Nvidia最新一代CUDA內(nèi)核和第五代Tensor內(nèi)核，通過(guò)NVLink-C2C連接到包含20個(gè)基于Arm的節(jié)能內(nèi)核的Grace CPU。以基于Arm的芯片設(shè)計(jì)而聞名的聯(lián)發(fā)科公司合作開(kāi)發(fā)了GB10，以?xún)?yōu)化其能效和性能。

用戶(hù)還可以訪(fǎng)問(wèn)英偉達(dá)的人工智能軟件庫(kù)，包括通過(guò)英偉達(dá)NGC目錄提供的開(kāi)發(fā)工具包、編排工具和預(yù)先訓(xùn)練的模型。該系統(tǒng)運(yùn)行在基于Linux的Nvidia DGX操作系統(tǒng)上，支持PyTorch、Python和Jupyter筆記本等流行框架。開(kāi)發(fā)人員可以使用英偉達(dá)NeMo框架對(duì)模型進(jìn)行微調(diào)，并使用英偉達(dá)RAPID庫(kù)加速數(shù)據(jù)科學(xué)工作流程。
用戶(hù)可以在Project Digits上本地開(kāi)發(fā)和測(cè)試他們的AI模型，然后使用相同的Grace Blackwell架構(gòu)和英偉達(dá) AI 企業(yè)軟件平臺(tái)將其部署到云服務(wù)或數(shù)據(jù)中心基礎(chǔ)設(shè)施。

Nvidia以相同的可訪(fǎng)問(wèn)性風(fēng)格提供了一系列類(lèi)似的設(shè)備——去年12月，它宣布推出一款售價(jià)249美元的Jetson計(jì)算機(jī)，用于人工智能應(yīng)用程序，面向業(yè)余愛(ài)好者和初創(chuàng)公司，名為Jetson Orin Nano Super（它可處理多達(dá)80億個(gè)參數(shù)的模型）。