戴爾AI算力加速服務(wù)器“煥新上市”，打通AI落地行業(yè)最后一公里

今天，在人工智能的推動(dòng)下，企業(yè)數(shù)智化轉(zhuǎn)型已進(jìn)入規(guī)模化“倍增創(chuàng)新”的階段，尤其是以大模型為代表的AI技術(shù)加速演進(jìn)，以及應(yīng)用場景的不斷拓展加深，都讓各類AI創(chuàng)新應(yīng)用如雨后春筍般涌現(xiàn)，并加速惠及千行萬業(yè)。

但與此同時(shí)，AI大模型的火熱登場，也引爆了智能算力的需求。根據(jù)中國信通院發(fā)布的《中國算力發(fā)展指數(shù)白皮書（2023年）》顯示，在目前的算力規(guī)模中，通用算力規(guī)模占比達(dá)74%，智能算力規(guī)模占比達(dá)25%，同比增加60%，成為當(dāng)前算力快速增長的驅(qū)動(dòng)力，而預(yù)計(jì)未來幾年，智能算力的需求將比當(dāng)前呈現(xiàn)上百倍的增長。也正因此，企業(yè)如何根據(jù)業(yè)務(wù)場景和計(jì)算任務(wù)選擇最適合的算力方案，如何提升數(shù)據(jù)中心的整體能效，都讓算力基礎(chǔ)設(shè)施迎來了全新的挑戰(zhàn)。

不僅如此，根據(jù)戴爾科技最新的“創(chuàng)新催化劑”研究顯示，35%的受訪企業(yè)認(rèn)為在持續(xù)創(chuàng)新的路上缺乏專業(yè)人士指導(dǎo)，更有45%的受訪企業(yè)認(rèn)為在AI時(shí)代下，亟需能夠幫助其建議、實(shí)施、培訓(xùn)和擴(kuò)展AI到數(shù)據(jù)中的服務(wù)，以提高效率和運(yùn)營。從這個(gè)角度來說，企業(yè)在AI部署、數(shù)智化轉(zhuǎn)型的道路上，其面對(duì)的挑戰(zhàn)和難題不僅僅在于技術(shù)方面的“硬實(shí)力”，也有包含專業(yè)的數(shù)字化人才、經(jīng)驗(yàn)豐富的服務(wù)部署支持等“軟實(shí)力”。

正是洞察到這種全新的變化，戴爾科技積極推動(dòng)算力基礎(chǔ)設(shè)施產(chǎn)品和解決方案的技術(shù)創(chuàng)新，通過打造“AI first端到端全棧AI平臺(tái)解決方案”，最大化幫助企業(yè)的現(xiàn)代化數(shù)據(jù)中心能夠釋放AI的全部潛力。

在此基礎(chǔ)上，近期戴爾科技還在中國市場正式官宣上市全新的AI加速服務(wù)器PowerEdge XE9680，提供8個(gè)NVIDIA SXM5 500W GPU與NVLink完全互連，這是一款專為需要高性能以及應(yīng)對(duì)新興復(fù)雜AI工作負(fù)載而構(gòu)建的服務(wù)器系統(tǒng)，具有高性能、洞察驅(qū)動(dòng)和智能化等特點(diǎn)，真正為AI時(shí)代大模型訓(xùn)練和推理構(gòu)建出了穩(wěn)定高效的基礎(chǔ)設(shè)施“算力底座”。同時(shí)，戴爾科技還提供包括AI數(shù)據(jù)中心服務(wù)部署保障與綠色節(jié)能實(shí)現(xiàn)，由此不僅為更多中國企業(yè)的數(shù)智化轉(zhuǎn)型提供了堅(jiān)實(shí)可靠的技術(shù)支撐，相信也將會(huì)更快地打通AI落地行業(yè)的“最后一公里”，可以說其價(jià)值重要而深遠(yuǎn)。

01.

AI First全棧解決方案就緒

根據(jù)IDC 《2024 AIGC應(yīng)用層十大趨勢白皮書》的數(shù)據(jù)顯示，隨著 AIGC 技術(shù)的發(fā)展，智能化應(yīng)用將呈現(xiàn)爆發(fā)式增長，IDC也預(yù)測到2024年全球?qū)⒂楷F(xiàn)出超過5億個(gè)新應(yīng)用，這相當(dāng)于過去40年間出現(xiàn)的應(yīng)用數(shù)總和，可以說無論是企業(yè)還是產(chǎn)業(yè)的智能化規(guī)模化創(chuàng)新，其本質(zhì)就是AI應(yīng)用的擴(kuò)張，而背后則是需要AI算力和AI基礎(chǔ)設(shè)施提供關(guān)鍵技術(shù)支撐。

對(duì)此，戴爾科技集團(tuán)信息基礎(chǔ)架構(gòu)解決方案事業(yè)部AI企業(yè)技術(shù)架構(gòu)師、全球CTO大使吳躍表示，一直以來戴尓科技就秉承“AI First”戰(zhàn)略，從“AI賦能戴爾產(chǎn)品、戴爾產(chǎn)品組合賦能AI、用AI優(yōu)化企業(yè)運(yùn)營、構(gòu)建開放的AI生態(tài)”四個(gè)維度，幫助各種規(guī)模的企業(yè)加速 AI 創(chuàng)新的方法，從而不斷發(fā)現(xiàn)創(chuàng)造商業(yè)機(jī)會(huì)，保持競爭優(yōu)勢。

其中，針對(duì)AI優(yōu)化的基礎(chǔ)架構(gòu)方面，戴爾科技圍繞“算、網(wǎng)、存、管”提供整體參考架構(gòu)，打造并全面布局了“端到端全棧AI平臺(tái)解決方案”，最終為企業(yè)用戶構(gòu)建高效能的AI平臺(tái)，具體而言：

一是，在“算”方面，戴爾科技可提供多元化的AI加速計(jì)算選型支持，特別是戴爾新一代PowerEdge（第16代）先后推出了多款專門針對(duì)GPU計(jì)算設(shè)計(jì)和優(yōu)化的專業(yè)服務(wù)器，可為企業(yè)提供GPU分布式訓(xùn)練解決方案、GPU池化解決方案以及邊緣AI計(jì)算解決方案等，支持企業(yè)面向AI的端到端訓(xùn)練、微調(diào)、推理以及面向傳統(tǒng)AI（如機(jī)器視覺、語音識(shí)別）的模型訓(xùn)練及推理場景。此外，在高性能CPU計(jì)算服務(wù)器方面，戴爾科技也提供包括集群管理、登錄、數(shù)據(jù)治理等能力。

二是，在“網(wǎng)”方面，隨著數(shù)據(jù)量的增加，現(xiàn)代化數(shù)據(jù)中心需要更高的數(shù)據(jù)吞吐量和網(wǎng)絡(luò)帶寬來處理數(shù)據(jù)的傳輸和交換，為此戴爾科技也提供端到端400GbE AI計(jì)算網(wǎng)絡(luò)解決方案，幫助企業(yè)用戶打造新一代網(wǎng)絡(luò)基礎(chǔ)架構(gòu)，為其加速AI轉(zhuǎn)型提供支撐。

三是，在“存”方面，戴爾科技推出了專為AI打造的新一代PowerScale全閃存節(jié)點(diǎn)，這是全球首個(gè)率先通過NVIDIA SuperPOD驗(yàn)證的AI以太網(wǎng)存儲(chǔ)平臺(tái)，借助這個(gè)全新的平臺(tái)，企業(yè)可以加快創(chuàng)新速度，以更高的靈活性和安全性部署AI應(yīng)用，同時(shí)利用高速的NVIDIA Spectrum以太網(wǎng)技術(shù)加速數(shù)據(jù)訪問并借助智能橫向擴(kuò)展實(shí)現(xiàn)性能最大化。

最后，在“管”方面，戴爾科技也提供AI智算平臺(tái)軟件解決方案，為企業(yè)提供AI框架與系統(tǒng)管理軟件以及專業(yè)服務(wù)，更好地加速AI工程化、場景化落地，簡化AI基礎(chǔ)設(shè)施平臺(tái)的管理與資源調(diào)配。

不難看出，在全社會(huì)走向智能化的大趨勢下，AI應(yīng)用領(lǐng)域的多樣化，以及市場規(guī)模的不斷擴(kuò)大，已對(duì)AI算力和AI基礎(chǔ)構(gòu)架產(chǎn)生了巨大需求，而戴爾科技圍繞“算、網(wǎng)、存、管”的需求，打造“端到端全棧AI平臺(tái)解決方案”可謂“正當(dāng)其時(shí)”，不僅可以加速AI在千行萬業(yè)中的落地，也能進(jìn)一步推動(dòng)各企業(yè)乃至整個(gè)行業(yè)的數(shù)智化變革進(jìn)程。

02.

AI加速服務(wù)器“煥新上市”

眾所周知，在AI的1.0時(shí)代，市場上的AI基礎(chǔ)設(shè)施主要是采用垂直一體式的方案，針對(duì)性地滿足高性能計(jì)算、人工智能、大數(shù)據(jù)計(jì)算等不同的應(yīng)用負(fù)載的需求，其通用性和兼容性比較低；而在AI的2.0時(shí)代，除了需要滿足高性能、安全及可管理性之外，也出現(xiàn)了多元異構(gòu)加速融合的趨勢，即將不同架構(gòu)的芯片平臺(tái)、不同的算法模型以及數(shù)據(jù)集最大化融合，由此才能最大化的讓AI基礎(chǔ)設(shè)施算力效率發(fā)揮到極致。

基于此，戴爾科技近期也在中國市場官宣上市面向AI 2.0時(shí)代的全新AI計(jì)算平臺(tái)PowerEdge XE9680，這是一款8路GPU服務(wù)器，能夠?yàn)榘ˋI、深度學(xué)習(xí)、訓(xùn)練和推理等工作負(fù)載提供極致的性能。

據(jù)戴爾科技集團(tuán)大中華區(qū)服務(wù)器解決方案產(chǎn)品高級(jí)經(jīng)理秦建豐介紹，PowerEdge XE9680具有四大獨(dú)特優(yōu)勢，具體而言：

首先，在高性能方面，PowerEdge XE9680服務(wù)器主要面向極致AI計(jì)算性能需求場景設(shè)計(jì)。在國內(nèi)和香港市場，在XE9680 6U間內(nèi)搭載了8塊NVIDIA超高速GPU，同時(shí)還通過NVLink實(shí)現(xiàn)了互聯(lián)，其GPU與高速網(wǎng)卡實(shí)現(xiàn)了1：1配比。

事實(shí)上，此前在業(yè)內(nèi)權(quán)威的MLPerf Inference V3.1推理基準(zhǔn)測試結(jié)果中，PowerEdge XE9680服務(wù)器就在20個(gè)數(shù)據(jù)中心項(xiàng)目賽道中，取得了7個(gè)項(xiàng)目的第一名，在所有參評(píng)GPU服務(wù)器產(chǎn)品中綜合成績最佳。

其次，在優(yōu)化設(shè)計(jì)方面，PowerEdge XE9680服務(wù)器也針對(duì)GPU供電和散熱進(jìn)行了單獨(dú)的優(yōu)化，其基于6U風(fēng)冷設(shè)計(jì)機(jī)箱打造，并提供了包括多矢量散熱技術(shù)，動(dòng)態(tài)調(diào)節(jié)冷卻風(fēng)強(qiáng)度等全新功能，同時(shí)GPU與CPU模組也實(shí)現(xiàn)了“統(tǒng)一供電”，同時(shí)還對(duì)電源進(jìn)行優(yōu)化、增強(qiáng)設(shè)計(jì)，滿足實(shí)際使用中峰值功率瞬時(shí)140%~170%的需求。此外其高速網(wǎng)卡槽位布置于前面板，也有效強(qiáng)化了服務(wù)器的散熱性能。

第三，在多元異構(gòu)加速方面，PowerEdge XE9680服務(wù)器支持多元異構(gòu)加速能力，特別是本次戴爾科技和NVIDIA深度合作，打造了“PowerEdge XE9680 + NVIDIA GPU”的方案，就全面滿足了企業(yè)AI訓(xùn)練、微調(diào)、推理等不同的應(yīng)用需求，此外戴爾科技也基于NVIDIA全棧AI解決方案，包括GPU、DPU和NVIDIA AI Enterprise軟件套件等，進(jìn)一步滿足企業(yè)的AI應(yīng)用需求。數(shù)據(jù)也顯示，與上一代非加速服務(wù)器相比，通過NVIDIA加速的PowerEdge服務(wù)器在大型語言模型上的推理能效提高了300倍。

最后，在安全及可管理性方面，PowerEdge XE9680服務(wù)器也基于“零信任”原則設(shè)計(jì)，具備更強(qiáng)的安全性和抗風(fēng)險(xiǎn)能力，同時(shí)在管理方面，其內(nèi)置的iDRAC也可以動(dòng)態(tài)監(jiān)控GPU的運(yùn)行狀態(tài)，并提供碳足跡追蹤報(bào)告等。

據(jù)了解，PowerEdge XE9680服務(wù)器的典型應(yīng)用場景包括AI模型的預(yù)訓(xùn)練、AI模型的微調(diào)、較大規(guī)模AI模型的推理，以及基于單精度（FP32）GPU加速科學(xué)計(jì)算等；而對(duì)于主流的訓(xùn)練、推理以及其他混合工作負(fù)載，戴爾科技也提供可以搭載GPU的服務(wù)器，如PowerEdge R760xa、R760、R660、R7625、R6625等，也能滿足不同企業(yè)用戶對(duì)AI應(yīng)用創(chuàng)新的需求。

03.

打通AI落地“最后一公里”

《系統(tǒng)論》認(rèn)為：系統(tǒng)是由一些相互關(guān)聯(lián)、相互作用、相互影響的組織部分構(gòu)成并具有某些功能的整體。從系統(tǒng)的角度來看，如果把系統(tǒng)分解為部分，單獨(dú)研究一個(gè)部分，就算把每個(gè)部分都研究清楚了，也回答不了系統(tǒng)整體性問題。

事實(shí)上，《系統(tǒng)論》的概念很好的表達(dá)了當(dāng)前AI發(fā)展邏輯：整個(gè)AI的發(fā)展乃是一個(gè)完整的系統(tǒng)和生態(tài)，它的每一個(gè)組成部分都應(yīng)該協(xié)同發(fā)展，單獨(dú)某一項(xiàng)技術(shù)的突飛猛進(jìn)，并不能推動(dòng)AI的落地與普及。

在戴爾科技集團(tuán)數(shù)據(jù)中心業(yè)務(wù)部人工智能資深架構(gòu)師龔小愿看來，對(duì)于今天的企業(yè)用戶而言，AI時(shí)代的到來，給數(shù)據(jù)中心安全高效運(yùn)行的基AI礎(chǔ)設(shè)施和冷卻系統(tǒng)都帶來更大的壓力，以“PowerEdge XE9680 6U 3+3 8400W”對(duì)比“PowerEdge R760*3 6U 1+1 5400W”來看，其功耗就提高56%+，同時(shí)重量也提高22%+，這也意味著在整個(gè)AI基礎(chǔ)設(shè)施的部署過程中，無論是功耗、散熱量、制冷量需求、重量乃至“每U購買成本”都會(huì)顯著增加，因此如何將綠色節(jié)能和降本增效統(tǒng)籌并舉，是企業(yè)在部署AI基礎(chǔ)設(shè)施中務(wù)必要關(guān)注的話題。

為此，戴爾科技也專門打造了“PowerEdge XE9680+Datacenter交付”的創(chuàng)新服務(wù)方案，提供包括Dell ProDeploy/ProDeploy Plus專業(yè)實(shí)施服務(wù)以及Dell Rack Integration機(jī)柜集成服務(wù)，為企業(yè)部署AI基礎(chǔ)設(shè)施提供“保駕護(hù)航”。

一方面，在專業(yè)實(shí)施服務(wù)方面，戴爾科技可向企業(yè)用戶提供實(shí)用的硬件和軟件選擇，并通過多種交付選項(xiàng)來滿足不同預(yù)算和運(yùn)營模式需求，可滿足從核心到云再到邊緣的各種業(yè)務(wù)需求和預(yù)算。研究數(shù)據(jù)顯示，使用Dell ProDeploy Plus服務(wù)，其部署規(guī)劃時(shí)間可縮短67%，并能夠幫助企業(yè)節(jié)省大量的預(yù)部署時(shí)間并節(jié)省總體時(shí)間，同時(shí)部署解決方案的速度比管理員快三倍。

另一方面，在機(jī)柜集成服務(wù)方面，PowerEdge XE9680也提供“交鑰匙”的機(jī)柜集成服務(wù)，其優(yōu)勢不僅在于可實(shí)現(xiàn)“即插即用,提升體驗(yàn)”,同時(shí)機(jī)柜集成空間也優(yōu)于傳統(tǒng)的功能型的數(shù)據(jù)中心，每周平均能夠集成25臺(tái)機(jī)柜，并能根據(jù)企業(yè)客戶需求隨時(shí)擴(kuò)大產(chǎn)能。關(guān)鍵的是，采用這種機(jī)柜集成服務(wù)，也能避免不同的現(xiàn)場施工團(tuán)隊(duì)采用不一致的施工，配置及質(zhì)量標(biāo)準(zhǔn)，由此大幅度提升PowerEdge XE9680部署安裝效率，并有效降低“每U購買成本”。

我們知道，航空母艦是主宰海洋的利器，因?yàn)樗拖駛€(gè)移動(dòng)的機(jī)場，使得寬廣海面到處都可能變成基地，供飛機(jī)起落，以讓飛機(jī)的作戰(zhàn)更具機(jī)動(dòng)性、變化性、持續(xù)性。

從這個(gè)角度來看，在AI新時(shí)代，戴爾科技提供的“端到端全棧AI平臺(tái)解決方案”也如同一艘“航空母艦”，不僅能夠面向企業(yè)提供高性能的PowerEdge XE9680服務(wù)器，幫助企業(yè)構(gòu)筑健壯的AI基礎(chǔ)設(shè)施，同時(shí)也能夠借助“PowerEdge XE9680+Datacenter交付”等創(chuàng)新方式，加快企業(yè)AI基礎(chǔ)設(shè)施的安裝和部署，可以說企業(yè)真正能夠在戴爾科技這艘航母上找到所需的各種AI產(chǎn)品和解決方案，而不在局限于硬件、軟件、算力、算法和數(shù)據(jù)，而這將會(huì)真正打通行業(yè)AI落地的“最后一公里”，讓更多的企業(yè)可以借助AI激發(fā)新質(zhì)生產(chǎn)力，最終推動(dòng)中國數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展。