![]()
當(dāng)AI成為全球科技競(jìng)爭(zhēng)的核心賽點(diǎn),大模型已然升級(jí)為各國(guó)、各行業(yè)的生產(chǎn)力引擎。無(wú)論是企業(yè)在市場(chǎng)紅海中的突圍破局,還是中國(guó)在全球AI競(jìng)賽中的領(lǐng)先,所有人都期盼DeepSeek等AI大模型的性能,得以滿血釋放。但在傳統(tǒng)網(wǎng)絡(luò)環(huán)境下,常因帶寬不足而出現(xiàn)數(shù)據(jù)傳不動(dòng),AI跑不動(dòng),訓(xùn)大模型又慢又卡,集團(tuán)型企業(yè)的跨域協(xié)同訓(xùn)推效率低下。
更值得警惕的是國(guó)內(nèi)雖已建成海量智算資源池,運(yùn)營(yíng)商也構(gòu)建了全國(guó)性多級(jí)算力布局,但如果長(zhǎng)距離傳輸?shù)男阅軗p耗太高,算力資源無(wú)法真正形成合力。作為智算中心與千行百業(yè)之間的通路,運(yùn)營(yíng)商網(wǎng)絡(luò)承載的不只是企業(yè)的轉(zhuǎn)型動(dòng)能,更是中國(guó)在全球AI競(jìng)爭(zhēng)中領(lǐng)跑的底氣。打造適配AI需求的新型網(wǎng)路架構(gòu),已成為通信運(yùn)營(yíng)商與設(shè)備制造商肩負(fù)的歷史責(zé)任。
![]()
上海電信面對(duì)全市多家企業(yè)的安全、高效用算訴求,聯(lián)合華為通過部署星河路由器打造400GE IP智算城域POD。無(wú)論是大模型海量樣本入算的數(shù)據(jù)洪流,集團(tuán)企業(yè)存算分離拉遠(yuǎn)訓(xùn)練的長(zhǎng)距離傳輸,還是跨數(shù)據(jù)中心協(xié)同訓(xùn)推的資源調(diào)用,都能通過邊云協(xié)同算網(wǎng)解決方案,實(shí)現(xiàn)高效、安全的傳輸。上海電信的實(shí)踐,為智能IP廣域網(wǎng)(AI WAN)建設(shè),提供了極具參考意義的“全國(guó)樣本”。
下面讓我們來(lái)詳細(xì)拆解一下上海電信邊云協(xié)同算網(wǎng)解決方案的建設(shè)密碼,看AI時(shí)代,運(yùn)營(yíng)商如何筑牢算力強(qiáng)國(guó)的運(yùn)力底座,支撐智能中國(guó)跑得更穩(wěn)、更快、更遠(yuǎn)。
![]()
作為我國(guó)經(jīng)濟(jì)發(fā)展的龍頭城市,上海是海洋強(qiáng)國(guó)戰(zhàn)略的支點(diǎn),也是航運(yùn)行業(yè)智能化的先行者。當(dāng)?shù)睾竭\(yùn)企業(yè)的智能化轉(zhuǎn)型需求,自然成為觀察行業(yè)算力升級(jí)的窗口。
以某航運(yùn)企業(yè)為例,員工規(guī)模高達(dá)幾萬(wàn)人,對(duì)智能化辦公、個(gè)性化知識(shí)服務(wù)和實(shí)時(shí)決策支持的需求日益迫切。為支撐這一龐大組織高效、安全地應(yīng)用AI大模型能力,集團(tuán)亟需構(gòu)建智算節(jié)點(diǎn)。在實(shí)際推進(jìn)中,發(fā)現(xiàn)從數(shù)據(jù)上傳的第一步,到算力傳輸?shù)耐局校俚紸I業(yè)務(wù)用算的終點(diǎn)站,每一關(guān)都存在隱形的減速帶,極大限制了轉(zhuǎn)型效率。
第一關(guān),智算中心建設(shè)的成本關(guān)。自建私有化智算中心,需一次性投入高性能AI服務(wù)器、高速網(wǎng)絡(luò)、液冷設(shè)施等基礎(chǔ)設(shè)施,改造擴(kuò)容周期長(zhǎng)、成本高,整體承載能力有限。而且,支撐企業(yè)萬(wàn)人以上規(guī)模的大型用算需求,格外考驗(yàn)系統(tǒng)集成能力,技術(shù)復(fù)雜度極高。所以,對(duì)于千行百業(yè)的智能化轉(zhuǎn)型,全私有化算力部署并不現(xiàn)實(shí)。
![]()
第二關(guān),數(shù)據(jù)上傳的安全關(guān)。私有化智算中心的建設(shè)成本高、難度大,那上公有云呢?央國(guó)企、政教醫(yī)等行業(yè)的AI應(yīng)用依賴海量敏感數(shù)據(jù),純公有云難以滿足“數(shù)據(jù)不出園”“數(shù)據(jù)不出域”的合規(guī)底線。算力不夠用,數(shù)據(jù)不敢傳,AI升級(jí)自然停滯不前。
第三關(guān),長(zhǎng)距傳輸?shù)膿p耗關(guān)。中國(guó)已經(jīng)建設(shè)了一體化全國(guó)智算網(wǎng)絡(luò),以“東數(shù)西算”“東數(shù)西訓(xùn)”來(lái)滿足萬(wàn)億參數(shù)模型的訓(xùn)推需求,這意味著海量數(shù)據(jù)的跨區(qū)域長(zhǎng)距離流轉(zhuǎn),比如東部企業(yè)的樣本數(shù)據(jù),可能傳到西部地區(qū)的智算中心。隨著存算分離拉遠(yuǎn)訓(xùn)練、跨數(shù)據(jù)中心協(xié)同訓(xùn)推的需求激增,千分之一的網(wǎng)絡(luò)丟包就可能導(dǎo)致訓(xùn)練效率下降,嚴(yán)重制約算效。
要讓AI跑得歡,就得重新修建一條網(wǎng)路通道,將AI和算力像水和電一樣,送到各行各業(yè)和政企身邊,為此,上海電信聯(lián)合華為把三道卡一次性拆干凈。
![]()
作為城市信息化建設(shè)主力軍,上海電信貫徹“以網(wǎng)促算”策略,為企業(yè)提供海量樣本高效入算,存算分離拉遠(yuǎn)訓(xùn)練,邊云協(xié)同安全訓(xùn)推等智算服務(wù)。這張網(wǎng)采用智能IP廣域網(wǎng)AI WAN解決方案,把用算賦智的阻礙一一拆除,讓AI大模型也能馬力全開:
1.模型分層部署,解決數(shù)據(jù)安全顧慮。
該方案采用了模型分層部署技術(shù),從底層滿足合規(guī)要求。企業(yè)園區(qū)側(cè)部署模型首尾層,中間傳輸?shù)氖墙?jīng)模型轉(zhuǎn)化的高維向量數(shù)據(jù),即便被截取也無(wú)法還原原始信息;云端僅部署模型中間層,既無(wú)法獲取完整數(shù)據(jù),也無(wú)法拼湊出完整模型結(jié)構(gòu)。企業(yè)日常需要處理大量涉及信息調(diào)度、合同文本、供應(yīng)數(shù)據(jù)等敏感信息,對(duì)“數(shù)據(jù)不出域”有剛性要求。而模型分層部署的理念,恰恰在保障核心數(shù)據(jù)本地閉環(huán)的同時(shí),釋放大模型的推理能力,兼顧政企用算的安全與效能。
![]()
2.RDMA無(wú)損傳輸,打通算力互聯(lián)動(dòng)脈。
政企的業(yè)務(wù)網(wǎng)絡(luò)遍布全國(guó)乃至全球,因此智能化轉(zhuǎn)型對(duì)算力協(xié)同提出了極高要求。企業(yè)需在多地分支機(jī)構(gòu)間協(xié)同訓(xùn)練或推理,傳統(tǒng)網(wǎng)絡(luò)的丟包與延遲將嚴(yán)重制約算效。為解決跨域傳輸慢、丟包等問題,通過RDMA長(zhǎng)距無(wú)損傳輸技術(shù)、租戶級(jí)精準(zhǔn)流控與算力感知調(diào)度算法,確保樣本數(shù)據(jù)遠(yuǎn)距離高吞吐無(wú)損傳輸,算效不下降,并針對(duì)海量樣本入算、存算分離拉遠(yuǎn)訓(xùn)練等典型場(chǎng)景進(jìn)行優(yōu)化,TB級(jí)數(shù)據(jù)高效傳輸,徹底告別了用傳統(tǒng)硬盤快遞送數(shù)據(jù)的低效模式。基于RDMA的長(zhǎng)距無(wú)損傳輸配合算力感知調(diào)度,為企業(yè)提供智能調(diào)度等AI應(yīng)用提供堅(jiān)實(shí)支撐。
3.極簡(jiǎn)絲滑接入,降低AI使用門檻。
在安全底線有保障、算力性能拉滿的基礎(chǔ)上,企業(yè)無(wú)需投入巨額資金建設(shè)機(jī)房、采購(gòu)設(shè)備,通過運(yùn)營(yíng)商網(wǎng)絡(luò)傳輸僅需輕量化接入,即可像用水和電一樣,按需運(yùn)營(yíng)商租公共算力資源。業(yè)務(wù)用算的門檻降低,意味著算力將在運(yùn)營(yíng)商多級(jí)算力體系與企業(yè)側(cè)之間高效流轉(zhuǎn),為企業(yè)提供普惠智能算力。網(wǎng)絡(luò)RDMA廣域無(wú)損保障“算得快”,任務(wù)式彈性服務(wù)做到“用得起”,全面匹配智算時(shí)代下新供需關(guān)系帶來(lái)的網(wǎng)絡(luò)訴求。
上海電信,憑借方案先進(jìn)性收獲了市場(chǎng)認(rèn)可,成為“以網(wǎng)促算”的優(yōu)秀樣本,展現(xiàn)了運(yùn)營(yíng)商在AI時(shí)代踐行網(wǎng)絡(luò)強(qiáng)國(guó)的使命擔(dān)當(dāng)。
![]()
全球AI競(jìng)賽日趨激烈,讓AI全速馳騁,不僅企業(yè)可以突破發(fā)展瓶頸,更構(gòu)成了智能中國(guó)的核心競(jìng)爭(zhēng)力。從這個(gè)角度,上海電信聯(lián)合華為打造的邊云協(xié)同算網(wǎng)方案為客戶帶來(lái)的價(jià)值,也值得從更深遠(yuǎn)的維度去解讀。從宏觀看,一張優(yōu)質(zhì)的算網(wǎng),可以對(duì)算力資源進(jìn)行高效協(xié)同。目前,國(guó)內(nèi)已建成了龐大的一體化智算資源池,如果無(wú)法高效協(xié)同,前期巨額投入難以轉(zhuǎn)化為實(shí)際效能。而算網(wǎng)方案將運(yùn)營(yíng)商的多層級(jí)算力布局串聯(lián)成網(wǎng),讓分散的算力資源形成合力,不僅避免了資源閑置浪費(fèi),更讓國(guó)家算力基礎(chǔ)設(shè)施的戰(zhàn)略價(jià)值得到充分釋放。從微觀需求看,企業(yè)側(cè)長(zhǎng)期困擾在AI應(yīng)用難題,中小企業(yè)因算力成本高、接入門檻高對(duì)AI望而卻步,頭部企業(yè)也受困于數(shù)據(jù)安全與跨域協(xié)同,基于面向智算IP廣域網(wǎng)AI WAN解決方案,提供安全、高效、普惠的算網(wǎng)服務(wù),讓算力像水和電一樣隨取隨用,推動(dòng)AI技術(shù)從少數(shù)頭部企業(yè)向中小企業(yè)滲透,加速了全產(chǎn)業(yè)的智能化升級(jí)進(jìn)程。從更長(zhǎng)遠(yuǎn)的時(shí)間維度來(lái)看,這套架構(gòu)的底層技術(shù)創(chuàng)新,說(shuō)明了中國(guó)通信產(chǎn)業(yè)有能力筑牢算力底座,這是智能中國(guó)可持續(xù)發(fā)展的根基。
![]()
在全球AI競(jìng)速的賽道上,上海電信堅(jiān)守網(wǎng)絡(luò)強(qiáng)國(guó)使命,華為深耕底層技術(shù),這種運(yùn)營(yíng)商+科技企業(yè)的產(chǎn)業(yè)協(xié)同模式,既破解了千行百業(yè)的用算痛點(diǎn),更是AI技術(shù)長(zhǎng)期演進(jìn)的保障。這條由企業(yè)自主開拓的算網(wǎng)強(qiáng)基之路,將為數(shù)字化轉(zhuǎn)型提供長(zhǎng)期動(dòng)能,驅(qū)動(dòng)智能中國(guó)全速前進(jìn)。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.