數字化與智能化轉型浪潮席卷全球,邊緣云隨之掀起全新的技術變革。這類技術打破傳統集中式計算模式的束縛,將數據處理與分析能力部署至網絡邊緣,實現數據生成后的即時響應與高效處理。隨著人工智能大模型不斷發展,行業關注重心逐步從模型訓練,轉向落地應用中關鍵的AI推理環節。憑借低時延、分布式部署等核心優勢,邊緣云也順勢成為當下產業競爭的全新焦點。
這一趨勢的形成有著清晰的邏輯。Gartner預測,2028年80%以上的算力將用于推理而不是訓練。IDC也預測,2027年80%的企業將部署分布式邊緣基礎設施。與此同時,推理模型日趨復雜、體量不斷擴張,對各項資源的需求持續走高,讓集中式推理的部署與運行愈發受限。在此背景下,邊緣計算的適配優勢充分釋放,既能有效承接大規模AI推理業務,又可滿足機器速度級的低延遲響應要求,成為支撐行業發展的核心抓手。
![]()
Akamai大中華區副總裁 張軻
面對行業變革趨勢,Akamai也給出了自身的解決方案。Akamai大中華區副總裁張軻表示,Akamai依托二十余年全球布局沉淀的分布式計算網絡,打造分布式計算與云安全平臺,并加快業務轉型,全力構建全球領先的分布式AI推理平臺。依托與NVIDIA達成的戰略合作,Akamai已于今年英偉達GTC 2026大會上發布AI網格平臺。同時在全球范圍大規模部署NVIDIA RTX PRO 6000 Blackwell基于推理優化的GPU,夯實邊緣AI推理算力底座。
賦能客戶AI創新,Akamai有何布局?
傳統AI架構普遍采用“訓練集中、推理集中”的模式。這一架構在低延遲剛需場景中存在天然短板。不論是自動駕駛、智能機器人、實時視頻處理等物理智能應用,還是高并發的個性化推薦業務,數據從生成、上傳至中心節點處理,再到結果回傳的完整鏈路,產生的時延,往往會超出各類應用的容許范圍。Akamai亞太區云計算架構師總監李文濤談到,游戲、電商以及智能體自助服務等各類場景,均對AI推理的低時延能力提出了極高要求。
![]()
Akamai亞太區云計算架構師總監李文濤
面對這一行業痛點,李文濤表示:“Akamai正依托覆蓋全球的分布式算力平臺,為用戶提供高質量、低時延的AI推理服務,精準適配AI時代的推理算力需求。”這一落地舉措,也充分彰顯出Akamai面向AI時代的清晰定位:為企業構筑智能基礎設施,支撐業務平穩開展AI創新,在全球范圍內,助力企業構建、保護和擴展AI服務。為此,Akamai推出Akamai Inference Cloud(AI推理云)、AI Grid智能編排等解決方案,持續完善整體能力布局。
李文濤解釋道,Akamai推理云是一套全球分布式的云平臺,依托統一的云原生運營模式,實現貼近用戶側的AI推理運行。這也意味著Akamai推理云將推理能力從核心數據中心延伸至互聯網邊緣端。不僅如此,Akamai近期發布的AI Grid智能編排,將NVIDIA算力融入全球4400個邊緣站點,有效解決AI推理的“最后一公里”難題。依托系列產品布局,Akamai正在逐步實現產業升級,勾勒出從集中式“AI工廠”向分布式“AI公共設施”的演進藍圖。
解決AI推理難題,Akamai推理云實力如何?
Akamai推理云依托全球數千個節點部署AI決策能力,可充分滿足持續增長的AI推理算力與性能擴容需求,以此實現更快速、智能且安全的業務響應。那么,這一能力究竟如何實現?Akamai推理云具備實時AI推理、全球AI算力分布式負載、邊緣至核心全鏈路算力調度管理等核心功能。算力層面,平臺搭載英偉達最新RTX PRO 6000 Blackwell系列顯卡;平臺層面,整體架構開放易用,同時已斬獲CNCF開源云原生組織頒發的開源AI平臺兼容性認證。
![]()
具體來看,Akamai推理云搭載英偉達RTX PRO 6000 Blackwell系列GPU。該GPU單卡AI算力可達4000 AI-TOPS,并配備96GB ECC大顯存,能夠充分承載主流大模型的推理任務。與此同時,其GPU虛擬機“出方向”流量成本低至0.005美元/GB,根據 Akamai 內部測試數據,整機綜合性價比相較同類競品機型有翻倍提升。在AI調度與AI網關層面,Akamai實現大模型請求的全球調度統籌與全鏈路安全防護,同時依托語義緩存等智能化技術,幫助用戶大幅降低Token成本。
除算力與調度能力外,Akamai函數即服務也是重要組成,作為當前全球領先的函數計算產品,其冷啟動時延低至0.5ms,響應速度較主流公有云競品最大可高出千倍,既能支撐極速AI服務響應,也可助力用戶構建覆蓋全球邊緣的無服務器計算能力。李文濤表示,依托全球分布式算力底座打造的Akamai分布式容器平臺,可實現容器化業務的邊緣快速部署,助力企業將AI服務與業務邏輯就近部署至用戶側,最大限度壓縮訪問時延,滿足數據合規管控要求。
此外,AI網格同樣是Akamai推理云的核心組成。作為全新的分布式AI推理架構,AI網格借鑒英偉達相關技術實踐,可在毫秒級時限內,將每一條AI請求路由至最優算力節點:
智能路由能力能夠實時感知AI工作負載,結合模型類型、時延目標與成本訴求,自動匹配最優算力層級,完成AI請求的高效調度。同時,該架構搭建起從互聯網邊緣到核心數據中心的全域分布式計算能力,支持企業按需定制算力布局與業務部署方案。在可靠性層面,平臺依托英偉達RTX PRO系列GPU硬件支撐,相關產品已在AI推理、模型訓練、渲染、視頻處理等場景完成嚴苛基準測試,保障穩定運行。
![]()
在今年3月份,Akamai發布首個全球規模的NVIDIA AI Grid參考設計實施方案,將4400個邊緣站點織成一張分布式推理網絡,以智能編排技術打通從核心數據中心到遠端邊緣的計算連續體,不僅為AI推理的“最后一公里”難題提供了全新解法,更標志著全球AI基礎設施從集中式向分布式的關鍵轉型。
“目前,全球范圍內,包括眾多出海中國企業,已有大量客戶落地使用Akamai推理云,實際應用場景十分豐富。”李文濤表示,“Akamai推理云業務已經遍及了全球各個主要行業與地區,為客戶提供GPU算力、AI安全防護及AI推理服務。”值得一提的是,Akamai推理云已在多類場景實現廣泛落地,涵蓋推薦引擎、8K視頻工作流、實時視頻智能分析、智能體助理、虛擬試衣、智能終端、自動駕駛等多元業務領域。
![]()
AI帶來安全挑戰。Akamai如何應對?
以深度學習為核心的人工智能技術兼具兩面性,一方面具備強大的賦能價值與廣闊的應用前景,另一方面也催生了前所未有的安全風險。Akamai大中華區售前技術經理馬俊表示:“當下企業面臨全方位、多維度的安全挑戰,涵蓋從‘抵御勒索軟件、推進零信任架構’到‘混合云微分段拓展’再到‘確保業務連續性、并且降低成本’的多重訴求”。筆者注意到,為應對上述各類挑戰,Akamai將AI技術全面貫穿至整體安全戰略。
![]()
Akamai大中華區售前技術經理 馬俊
Akamai依托AI驅動的微分段技術,不僅能夠實現全域流量可視,更可解析業務與應用運行狀態,進而輸出具備洞察性的安全管控策略。該方案可提供主動有效的安全防護,大幅減少人工干預,同時為海量應用智能生成防護模型,支撐相關能力規模化落地與高效運維。不僅如此,Akamai還在微分段上積極創新,Akamai Guardicore與英偉達BlueField DPU實現了深度的整合,將“零信任”從傳統的IT拓展到了運維技術OT和工業物聯網的ICS硬件級別。
為了提升防御能力,Akamai提出由AI驅動的網絡應用防火墻監測。馬俊表示:“依托Akamai平臺上超大規模的全球實時流量,AI引擎能夠持續的分析、并且快速的發現異常行為,生成高置信度的檢查策略,從而利用AI引擎、通過安全專家的緩解措施,可以實現自治和自適應的保護在線應用和業務系統不被AI相關的威脅所攻擊,從而實現持續分析、快速檢測和安全部署能力。”此外,Akamai還擁有API治理等豐富的安全能力。
AI Agent時代加速來臨,傳統網絡威脅與新興AI衍生風險交織,對安全團隊提出全新考驗。安全團隊亟需提前布局,完善全域監控體系,借助AI技術實現對新型AI威脅的有效防御。馬俊表示:“Akamai已做好充分準備,依托全棧AI驅動的安全防護體系,覆蓋基礎設施、硬件、軟件及網絡微分段等多層維度,以AI能力統籌企業安全治理,全方位護航企業智能化轉型與AI業務創新。”
AI時代下,技術創新持續迭代演進,把握全新機遇,已成為企業創新發展的關鍵所在。聚焦AI底層基礎設施不難發現,隨著人工智能應用不斷深化,行業重心正逐步從模型訓練向推理環節轉移,為邊緣云與邊緣AI的落地普及開辟了新空間。在此趨勢之下,Akamai推理云依托成熟完備的產品體系,有針對性地化解行業實際痛點,同時堅持技術持續迭代、能力動態升級,精準適配不斷變化的市場與業務需求,持續為企業數字化、智能化升級貢獻力量。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.