![]()
作者 | 褚杏娟
在開源五周年之際,昇思 MindSpore 社區交出了一份高速增長的成績單:MindSpore 累積下載量已經超過 1300 萬,社區核心的貢獻開發者已經超過了 5.2 萬人,整個代碼核入量超過 12 萬,擁有全球 150 多個國家和地區用戶,聯合超過兩千多家社區孵化 3100 多個行業應用。
異思 MindSpore 開源社區理事長丁誠表示,在社區協作推動下,MindSpore 已逐步完善三大 AI 框架核心能力:
在大模型領域,MindSpore 已原生支持超大規模集群并行,可覆蓋數萬個計算節點,支持萬億級參數規模的一站式并行策略搜索與執行優化。
在部署層面,MindSpore 打通了端、邊、云全場景能力:從數據中心服務器集群,到耳機、手表等小型終端設備,均可提供完整的訓練與推理能力。目前,MindSpore 已應用于從服務器到數億臺終端設備的廣泛場景中,成為大量智能設備的內置 AI 能力基礎。
在科學計算方向,MindSpore 原生支持 NumPy、SciPy 等接口加速,并通過函數式自動微分能力,幫助科研人員探索更前沿的 AI for Science 應用。
自社區成立理事會與技術委員會以來,MindSpore 逐步形成了清晰的定位:專注 AI 框架本身,與訓練推理加速庫、模型社區、評測與工具社區協同發展。目前,MindSpore 已支持超過二十五類模型,覆蓋腳本開發、并行訓練、效果微調到部署的全流程開箱即用能力。
在執行優化、自動微分、圖優化與集群調優等方面,MindSpore 通過框架能力為上層生態提供更高效的執行體驗。例如在大模型推理場景中,MindSpore 已實現對 vLLM 社區能力的全面對接,在一體機等關鍵場景下,無需修改代碼即可通過編譯加速獲得超過 15% 的性能提升。
昇思 MindSpore 社區技術委員會主席金雪鋒表示,在深度學習早期,模型規模較小,單卡即可承載,框架的核心并行形態以數據并行為主,本質是 SPMD 并行模式,對應單機編程范式,通過動態圖提升開發效率、靜態圖提升運行效率。
隨著大語言模型興起,模型規模躍遷至百億、千億甚至萬億級,單機無法承載,計算形態轉向集群。模型并行、序列并行、專家并行等方式應運而生,但本質仍是 SPMD,并逐步形成與 Transformer 強耦合的領域特定加速編程范式。
金雪鋒指出,全模態模型與 Agentic AI 的興起,以及算力底座向超節點架構演進,正在推動 AI 框架邁向新的架構范式。新范式的出現,主要源自三方面挑戰:模型序列長度持續增長、稀疏化加劇帶來的存儲壓力;全模態模型結構不規則化帶來的并行與優化復雜度;以及 Agentic RL 等新訓推范式對多任務異構調度的要求。
為此,MindSpore 與超節點硬件深度協同,提出 HyperParallel 架構,將超節點視為一臺超級計算機進行統一編程與調度,并引入三項關鍵技術:
Hyperoffload 通過計算與狀態分離,將權重、激活與優化器狀態卸載到外部內存池,片上內存僅作為緩存,在保證性能的前提下顯著緩解存儲瓶頸。實際效果顯示,訓練性能可提升約 20%,推理場景下可支持的序列長度提升約七成。
HyperMPMD 引入多維 MPMD 并行,解決計算負載不均問題。在子模型內、子模型間以及跨模態跨任務三個維度提升通算掩蓋率與資源利用率,使整體集群算力利用率提升約 15%。
Hypershard 則提供聲明式并行編程范式,實現算法與并行策略解耦,使新算法的并行化改造時間縮短至一天以內,并行調優從天級降至小時級。
金雪鋒表示,昇思 HyperParallel 架構把超節點看成一臺“超級計算機”進行編程和調度,充分發揮超節點架構優勢,實現 HyperShard 聲明式并行編程、HyperMPMD 異構非規則并行、HyperOffload 多級智能卸載等特性,加速 Agentic AI、全模態等新模型結構和訓推范式創新。
據悉,超節點親和的 HyperParallel 架構正式版本及配套的全模態與強化學習加速套件將于明年上半年發布。
與此同時,未來 MindSpore 社區還將在端側智能、架構開放以及行業使能等方向持續推進,覆蓋端側大模型與 Agent 加速、核心能力模塊化開放,以及面向 AI for Science 與行業遷移的工具體系建設。
技術人的年度儀式感! 年度盤點與趨勢洞察 啟動!
《2025 年度盤點與趨勢洞察》由 InfoQ 技術編輯組策劃。覆蓋大模型、Agent、具身智能、AI Native 開發范式、AI 工具鏈與開發、AI+ 傳統行業等方向,通過長期跟蹤、與業內專家深度訪談等方式,對重點領域進行關鍵技術進展、核心事件和產業趨勢的洞察盤點。
力求以體系化視角幫助讀者理解年度技術演化的底層邏輯、創新方向與落地價值,并為新一年決策提供參考。內容將在 InfoQ 媒體矩陣陸續放出,歡迎大家持續關注。
今日薦文
你也「在看」嗎?
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.