MLPerf AI存儲基準測試，中國速度領跑

近日，MLCommons協會發布最新MLPerf? Storage v1.0 AI存儲基準測試成績。

測試結果頗有些意外，卻又在情理之中：以浪潮信息為首的三家中國存儲廠商位列MLPerf? Storage多項細分評測最佳，中國速度在全球AI存儲權威測試中實現領跑。這既是中國數據存儲產業整體實力近年來穩步提升的客觀反映，也是AI時代中國存儲廠商產品與技術創新能力的集中體現。

隨著AI技術與AI應用不斷進入到千行百業，各大行業圍繞AI、數據要素等發展新質生產力已成為確定性趨勢。可以預見，算力與存力齊頭并進的局面也將全面打開，而中國存儲廠商在AI存儲領域的持續創新，有望推動存算協同效應持續優化，讓AI技術在千行百業中遍地開花。

MLPerf測試：存儲性能的一把新標尺

一直以來，性能都是衡量存儲系統的重要指標之一。

過去，SPC測試（Storage Performance Council,存儲性能委員會測試）是存儲系統性能的權威評測；如今，隨著AI大模型獲得越來越多應用，關鍵在于對于大規模海量數據的高效處理，這不僅僅需要強大的AI算力，亦離不開存儲系統在性能、可靠性等方面的有力支撐。那么，如何衡量存儲在AI場景中的性能、可靠性等能力？

為此，MLPerf?應運而生。MLPerf? 是影響力最廣的國際AI性能基準評測，由圖靈獎得主大衛?帕特森（David Patterson）聯合頂尖學術機構發起成立，并于2023年推出MLPerf? Storage基準性能測試，該測試通過準確建模ML工作負載所產生的I/O模式來幫助解決存算平衡問題，為不同存儲系統和不同加速器類型的混合和匹配提供靈活性，為ML/AI模型開發者選擇存儲解決方案提供權威的參考依據。

據悉，MLPerf? Storage基準性能測試推出兩年時間里，已歷多個版本迭代，并獲得全球多家廠存儲廠商的積極參與和支持。以本次測試為例，評測圍繞醫學影像分割、圖像分類、宇宙學參數預測三大AI存儲應用場景，采用主流的3D-Unet、ResNet50、CosmoFlow三類模型，在GPU利用率高達90%或70%的條件下，以帶寬和支持的模擬 GPU （模擬加速器）數量為關鍵性能指標，評估單客戶端或集群模式下存儲系統的性能表現。

可以說，MLPerf? Storage基準測試正迅速成長為衡量存儲在AI場景中性能產品力的一把標尺。浪潮信息存儲產品線副總經理劉希猛介紹，ML commons協會已有超過160個會員，MLPerf? Storage基準測試建立之初就以架構中立、公平性和可重復性為宗旨，從測試的設計端盡量確保客觀、公正地反映存儲系統在AI場景中的的性能。

再仔細分析MLPerf? Storage基準測試，其數據格式、測試套件框架、測試邏輯和流程均高度適配真實AI場景，任何存儲廠商均能在相同的、公正的平臺上測試自身軟、硬件的產品性能，從而快速評估自身產品的能力。

例如，MLPerf? Storage基準測試為保證測試公正性，通過運行一個分布式訓練測試程序，模擬GPU計算過程，最大程度還原AI服務器對存儲系統的訪問，在滿足計算資源利用率和IO時間相同的條件下，比較存儲在同樣時間里加載和處理數據的利用率，以此來測試存儲系統能夠支撐的最大GPU數量和性能表現。

“像3D-UNet測試不允許提前在主機上緩存數據，數據需要從存儲節點讀取，能夠更加全面、科學體現存儲系統在大規模AI集群中的性能表現。”浪潮信息分布式存儲方案架構師Lance Sun介紹道。

事實上，全球有十三家重量級存儲廠商參與本次評測，以浪潮信息為代表的三家中國存儲廠商表現優異。其中，浪潮信息更是主動選擇封閉賽道，嚴格遵循既定配置和代碼規范，其分布式存儲平臺AS13000G7在3D-UNet和CosmoFlow兩個模型共計8項測試中斬獲5項最佳成績，展現出極強的產品競爭力。

中國速度領跑

為什么中國存儲廠商能在MLPerf? Storage性能基準測試中領跑？

事實上，這更像是中國存儲產業不斷積累和持續成長的必然結果。十年前的SPC測試開始，中國存儲產品逐漸登陸SPC性能榜單之中，那時候中國存儲廠商渴望在國際權威舞臺中證明自己，后來甚至屢次上演霸榜的好戲，“不服？跑個分！”成為中國存儲廠商的常規操作。

隨著AI大模型的興起，AI場景的大量涌現，對于存儲系統的性能、多協議、可靠性、數據管理等帶來深遠影響。與SPC那套成熟的測試機制相比，以MLPerf? Storage為代表的聚焦AI場景的存儲基準測試剛剛起步，尚處于高速發展的階段。此時，中國存儲廠從早期就積極參與其中，更像產業新標準、新規則制定的參與者，是趨勢理解、技術能力、場景洞察等能力的綜合體現。

例如，在本次MLPerf? Storage基準評測中，浪潮信息率先在Cosmoflow場景中發現問題，即哪怕將數據集放在內存之中，GPU的利用率依然達不到90%。因此，浪潮信息第一時間與MLCommons進行溝通，反饋測試套件、平臺標準的缺陷，并與英偉達等公司一起討論、論證，最終制定出Cosmoflow場景GPU70%利用率的標準。

另外，像浪潮信息能夠在3D-UNet和CosmoFlow兩個模型共計8項測試中斬獲5項最佳，離不開其較早涉足大模型訓練、推理等場景的深度實踐，對于AI場景中軟硬協同有著深刻理解，并且從整體架構到軟硬件各個技術棧進行多個層面的針對性創新，從而在MLPerf? Storage基準評測中實現領跑。

例如，在架構層面，浪潮信息采用自研分布式軟件棧，通過全新數控分離架構，數據面和控制面完全解耦，實現120 GB/s的單存儲節點超高性能，單存儲節點支撐5臺8卡計算節點規模，同時計算集群GPU利用率90%以上；在軟件層面，浪潮信息通過多路并發透傳技術，有效減少I/O操作中頻繁的上下文切換，降低單次I/O時延50%，并確保高并發下的時延穩定性；在軟硬協同層面，浪潮信息通過內核親和力調度，I/O請求動態調整，增強文件系統與計算節點親和性，確保負載均衡，將數據移動與多核CPU之間的訪問效率提升400%。

劉希猛介紹，針對AI場景的實踐，浪潮信息的存儲產品有兩個核心策略：其一是以客戶需求為導向，從實際AI場景應用出發來打造定制化的存儲產品；其二，通過成熟的AI場景解決方案能力來精準平衡客戶需求、資源分配與成本控制，為AI場景構建堅實的數據支撐平臺。

MLperf后續：存算協同將深入人心

毫無疑問，AI大模型徹底改變了基礎設施的規模與復雜性。

如今，隨著AI大模型加速走向各大垂直行業，千卡、萬卡集群也在不斷涌現，并且多元算力也加速成為主流配置。可以說，在算力側的巨大變化，無疑會進一步全面提高對存儲側在性能、可靠性、容量、功耗和管理的要求。

因此，存算協同在未來必然會獲得更多用戶的關注。MLPerf? Storage基準性能測試無疑開了個好頭，真正從基準測試的維度來衡量存算協同能力，也值得廠商、用戶等更多關注。

在Lance Sun看來，MLPerf? Storage基準性能測試剛剛開展兩年，但在產業界已產生了重要影響，值得持續關注和參與。首先，未來一定會有包括更多中國廠商參與到MLPerf? Storage基準性能測試中來；其次，未來像向量數據庫、能耗等一些新的規則有望引入，測試標準和規范會得到持續迭代、完善，讓基準性能測試更加科學準確。

綜合觀察，在數實融合和發展新質生產力的驅動下，千行百業加速擁抱人工智能已是大勢所趨。隨著AI大模型技術自身的快速發展，對于算力、存力等基礎設施帶來巨大變革。如何最大化發揮基礎設施的價值，讓存算協同的重要性迅速提升，也驅動著中國存儲產業加速成長與持續創新。MLPerf? Storage基準性能測試拉開AI存儲賽道比拼的新序幕，以浪潮信息為代表的中國存儲廠商有望在這條賽道中跑出中國速度、引領存儲新變革。

大數據在線是聚焦人工智能、大數據、云計算等前沿科技領域深度觀察的深度媒體。目前，大數據在線在微信公眾號、今日頭條號、新浪財經、36氪、雪球號、觀察號等主流自媒體平臺均有入駐，積累粉絲超過20W；并榮獲今日頭條十大科技新銳媒體、商業新知十大人工智能媒體等多項殊榮。商務聯系請添加微信：Owen_Inter，添加請備注具體信息。