問智算時代，誰主沉浮：2021 MLperf?全球AI基準測試榜單背后

日前，國際權威AI基準測試MLPerf?公布了最新一期榜單。在總計40個測試項目中，中國智算系統廠商浪潮獲得18項性能第一，斬獲該榜單近半數的冠軍。那么問題來了，該榜單到底代表了什么？浪潮取得該榜單絕對優勢的背后又有何深意？

權威榜單，考驗企業軟硬兼施實力

提及MLPerf? ，其主要是用于測試 ML（MachineLearning）硬件、軟件以及服務的訓練和推理性能的公開基準，該行業基準測試組織自 2018 年 5 月成立以來，得到了亞馬遜、百度、Facebook、谷歌、哈佛大學、英特爾、微軟和斯坦福大學等支持，一直在跟隨 AI 的發展步伐持續演進。

需要說明的是，由于該測試的發起者和標準制定者以及參與者均是當下AI領域知名的學術研究機構和領先企業，所以其測試內容及結果對于AI 下一階段的算力、應用趨勢，以及衡量相關企業在AI領域的競爭力均具有相當的指引和參考價值。

以最新發布的2021 MLperf?全球AI基準測試榜單為例，其性能評測基于最新MLPerf?InferenceV1.0基準，涵蓋了圖像分類、目標檢測、醫療圖像分割、自然語言處理、語音轉文字和推薦系統6類AI應用場景，分為數據中心和邊緣兩類處理場景，每類場景都包含固定任務(Closed)和開放優化（Open)兩類性能競賽，共有浪潮、NVIDIA、英特爾、高通、阿里巴巴、戴爾、HPE等17家廠商參與了MLPerf競賽。

其中，浪潮在固定任務(Closed)的全部33個賽項中獲得18個冠軍，包括數據中心固定任務（Closed）的16個賽項中的11項性能第一和邊緣固定任務（Closed）的17個賽項中的7項性能第一。

究其原因，我們認為，其主要得益于浪潮在AI計算系統創新上卓越的系統設計能力和全棧優化能力。例如在硬件層面，通過對CPU、GPU硬件性能的精細校準和全面優化，使CPU性能、GPU性能、CPU與GPU之間的數據通路均處于最優狀態；在軟件層面，通過對TensorRT的深度優化，結合GPU硬件拓撲對多GPU的輪詢調度優化使單卡至多卡性能達到了近似線性擴展。

以此次獲得數據中心固定任務(Closed)11項性能第一、衛冕“性能王”的浪潮AI服務器NF5488A5為例，其是業界率先實現8顆高性能GPU液冷散熱的超強AI服務器，并通過深度優化系統設計，AI計算效能顯著提升，并確保設備可在高溫、高負載環境下穩定運行。

由此來看，浪潮在AI領域的領先性可謂實至名歸，但更為重要的，是其背后彰顯出的AI產業發展趨勢。

AI產業化，產業AI化，智算時代已來

如果說，上述2021 MLperf?全球AI基準測試榜單體現出了以浪潮為代表的中國在AI基礎算力上的實力，那么其背后顯現出的是全球，乃至中國AI產業化和產業AI化的趨勢。

我們先看所謂的AI產業化。其實上述測試的6大應景場景就是基于機器學習的AI產業化的典型表現。具體到產品，以我們熟悉的智能音箱為例，根據StrategyAnalytics發布的研究報告顯示，2020年，全球智能音箱的出貨量突破了1.5億部，未來市場空間巨大。

至于產業AI化，據麥肯錫發布的《人工智能對全球經濟影響的模擬計算》報告顯示，有一半的受訪者至少使用了一項人工智能功能，有一半的受訪者表示他們的收入因此增加了。換言之，人工智能技術已經滲透到企業的主流業務應用之中。

而到2030年，大約70%的公司至少采用其中一種人工智能技術，而不到一半的大公司可能會在其組織內使用全系列的人工智能技術，屆時人工智能到2030年可能會帶來約13萬億美元的額外經濟產出，每年將全球GDP提升約1.2%。

具體到中國，據艾瑞咨詢報告顯示，從2019年到2025年，中國人工智能核心產品的規模將保持年復合26.8%的增長率；人工智能相關產業為27.8%，二者合計到2025年的規模將達到20萬億元左右。

伴隨市場規模，隨之而來的則是包括金融、醫療、教育、無人駕駛、零售、制造等幾乎所有產業針對各種應用中的痛點，利用人工智能的產業升級。

以金融行業為例，面對成本壓力，利用語音識別、語義理解等技術打造智能客服，可以降低客服成本；面對服務單一，利用大數據、人工智能技術開發智能投顧，能向更多客戶提供個性服務；面對交易欺詐，人工智能與大數據相結合構建智能風控體系，多維度數據綜合評估，可以大幅提升風險管控能力。

正是由于上述AI產業化和產業AI化相互融合和發展的趨勢，基于單一CPU及架構組成的傳統數據中心已經不能滿足AI產業化對于算力和應用的需求，取而代之的將是以異構及全新生態構成的智算中心，并成為產業從傳統的計算時代邁向智算時代的重要標志。

硬核+生態應挑戰，智算中心的決勝之道

“人工智能計算需求未來將占據80%以上的計算需求，承載這種需求的就是AI算力中心，即智算中心。”針對上述AI產業化和產業AI化的趨勢，浪潮集團執行總裁、首席科學家王恩東院士早在去年就提出了智算中心這一代表AI時代新的計算模式。此后，該概念成為業內和產業的共識，而智算時代下，智算中心的新競爭賽道也就此正式開啟。

不過，伴隨智算中心競爭的加劇，挑戰也迎面而來，并主要體現在多元化、巨量化和生態化三個方面。那么接下來的是，誰能直面上述的挑戰，誰就能力主沉浮，脫穎而出。

其實在我們看來，所謂多元化和巨量化挑戰的根本就在于如何充分發揮算力的效率，加速AI的產業化應用。這就需要計算技術與產業構建一個新的發展格局。

以浪潮為例，在體系結構方面，浪潮在2014年提出了融合架構以及三步走技術路線，指明了數據中心體系結構的發展方向。目前已經從1.0走到2.0，以IO方式實現了存儲資源和FPGA、GPU、xPU加速設備池化，正逐步進入3.0階段，提供更高效、靈活、智能的體系架構。基于融合架構，浪潮正從硬件重構、軟件定義方面引領智算技術體系，支撐AI創新應用。

此處需要補充說明的是，在智算硬件平臺上，浪潮已經處在產業中絕對領先的位置。

其中的CPU服務器自不必多說，穩穩的中國市場第一和全球市場第三，在以GPU為代表的AI服務器方面，據IDC發布的2020HI《全球人工智能市場半年度追蹤報告》顯示，按市場規模計，其中浪潮以16.4%的市占率位居全球第一，是名副其實的全球AI服務器頭號玩家。

更讓我們吃驚的是，在AI加速服務器（非GPU服務器）市場，同樣是IDC的統計，去年浪潮在該市場按規模計，市場份額高達55%，領先排名第二竟達1倍多。

眾所周知，智算時代，作為智算的基礎，AI服務器成為一切邏輯運轉的根本。而浪潮領先的多樣化的AI計算平臺底座（異構計算的硬核實力），無疑為其在應對多元化和巨量化挑戰方面進一步夯實了競爭力，大幅提升了競爭的門檻。

就像我們前述，除了多元化和巨量化，生態化也是相關企業在智算中心亟待面對的挑戰。

眾所周知，智算時代，新興IT企業已經積累了大量優質的算法框架、模型和數據，這些優質的AI技術正是產業AI化過程中行業用戶所需要的，而這些同時也是為這些用戶服務的傳統合作伙伴所欠缺的，這就是所謂生態化的挑戰。

雖然說目前在智算中心的競爭中大家都在提生態，甚至不乏的有的企業提出“高大上”的目標，但在我們看來，唯有對癥下藥才能藥到病除。

我們還是以浪潮為例，針對上述生態化的挑戰，浪潮務實性地提出了元腦生態計劃，即聯合具備 AI 開發核心能力的左手伙伴和具備行業整體方案交付能力的右手伙伴共同組成，聚合了AI最強算力平臺、最優質的算法模型開發能力和最優質的集成、部署和服務能力，支撐和加速各行業、各產業與人工智能的融合，讓各個行業、各個產業具備可感知、自學習、可進化的能力，最終幫助用戶完成業務智能轉型升級，以生態之力成就行業、產業AI大腦。

截止到目前，元腦生態已經發展了1.5萬多的合作伙伴，包括2200多個行業ISV，超過90%的方案百強企業。在人工智能百強企業當中有85%都與浪潮有著深度的合作，這里面不僅包括BAT等互聯網頭部企業，也包括第四范式、寒武紀等AI的企業。可以說，在事關智算產業發展最為重要的生態戰中，浪潮也同樣走在了競爭的前列。

總結：一花獨放不是春，百花齊放春滿園。從產業競爭的角度，適應AI產業發展趨勢和特點的開放硬核和生態理應成為主流，其綜合實力決定著誰會是最終的贏家；從國家數字經濟基礎設施的戰略角度，智算中心在建設和競爭的過程中，一定秉承開放標準、集約高效、普適普適的原則以及公共屬性，只有這樣，中國的智算產業才能在競爭中健康有序地發展，才能真正成為推動中國數字化經濟轉型的基礎設施之基石。