華為宣布 CANN 全面開源開放，它會成為中國版的CUDA嗎？

日前，華為昇騰計算產業發展峰會在北京召開，會上宣布昇騰硬件使能CANN全面開源開放，Mind系列應用使能套件及工具鏈也全面開源，以支持用戶自主開發，加速AI創新與應用。

在昇騰計算產業發展峰會上，華為輪值董事長徐直軍宣布，華為昇騰硬件使能CANN全面開源開放，Mind系列應用使能套件及工具鏈全面開源，支持用戶自主的深度挖潛和自定義開發，加速廣大開發者的創新步伐，讓昇騰更好用、更易用。

華為的CANN會成為中國版本的CUDA嗎？我們來分析一下。

一、什么是CANN

CANN的全稱是“神經網絡異構計算架構”（Compute Architecture for Neural Networks），它的角色，是把上層AI訓練框架（如PyTorch、TensorFlow、MindSpore等）和底層昇騰芯片連接起來的橋梁，讓開發者不用關心芯片細節就能調用底層算力。與CANN作用類似的，還有英偉達的CUDA和AMD的ROCm，以及中國摩爾線程的MUSA、壁仞科技的BIRENSUPA、寒武紀的Neuware和海光信息的DTK等等。但最知名和影響力最大的還是英偉達的CUDA，它與英偉達GPU和NVlink構成英偉達的核心護城河。

不可否認，與發展了18年的CUDA生態相比，剛起步六七年的CANN，易用性和生態豐富度仍存在差距，并且任重道遠。去年9月，為了讓客戶適應新生態，華為效仿英偉達最初推廣CUDA的策略，向百度、科大訊飛和騰訊派遣了工程團隊，幫助他們在CANN環境中重現和優化現有的基于CUDA的訓練代碼。

簡單說，CANN就是一個是適用于華為昇騰芯片的軟件開發接口，便于編程者開發。

二、CUDA是怎么發展起來的？

首先，我們要搞清CUDA是怎么來的？

CUDA不是一朝一夕之功啊。

總所周知，nVIDIA一開始是一個臭打游戲的。

它起家是給游戲機做圖形卡，后來報上微軟的大腿，全力支持DX，成為PC機顯卡的王者。

因為PC機的3D顯卡，需要CPU配置計算，為了提速，老黃在geforce256上增加了硬件T&L功能。

這樣顯卡就有了做數學計算的可能。

2001年，斯坦福大學Bill Dally教授團隊在處理器微結構旗艦期刊《IEEE Micro》上發表了一篇題為“Imagine: Media Processing with Streams”的論文正式介紹Imagine項目，一個可加速多媒體應用的流處理器（Stream Processor）結構。

這項工作很快引起了英偉達的關注，并向Dally教授伸出橄欖枝。

2003年，Dally教授擔任英偉達的顧問，參與公司新一代GeForce 8800系列GPU的微架構設計，指導如何在GPU中加入流處理器（Stream Processor），讓GPU具備浮點運算能力。

2006年11月，第一款GeForce 8800 GTX GPU發布，包含128個流處理器，單精度浮點運算性能達到345.6GFLOPS，訪存帶寬86.4GB/s，遠高于同期CPU性能。

與此同時，斯坦福大學一位年輕的博士生Ian Buck在導師Pat Hanrahan教授（2019年圖靈獎得主）的指導下開展如何方便且高效發揮GPU能力的研究。2004年，Ian Buck發表了一篇題為“Brook for GPUs: Stream Computing on Graphics Hardware”的論文，為GPU設計了一套支持流編程（Stream Programming）語言的編譯器和運行時系統Brook，從而能讓開發者像在通用CPU上那樣進行編程。

這項工作旋即得到英偉達的青睞，于是2004年Buck博士畢業后便立刻加入英偉達，帶領兩位工程師創立了CUDA項目。

2007年，CUDA 1.0正式發布，全面適配GeForce 8800系列GPU。

隨后，伊利諾伊州立大學香檳分校（UIUC）的胡文美教授團隊在GeForce 8800 GPU上用CUDA實現一些程序，性能比通用CPU高10倍到400倍不等，充分展示了GPU的高性能與可編程性。

你看，CUDA是這么來的。

老黃自己的顯卡能做一些計算，然后有人提出了流處理器的想法，老黃立即挖人來干，5年時間，弄出來流處理器硬件。

2004年，老黃的流處理器還沒出來，有人提出來GPU的流編程，老黃又把人挖過來，等到第一款流處理器的顯卡出來以后，CUDA的1.0也就有了。

2007年，國防科大楊學軍院士帶領團隊在國際計算機體系結構旗艦會議ISCA上發表題為“A 64-bit stream processor architecture for scientific applications”的學術論文，揭示了流處理器架構可大幅加速科學計算。這項工作不僅為具備大量流處理器的GPU開辟了新應用場景，也為超級計算機架構設計開辟一條新技術路徑，即采用“CPU+GPU”異構結構提升性能。

2009年11月，采用Intel CPU+ATI GPU異構結構的“天河一號”名列Top500排行榜第五。有意思的是中國用的是AMD的CPU。

其實，這種混合架構，最早還是PS3游戲機的Cell處理器，只不過GPU把運算單元分離了。

從此以后，老黃的卡成為科學計算的標配，AMD的卡計算能力不差，但是沒有CUDA生態，Open AL它沒有那么好用。

但是，這是市場不大，相比游戲市場九牛一毛

而老黃沒有止步，它搞了nvlink來解決卡間通信問題，以前這個東西叫SLI，是從voodoo哪里買的多顯卡渲染技術后，一步步發展起來的。

老黃自己搞過芯片組，搞過網卡，搞過聲卡，網卡能戰當時是3COM（還不是華三），聲卡計算能力戰當時的創新（新加坡公司）

一直到，比特幣興起，挖礦紅利，老黃和AMD都吃了一大波。

再就是AI

本來AI和老黃并不是絕對關系，當年戰勝卡斯帕羅夫的是IBM的超級計算機

但是，老黃十多年如一日，深耕高性能計算，到了AI需要算力的時候，大家很自然的買老黃的卡，用CUDA算。

這就輪到我們熟悉的李飛飛同學出場了，她搞了一個ImageNet的圖像識別，應用人工智能，在2009年正式發布后并未得到很大的反響。

為了推廣ImageNet，李飛飛教授團隊決定啟動一項基于ImageNet的物體識別競賽。2010年第一屆競賽冠軍識別錯誤率為28%，2011年第二屆競賽冠軍錯誤率降到約25%。這個時候還是基于CPU的。

當時谷歌還搞過無人駕駛大賽，也是用CPU的服務器。

可以說AI一直在發展，只是CPU弱雞，沒有太大進展，然后這個時候老黃下場了。

2012年的第三屆競賽，Hinton教授與其兩位學生Ilya Sutskever 和 Alex Krizhevsky帶著使用英偉達GPU+CUDA訓練出來的深度神經網絡AlexNet參加競爭，將錯誤率大幅降低了近11個百分點，高出第二名41%。

此后幾屆ImageNet競賽冠軍都采用深度學習技術，并在短短的四年內就將識別錯誤率降低到3%（2016年冠軍成績），超越了人類。

然后就是2016年，這套深度學習用來下圍棋，戰勝李世石，給AI做了全球大廣告。而用的計算平臺也是CUDA和老黃的卡。

從此，老黃的計算卡從小眾默默無聞到大紅大紫。CUDA也在積累10年以后，成為AI的業界標準和護城河。

大模型發展是ChatGPT搞起來的，國內流行起來是因為deepseek蒸餾了ChatGPT，大幅度減低了本地部署的門檻讓這個東西平民化，通用化。

隨便一個人都能玩各種開源的大模型，甚至可以用它寫高水平的文章。

可以說，CUDA是從20多年一步步從硬件到軟件一步步發展起來的，積累深厚。

三、CANN能追趕CUDA嗎？

昇騰910是華為2019年才開始搞的東西，是和谷歌類似的加速器思維。

華為入場是先與寒武紀合作，在麒麟970里面集成NPU算力，然后自己搞一個大的NPU，這個大的NPU就是昇騰910

期間，華為遇到一系列困難，但是昇騰910一步步發展到了昇騰910C，算力有所提升，而且增加了互聯方案的384集群。

然而，搞到2025年，大家確實發現NPU不好用，即使的華為自己的盤古大模型，用自己的昇騰系列也是困難重重，內部除了很多問題，有小團隊用阿里千問的模型，用英偉達的GPU來跑，獲取內部資源。

所以，華為準備在昇騰910D上，學習英偉達搞也GPGPU。

現在CANN，應該相當于英偉達2006年以前的階段。

目前，昇騰910D還沒出來，CANN是給NPU搞呢還是給GPGPU搞呢？這個還有很大空間。

大約要等昇騰910D以后再說。

CANN這個東西關鍵在于能兼容CUDA的生態，轉換也好，直接兼容也好，CUDA開發的成果能低成本轉移就行。

麒麟910D加上CANN，能低成本把以前的AI開發成果拿過來用，華為的384集群，用16個機柜，實現了英偉達2個機柜的性能，而且做到了機柜之間的池化，這是英偉達做不到的，它只做到了單機柜的池化。而且未來能池化的不止16個機柜。

對于重大項目來說，可以用一個大樓的機柜，實現所需的算力，徹底解決掐脖子的問題，

未來，華為需要做很多。

首先，要實現昇騰910D從NPU向GPGPU的轉化，讓昇騰系列好用。

其次，要實現CANN低成本兼容CUDA的成果，讓用戶拿自己的CUDA下開發的資源能用。

然后，還需要把集群算力搞起來，用戶可以通過很多個機柜實現英偉達的算力，無法多用點電力，中國不缺電。

這幾個條件實現了，華為就將在AI市場真正占有一席之地。