一口氣讀懂CPU、GPU、AI芯片、GPGPU、DPU的區(qū)別

我們先把電腦想象成一個(gè)大公司，公司里要干活就得有人干活，這些“人”就是芯片。

1、CPU —— 公司老總（萬(wàn)能但只有一個(gè)）

• 類比：CPU 就像公司里最聰明的老總，一個(gè)超級(jí)大腦。

• 他什么都會(huì)干：寫(xiě)郵件、算賬、管人、開(kāi)會(huì)、做PPT……樣樣精通。

• 但問(wèn)題來(lái)了：老總只有一個(gè)人！公司幾千件事都要他親自干，他再牛也忙不過(guò)來(lái)。

• 所以CPU的特點(diǎn)是“串著干活”，一條指令做完再做下一條，特別聰明但特別慢當(dāng)活太多的時(shí)候。

• 現(xiàn)在的電腦、手機(jī)里一般有4核、8核、16核CPU，相當(dāng)于請(qǐng)了4~16個(gè)老總一起干活，但還是遠(yuǎn)遠(yuǎn)不夠。

• 類比：GPU 就像包工頭一下帶了2000個(gè)民工去砌墻。

• 每個(gè)民工都不聰明，只能干最簡(jiǎn)單的“搬磚-放磚-抹水泥”這一套動(dòng)作。

• 但2000個(gè)人一起干呢？一天就能砌好一棟樓！

• 所以GPU特別適合“成千上萬(wàn)個(gè)簡(jiǎn)單重復(fù)的計(jì)算同時(shí)進(jìn)行”。

• 玩3A游戲?yàn)槭裁葱枰蔑@卡？因?yàn)橛螒蚶镆瑫r(shí)算幾百萬(wàn)個(gè)像素的光影、反射、爆炸特效……這些都是“同一類簡(jiǎn)單計(jì)算”，GPU一口氣全算完，畫(huà)面就絲滑了。

• 最早GPU只能打游戲，后來(lái)聰明人發(fā)現(xiàn)：

“這2000個(gè)民工這么能干，干嘛只讓他們砌墻？能不能讓他們?nèi)ニ憧茖W(xué)計(jì)算、挖比特幣、訓(xùn)練AI？”

• 于是就有了GPGPU（General-Purpose GPU，意思是“通用GPU”。

• 2006年NVIDIA推出CUDA以后，程序員終于能方便地命令這2000個(gè)民工去干以前只有老總（CPU）能干的復(fù)雜活。

• 現(xiàn)在所有現(xiàn)代GPU默認(rèn)都是GPGPU了，這個(gè)詞反而很少單獨(dú)提了。

• 現(xiàn)在最火的ChatGPT、Midjourney、文心一言、Sora……全靠AI芯片訓(xùn)練和運(yùn)行。

• AI芯片其實(shí)分兩類：

A. 訓(xùn)練芯片（最燒錢(qián)）

• 代表：NVIDIA H100、A100、華為昇騰910B、谷歌TPU v5

• 類比：這是蓋100層摩天大樓需要的超級(jí)大工地，要成千上萬(wàn)的民工（算力核心）一起干幾年。

• 一張H100賣(mài)30多萬(wàn)人民幣，還買(mǎi)不到，就是這種。

B. 推理芯片（用AI時(shí)用的）

• • 代表：手機(jī)里的NPU（神經(jīng)網(wǎng)絡(luò)處理器）、蘋(píng)果的Neural Engine、英偉達(dá)Jetson系列

  • 類比：大樓蓋好了，保安、電梯、燈全自動(dòng)運(yùn)行，這就靠推理芯片。

• AI芯片和GPU長(zhǎng)得很像（都是幾千上萬(wàn)個(gè)小核心），但內(nèi)部電路專門(mén)為矩陣乘法、神經(jīng)網(wǎng)絡(luò)優(yōu)化過(guò)，比普通GPU跑AI快幾十倍，還省電。

• 類比：一個(gè)超級(jí)大數(shù)據(jù)中心就像一個(gè)10萬(wàn)人居住的小區(qū)。

• • CPU = 小區(qū)主任（啥都管，但忙死）

  • GPU = 建筑工人（干重活）

  • DPU = 專門(mén)請(qǐng)來(lái)的“物業(yè)公司”！

• DPU（Data Processing Unit 數(shù)據(jù)處理單元）專門(mén)干以下臟活累活：

• • 網(wǎng)絡(luò)數(shù)據(jù)包的收發(fā)、轉(zhuǎn)發(fā)、加密解密

  • 存儲(chǔ)數(shù)據(jù)的壓縮、去重、備份

  • 虛擬化、安全防火墻、負(fù)載均衡……

• 把這些事從CPU手里搶過(guò)來(lái)以后，CPU終于能專心跑真正的程序了。

• 代表產(chǎn)品：NVIDIA BlueField系列、Intel IPU、阿里云含光800（部分功能）、華為昇騰310（也做DPU）

• 以后云服務(wù)器都會(huì)標(biāo)配DPU，就像現(xiàn)在都標(biāo)配GPU一樣。

名字

類比

擅長(zhǎng)干啥

典型場(chǎng)景

CPU

公司老總

什么都會(huì)，但就那么幾個(gè)人

運(yùn)行軟件、辦公、編程

GPU

2000個(gè)民工

成千上萬(wàn)相同的簡(jiǎn)單計(jì)算

打游戲、渲染視頻、挖礦

GPGPU

民工開(kāi)始干精細(xì)活

上面說(shuō)的都能干（現(xiàn)在默認(rèn)就是）

科學(xué)計(jì)算、早期AI訓(xùn)練

AI芯片

專為AI優(yōu)化的民工團(tuán)

矩陣乘法、神經(jīng)網(wǎng)絡(luò)算得飛快

ChatGPT訓(xùn)練、手機(jī)AI拍照

DPU

物業(yè)公司

管網(wǎng)絡(luò)、存儲(chǔ)、安全，讓CPU休息

阿里云、谷歌云、5G基站

總結(jié)：CPU是萬(wàn)能老總，GPU是人多力量大，AI芯片是GPU的加強(qiáng)版專門(mén)打AI，DPU是幫老總打雜的新員工。

歡迎加入半導(dǎo)體學(xué)習(xí)社區(qū)，每天了解一點(diǎn)知識(shí)。

歡迎加入行業(yè)交流群，備注崗位+公司，請(qǐng)聯(lián)系老虎說(shuō)芯