DeepSeek時代，ASIC芯片加冕為王

從2022年底ChatGPT橫空出世，到2023年百模大戰，再到近三個月OpenAI推出GPT4.5、xAI發布Grok3、Anthropic推出Claude3.7 Sonnet、Meta發布Llama4，大模型迭代速度一直在加速。而國內則迎來一場開源的狂飆突進，DeepSeek開源了V3和R1，阿里通義千問開源了全新推理模型QwQ-32B。在這樣的發展之下，中國生成式AI用戶達到3億，超過人口的20%還多，而在去年年底這一數字是2.49億，三個多月的時間就增長了5000多萬。

對AI大模型來說，落地才是最緊迫的任務。所以，AI芯片的混戰下半場，已然逐漸從訓練端，卷到推理端。從器件形態來看，ASIC面對AI推理的效率一定更高。

昨日，谷歌最強AI芯片第七代TPU（張量處理單元）——Ironwood正式亮相，這款TPU芯片性能狂飆3600倍，直接叫板英偉達Blackwell B200。這或許意味著，ASIC的戰爭更進一步了。

ASIC：和GPU相互補

眾所周知，ASIC作為一種定制芯片，其計算能力和效率都嚴格匹配任務算法，芯片核心數量、邏輯計算單元、控制單元比例、緩存以及芯片架構都是精確定制，因此ASIC擁有價值的性能、體積、功耗。

但與之相對的，ASIC的開發需要很長的開發周期，并且具有很大的開發風險，所以英偉達GPU憑借其強大通用算力和軟件生態在AI時代取得勝利。

廠商對能效比和成本的追求是永無止境的，谷歌、亞馬遜、Meta、OpenAI等大型云計算和大模型廠商均加速布局定制化ASIC，ASIC正逐步發展成為英偉達GPU之外的重要新技術路線。摩根士丹利預計，AI ASIC市場規模將從2024年的120億美元增長至2027年的300億美元，復合增長率達34%。

對AI訓練來說，需要很強大的并行算力，而AI推理則對算力需求有所下降，同時算法也相對固定，加之目前很多企業的ASIC基本都完成研發。所以，現在逐漸形成英偉達GPU主導AI訓練，推理階段更多廠商轉向ASIC芯片的局面。當然，其中也有一些例外情況，比如蘋果選擇使用谷歌TPU訓練模型。

DeepSeek的出現更是推動行業關注推理上限，提升算力效率并降低成本，使競爭格局更趨多元。需要強調的是，ASIC最終不會取代GPU，而是與其分工協作。

谷歌TPU：性能再次起飛

TPU是一種專為處理張量運算而設計的ASIC芯片，由谷歌自研在2016年推出首款產品。在深度學習的世界里，張量（多維數組）是無處不在的。TPU就是為了高效處理這些張量運算而誕生的。

昨日，谷歌正式發布旗下第七代張量處理單元（TPU）Ironwood。谷歌稱，在大規模部署的情況下，這款 AI 加速器的計算能力能達到全球最快超級計算機的24倍以上。

單芯片規格上，Ironwood顯著提升了內存和帶寬，每塊芯片配備192GB高帶寬內存（HBM），是去年發布的上一代TPU Trillium的六倍。每塊芯片的內存帶寬達到7.2 terabits/s，是 Trillium的4.5倍。

此外，Ironwood擁有超模的技術規格，當每個pod擴展至9216塊芯片時，可提供42.5 exaflops的AI算力，遠超目前全球最快的超級計算機El Capitan的1.7 exaflops。每塊 Ironwood芯片的峰值計算能力可達4614TFLOPs。

目前，TPU芯片已經成為全球第三大數據中心芯片設計廠商，據產業鏈相關人士透露，谷歌TPU芯片去年的生產量已經達到280萬~300萬片之間。

國產TPU：耗時5年的全自研產品

國內也有一家廠商布局TPU，它就是中昊芯英。

中昊芯英由前谷歌TPU芯片核心研發者楊龔軼凡攜一批來自于谷歌、微軟、三星等海外科技巨頭公司的AI軟硬件設計專家于2018年創立。致力于以自研的TPU架構高性能AI芯片“ 剎那 ”與計算集群“ 泰則?”為核心，構建AI大模型計算所需的、國產自主可控的、能夠匹配海外先進水平的AI算力基石。當前已與各地政府、運營商、企業合作建設多個超大規模智算中心。

創始人楊龔軼凡擁有斯坦福大學碩士及密歇根大學學士學位，持有54項中國專利及15項美國和歐洲專利，發表ASSCC/ISSCC/JSSCC頂級論文3篇。深耕硅谷高端芯片研發十余年，曾主導Google TPU 2/3/4芯片研發及甲骨文SPARC T8/M8等12款高性能CPU設計，累計成功流片超10次。

產品方面，中國首枚高性能TPU架構AI芯片“ 剎那 ”是中昊芯英歷時近5年全自研的GPTPU架構高性能AI芯片，擁有完全自主可控的IP核、全自研指令集與計算平臺。在用于AI大模型計算場景時，“ 剎那 ”的算力性能超越海外著名GPU產品近1.5倍，能耗降低30%，成功打破了國外企業在高端AI芯片領域的壟斷地位。

“剎那 ”實現可重構多級存儲、存算一體設計、以及流水線式的時空映射，以強大的并行處理能力實現大模型計算速度和精度的雙重提升。同時采用Chiplet技術，2.5D封裝實現同等制程工藝下的性能躍升。支持1024片芯片片間互聯，系統集群性能遠超傳統GPU數十倍，集群擴容時性能可線性增長，以構建千卡、萬卡規模超算集群。

基于“剎那”芯片構建的“泰則” AI計算集群系統，實現1024片AI芯片的高速片間互聯，集群可實現線性擴容，單集群最大浮點運算能力達200P以上，系統級性能比傳統GPU集群提升數十倍 “泰則?”大規模AI計算集群可支撐包括超千億參數AIGC大模型運算、高級無人駕駛模型訓練、蛋白質結構精密預測、AlphaGo、 AlphaZero 等在內的各類高強度Al運算場景。

LPU：Groq借勢起飛

AI大模型時代，LPU異軍突起，作為一種全新的ASIC種類瘋狂被“吹捧”。

早在今年1月有消息傳出，美國推理芯片公司Groq已經在自己的LPU芯片上實機運行 DeepSeek，效率比最新的H100快上一個量級，達到每秒24000token。

此外，Groq曾于2024年12月在沙特阿拉伯達曼構建了中東地區最大的推理集群，該集群包括了19000個Groq LPU。

那么LPU到底是什么？

LPU本質上是專門為處理自然語言（NLP）任務而設計的一種新型硬件處理器（ASIC芯片）。不過，LPU和其他ASIC不一樣的地方在于存儲。其采用同時采用存算一體設計，把GPU中的HBM，換成了容量更低、但速度更快的SRAM。將高帶寬片上SRAM直接集成到芯片內部，有效地降低了內存的訪問延遲，還顯著提升了整體計算的吞吐量。說白了，就是ASIC+存算一體，所以比GPU快。

不過，雖然換成了SRAM，速度確實變快了，但是整體成本可能反而更高了。曾經有人粗略計算過，按照三年時間的運營成本來計算， Groq LPU采購成本會是英偉達H100的38 倍，運營成本達到了10倍。這么來看，其實LPU并沒有媒體們渲染地那么“神話”或者“王炸”。

雖然在通用性還有性價比LPU沒有GPU好，但是LPU的確實打實地提升了計算能力，擁有很好的能效比，也是可行路線之一。

NPU：時代的新寵

與TPU和LPU不同，NPU主要是用在邊緣AI中。大模型為AI注入新的活力之時，邊緣AI的需求也隨之增加，幾大處理器IP廠商，都在擴展基于邊緣的AI NPU，以卸載CPU的負載從而提升效率降低功耗。一些MCU廠商已在其產品中集成NPU內核，其中比如NXP、TI、英飛凌、ST、ADI等都是采用自研的NPU IP內核。市場上也會存在一些第三方的NPU IP廠商：

Arm Ethos NPU：在2020年初正式推出Ethos-U55，目前已經推出三代產品，目前產品包括Ethos-U55、Ethos-U65。目前已有ALIF、Himax（奇景）、Nuvoton（新唐）、Infineon（英飛凌）推出了基于Cortex-M55+Ethos-U55組合的產品。

安謀科技周易NPU系列：2023年安謀發布自研“周易”X2 NPU，針對ADAS、智能座艙、平板電腦、臺式機和手機等細分應用場景進行了大量性能優化，此外，安謀科技還有“周易”Z系列NPU。值得一提的是，安謀科技新一代“周易”NPU實現DeepSeek-R1端側高效部署。

Ceva：具體產品包括Ceva-NeuPro-Nano、Ceva-NeuPro-M、Ceva-NeuPro Studio等。

Cadence：Cadence的Tensilica Neo NPU是高效能、低功耗的神經處理單元（NPU），專為嵌入式AI應用設計。

Synopsys：Synopsys ARC NPX6 NPU IP 系列是業內性能最高的神經處理單元（NPU）IP，專為滿足AI應用的實時計算需求而設計，具備超低功耗。該系列包含ARC NPX6和NPX6FS，支持最新的復雜神經網絡模型，包括生成式AI，并提供高達3500 TOPS的性能，適用于智能SoC設計。

芯原：官方表示其NPU IP的AI芯片在全球范圍內出貨量超過了1億顆，主要應用在物聯網、可穿戴、智能家居、安防監控、服務器、汽車電子、智能手機、平板電腦等市場。據悉，其NPU IP已被72家客戶用在了128款AI芯片當中。最新推出的VIP9000系列NPU IP提供了可擴展和高性能的處理能力，適用于Transformer和卷積神經網絡（CNN）。

晶心科技：AndesAIRE AnDLA I350 是一款深度學習加速器，專為邊緣和終端推理設計，提供高性能和高效能的AI解決方案。

其他ASIC芯片：伺機待發

ASIC領域，博通和Marvell是兩位主要玩家，二者在AI定制芯片中占據了約70%的市場份額。

博通在AI芯片領域的核心優勢在于定制化ASIC芯片和高速數據交換芯片，其解決方案廣泛應用于數據中心、云計算、HPC（高性能計算）和5G基礎設施等領域。最新財報顯示，博通的AI相關業務收入同比激增220%，主要受AI加速器和網絡設備的旺盛需求推動。博通CEO陳福陽（Hock Tan）在財報會議上透露，到2027年，其三大客戶對AI定制芯片的需求規模預計將達到600億~900億美元。

博通有兩個大合作備受關注：第一是Meta與博通已合作開發了前兩代AI訓練加速處理器，目前雙方正加速推進第三代MTIA芯片的研發，預計2024年下半年至2025年將取得重要進展。第二是OpenAI已委托博通開發兩代ASIC芯片項目，計劃于2026年投產，將采用業界領先的3nm/2nm制程工藝并搭配3D SOIC先進封裝技術。與此同時，雖然蘋果目前仍在使用谷歌TPU，但其自研AI芯片項目已在積極推進中。

Marvell的定制ASIC業務正成為其增長的關鍵引擎。2019年，Marvell以7.4億美元收購格芯（GlobalFoundries）旗下Avera半導體，正式進軍ASIC市場。如今，該業務已成功吸引亞馬遜、谷歌等科技巨頭的訂單。

2024年12月，Marvell與AWS（Amazon Web Services）達成五年多代合作協議，涵蓋AI芯片定制設計，進一步深化其在云計算市場的布局。Marvell預測，隨著AI算力需求爆發，ASIC業務占比將提升至25%，并預計到2028年，數據中心ASIC市場規模將增長至429億美元。

去年年底，AWS發布了新一代AI訓練芯片Trainium3。這是首款采用3nm工藝節點制造的AWS芯片，能效提高40%、性能翻倍提升。搭載Trainium3的UltraServer性能預計將比Trn2 UltraServer高出4倍。首批基于Trainium3的實例預計將于2025年底上市。

2023年，微軟也發布了專門用于云端訓練和推理的AI芯片（ASIC）Microsoft Azure Maia 100。Maia 100是微軟為微軟云中大語言模型訓練和推理而設計的首款AI芯片，采用臺積電5nm工藝，晶體管數量達到1050億個，因此，當涉及到晶體管或時鐘速度時，它并不屬于輕量級。同時，針對AI和生成式AI進行了優化，支持微軟首次實現的低于8位數據類型（MX數據類型）。

總 結

ASIC不會完全取代GPU，但將成為推理市場主導力量，也會在訓練領域有所發展。谷歌TPU、國產“剎那”、Groq LPU等創新架構，正推動AI算力向高效、低成本方向發展。未來，隨著大模型繼續發展，ASIC一定還會有更大的發展。

參考文獻

[1]中國電子報：https://mp.weixin.qq.com/s/1Drsaz4gfkLQC3TjvaoV6w

[2]鮮棗課堂：https://mp.weixin.qq.com/s/9i5qcCGZj1ynCkTfsA01Yg

[3]機器之心：https://mp.weixin.qq.com/s/MQRWr_i76Vrw8Z5YQaIbeA

[4]騰訊研究院：https://mp.weixin.qq.com/s/-KhpFHznaLlvbkkIUlSW_A

[5]差評：https://mp.weixin.qq.com/s/I4ox6Ir5xk3MvwKbVH3grQ

歡迎將我們設為“星標”，這樣才能第一時間收到推送消息。

關注EEWorld旗下訂閱號：“機器人開發圈”

回復“DS”領取《DeepSeek:從入門到精通》完整版

掃碼添加小助手回復“機器人”

進群和電子工程師們面對面交流經驗