對話清華大學教授馬愷聲：AI芯片理論上能被定位、遠程關閉，發展國產芯片很緊迫

清華大學交叉信息研究院長聘副教授馬愷聲

出品｜搜狐科技

作者｜張雅婷

編輯｜楊 錦

• 高端AI芯片是必爭之地，但走別人的路很難超過別人，所以要發展Chiplet、 3D DRAM堆疊、3D Flash堆疊、Wafer-Scale集成等先進技術路線。

• 從技術角度來說，芯片可以被實時位置驗證、遠程關閉，所以用海外廠商的芯片的安全風險是存在的。

• 寒武紀股價超過茅臺，肯定是件好事兒，因為做芯片很燒錢。

• 北極雄芯在車載場景，我們算“第一個吃螃蟹的人”，拓展性、迭代性都比傳統方案有巨大優勢。

“國產芯片是必爭之地，如今我們在工藝導致的算力上和國外差了幾個generation（代際）。”

近日，清華大學交叉信息研究院長聘副教授馬愷聲在和搜狐科技交流時表示，大模型會改變人類的生活方式，而國內不缺數據、算法能看齊國外，AI芯片是必須要建設好的基礎設施。

馬愷聲2018年畢業于美國賓夕法尼亞州立大學，同年經姚期智院士招募回國并任職于清華大學。他的研究方向是后摩爾時代的先進芯片架構，曾獲得EDAA 2018年杰出博士論文、HPCA最佳論文等獎項。

AI芯片，尤其是GPU長期被英偉達“統治”，占據超八成的市場份額。不過今年以來，國產AI芯片發展勢頭迅猛。在資本市場上，摩爾線程、沐曦股份、壁仞科技等頭部GPU廠商正集體沖刺IPO。

發展國產AI芯片，也有出于安全的考慮。7月底，國家網信辦就H20算力芯片漏洞后門安全風險約談英偉達公司。此前有美國人工智能領域專家透露，英偉達算力芯片“追蹤定位”“遠程關閉”技術已成熟。

馬愷聲表示，單純從技術上來說，確實是有風險的，之前英偉達還鎖過卡，因為當時英偉達不希望有人拿它來“挖礦”。

整體來看，馬愷聲認為，國產AI芯片現在處于“以前沒有、現在能用”的狀態，要想在芯片領域超過別人需要“另辟蹊徑”，而不是走別人走過的路。比如，用Chiplet （3D DRAM堆疊、3D Flash堆疊、Wafer-Scale集成）等技術做芯片。

2021年，馬愷聲創立北極雄芯公司，基于Chiplet（芯粒）這種先進技術，面向AI、汽車、機器人三大領域布局芯片業務，希望推動在芯片這種“卡脖子”關鍵技術領域，用不同的技術路線做出來的芯片能夠得到應用。

Chiplet的概念最早源于1970 年代誕生的多芯片模組，通俗來說，也就是從原來設計在同一個SoC中的芯片，被分拆成許多不同的小芯片分開制造再加以封裝或組裝。近年來，摩爾定律逐漸失效，如果進一步堆積算力成為主要的挑戰。也就衍生出超越光罩尺寸芯片集成的需求，甚至多卡、多機、多數據中心Scale up、Scale out、Scale cross的需求。

馬愷聲向搜狐科技表示，Chiplet技術可以把大芯片做小，在國內也有很現實的意義，在國產芯片工藝和良率還在爬坡的情況下，如何利用良率還在爬坡的工藝做出有競爭力的產品，以及如何用國內還比較有競爭力的封裝工藝進行集成，具有巨大的戰略意義。

以下為對話實錄：

搜狐科技：前段時間，網信辦約談英偉達，要求其就對華銷售的H20算力芯片漏洞“后門”安全風險問題進行說明。從技術角度來說，芯片能做到實時位置驗證、遠程關閉嗎？

馬愷聲：確實有這樣的可能性，比如拋開這個事情來看，很早之前英偉達是鎖過卡的，因為當時英偉達不希望有人拿它來“挖礦”。大部分服務器都是聯網的，理論上都可以遠程關閉、實時位置驗證。但從公司的角度來看，是否有必要花這么大的精力去這樣做，其實是不得而知的。

搜狐科技：為什么即使英偉達芯片存在一定風險，商業公司還是會優先考慮英偉達？

馬愷聲：訓練方面，萬卡、十萬卡的互聯，國產芯片確實還有差距，英偉達穩定性更好，互聯技術、軟件方面有壁壘。推理方面，英偉達的產品性價比更高，比如消費級顯卡4090、5090，只有50%的毛利，還都用的3nm、4nm先進制程工藝。而大陸由于眾所周知的原因還有明顯差距，并且產能有限。在受到制裁的情況下，晶圓價格和NRE（非重復性工程費用）價格都偏高。

搜狐科技：國產AI芯片，現在發展到了什么樣的程度？

馬愷聲：現在其實缺乏一套比較fair的測評標準，很多公司都說自己做得很好，但實際測出來又不一樣了。整體來說，（國產）AI芯片現在處于一個以前沒有、現在能用的狀態。

搜狐科技：發展國產芯片的緊迫性強嗎？

馬愷聲：這是必爭之地，這一代大模型確實會改變人類的生活方式，那么我們數據不缺，算法至少能看齊，而算力差了幾個generation。芯片是基礎設施，如果這個事情搞不定，其他的更難。

搜狐科技：為什么您會選擇用Chiplet的技術做芯片？

馬愷聲：走別人的路，想超過別人是很難的，所以要“另辟蹊徑”。比如，用Chiplet、 3D DRAM堆疊、3D Flash堆疊、Wafer-Scale集成也算一種解決方式。通過Chiplet的方式，有望把單片的算力用國產工藝拉出幾十倍的性價比，解決國產工藝下，單片性能受限以及良率較低的問題。

搜狐科技：您回國做芯片的初衷是什么？

馬愷聲：2018年4月，姚期智院士把我從美國招回來，目標就是做算力。姚先生很有戰略眼光，當時我們覺得國際形勢已經有些分立的苗頭，需要儲備相關技術。

搜狐科技：您創立的北極雄芯，主要針對的場景是什么？比如車載？

馬愷聲：從創始人的角度來看，一個沒有體量的公司是沒有意義的，車載芯片的體量不錯，中國市場每年2000-3000萬輛車，這個市場的量可以把上下游供應鏈催熟，使得供應鏈能夠大批量出貨，從而降低批量成本。

我們跟吉利、長安等主流車企推進的速度比較快，現在在POC（概念驗證）的階段，樂觀一點的話，明年大概出貨量估計會有二三十萬片。在車載場景，我們算“第一個吃螃蟹的人”，并且這個這個技術路線由于本身良率的提高，比現行的方案能便宜10%到20%。

另外，車載的芯片當然還可以應用于機器人芯片，我們也在積極推進。北極雄芯主要提供擁有自主知識產權的全國產智能芯片；明年我們推出的新一代產品，帶寬可以達到10TB，7B模型可以運行到800token/S起。

搜狐科技：大模型場景，你們的進展如何？

馬愷聲：我們不僅僅是面向端側AI場景，我們也在發力云端推理方案。公司基于多年基礎研發所積累的NPU及工具鏈能力、模型部署優化能力、Chip-to-Chip互聯能力等，積極推動面向云端推理PD分離策略的專用加速方案研發，通過Chiplet+PIM/PNM等前沿技術，充分利用全國產化供應鏈資源，有效解決大模型推理應用落地所面臨的成本痛點，較目前主流部署方案進一步提升5-10倍性能，10-100倍性價比。大概明年年終大批量開始出貨，我們已經有了國內大模型公司的訂單意向，幾千臺服務器是看得到的。

搜狐科技：國產AI芯片概念火熱，甚至寒武紀股價一度超過茅臺成為A股新股王，您如何看待這樣的現象？

馬愷聲：這肯定是件好事兒，因為做芯片是燒錢的，股票市場的融資成本其實非常低，能夠提供足夠的資金儲備。這對于整個行業都是非常積極的消息。

搜狐科技：北極雄芯最近完成了新一輪過億元融資，您從自己做企業的感受來看的話，今年市場水溫如何？

馬愷聲：現在比幾年前是好了非常多。有幾個趨勢：從以前美元主導到現在的國資主導；從短視和激進逐利資本到耐心資本的變化；另外就是整個資本行業的精神非常好，大家都非常看好未來的形勢，看好國家的向上發展。

運營編輯 |孟莎莎