隨著人工智能的普及,世界上的一些科技巨頭正在競相設計運行速度更快、性能更好的芯片。這場競爭不僅發生在設計和制造環節,也蔓延到了曾經被視為"收尾活"的芯片封裝領域。
最近日本媒體一則報道引發關注:日本揖斐電砸下5000億日元擴產高端載板,卻發現中國企業正在快速追趕。
過去,高端AI芯片需要將計算芯片、高帶寬內存等不同小芯片拼在一起協同工作,而先進封裝技術正是決定芯片算力上限的關鍵。中國的長電科技、通富微電等企業已在先進封裝領域站到全球第一梯隊,兩家龍頭去年封裝營收接近670億元。
中國集成電路出口額在今年前兩個月暴漲了72.6%,正以"成熟制程加先進封裝"的路徑打入全球市場。
![]()
那么,這些AI芯片究竟是如何運作的,為什么科技公司認為它們代表著未來?
這是亞馬遜位于德克薩斯州奧斯汀的芯片實驗室,該公司在這里設計用于AWS服務器的AI芯片。從制造過程中出來的東西叫做晶圓。Ron Diamant是Inferentia和Trainium的首席架構師,這兩款芯片是該公司定制的AI芯片。
這些是計算元素或組件,它們實際執行計算。這些被稱為骰子的矩形,每一個都是一個芯片。每個芯片包含數百億個稱為晶體管的微型半導體,用于傳遞輸入和輸出信息。想想百萬分之一厘米,這大約就是每個晶體管的尺寸。
所有芯片都使用這樣的半導體。人工智能芯片與CPU——為電腦或手機提供動力的芯片——的不同之處在于它們的封裝方式。例如,假設你想生成一張貓的新圖像。CPU擁有數量較少但功能強大的核心。構成芯片的單元擅長執行許多不同的任務,這些核心按順序處理信息。
![]()
于是,一項又一項計算接連進行下去。因此,要創建一個全新的貓的圖像,它一次只能生成幾個像素。但是人工智能芯片擁有更多并行運行的核心,因此它可以同時處理成百上千個貓咪像素。這些核心體積更小,通常比CPU核心的功能更少,但它們是專門為運行AI計算而設計的。
但是這些芯片無法獨立運行。計算芯片被集成到一個封裝中,這就是人們通常想到芯片時所想到的。
訓練是這個過程中最難的部分。我們通常不是在一個芯片上進行訓練,而是在數萬個芯片上進行訓練。相比之下,推理通常在1到16個芯片上完成。
![]()
處理所有這些信息需要大量的能量,這會產生熱量。我們可以使用設備來強制芯片達到一定的溫度,這樣就可以測試芯片在極低溫度和極高溫度下的可靠性。為了幫助芯片保持冷卻,它們被連接到散熱片上,散熱片是帶有通風孔的金屬片,可以幫助散熱。
芯片封裝完成后,會被集成到亞馬遜AWS云服務器中。訓練卡將安裝在底板上,總共有八張,它們之間以非常高的帶寬和低延遲互連。
這樣一來,服務器內部的不同訓練設備就可以協同完成同一個訓練任務。AI模型執行完畢后,會將結果反饋給CPU,然后CPU會將結果發送回給你。
![]()
亞馬遜的芯片只是在這個新興市場競爭的眾多芯片類型之一,而這個市場目前由最大的芯片設計商英偉達主導。Nvidia仍然是為各種不同類型的客戶——需要運行不同工作負載——提供芯片的供應商。接下來要介紹的競爭對手是主要的云服務提供商。
微軟、亞馬遜、AWS和谷歌都在設計自己的芯片,因為他們可以針對在云端運行的軟件優化計算工作負載,從而獲得性能優勢,而且他們不必讓英偉達在每顆芯片的銷售中都獲得非常可觀的利潤。
但就目前而言,生成式人工智能仍然是一項新興技術。它主要用于面向消費者的產品,例如聊天機器人和圖像生成器,但專家表示,圍繞技術的炒作周期最終可能會帶來回報。
![]()
雖然當前的AI熱潮周期可能類似于互聯網泡沫,但互聯網泡沫破裂時,互聯網依然存在。我認為我們在生成式人工智能方面也面臨著類似的情況。
技術的飛速發展意味著芯片和使用它們的軟件也必須跟上步伐。亞馬遜表示,它混合使用自家芯片和英偉達芯片,為客戶提供多種選擇。
微軟表示,它正在采用類似的模式。對于這些云服務提供商來說,問題是,他們有多少人工智能計算工作負載將通過英偉達芯片提供,又有多少將通過他們自己的定制人工智能芯片提供?而這正是世界各地公司董事會正在上演的斗爭。
亞馬遜于11月發布了Trainium的新版本。迪亞曼特表示,他認為人工智能的蓬勃發展短期內不會放緩。我們已經投資機器學習和人工智能近二十年了,現在我們看到這些模型所帶來的創新速度和能力正在加速提升。因此,我們對人工智能芯片的投資將會持續下去,并且每一代芯片的性能都會有顯著提升。
這場圍繞AI芯片的競爭才剛剛開始,從設計到制造再到封裝,全球產業格局正在被重新書寫。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.