谷歌聯(lián)手Marvel研發(fā)下一代TPU，專為AI推理打造

智東西
編譯 劉煜
編輯 陳駿達(dá)

智東西4月20日消息，昨天，據(jù)The Information報(bào)道，兩名直接知情人士透露，谷歌正與無晶圓廠半導(dǎo)體公司Marvell商談合作，計(jì)劃開發(fā)兩款全新芯片，包括專為運(yùn)行AI模型打造的全新TPU，以及設(shè)計(jì)用于與谷歌TPU協(xié)同工作的內(nèi)存處理單元。但值得一提的是，長期以來，博通一直是谷歌TPU的獨(dú)家設(shè)計(jì)合作伙伴。

本次谷歌與Marvell的合作計(jì)劃最快于明年完成對內(nèi)存處理單元的設(shè)計(jì)，并生產(chǎn)近200萬顆該單元。該合作尚未披露具體金額。消息人士補(bǔ)充稱，由于談判仍處于早期階段，200萬這一數(shù)字仍有可能調(diào)整。

一名谷歌員工透露，對于新推理芯片的研發(fā)，谷歌早已開始布局規(guī)劃。今年3月，英偉達(dá)于GTC大會上發(fā)布了旨在提升推理任務(wù)效率的LPU芯片。谷歌在其發(fā)布LPU之后，進(jìn)一步加快了對新一代推理芯片的相關(guān)研發(fā)速度。

值得一提的是，LPU是英偉達(dá)以200億美元從Groq獲得技術(shù)授權(quán)后研發(fā)打造的。而谷歌此次的合作對象Marvell，曾作為Groq第一代LPU的芯片設(shè)計(jì)合作伙伴，在推理芯片設(shè)計(jì)領(lǐng)域積累了相應(yīng)的技術(shù)與項(xiàng)目經(jīng)驗(yàn)。

在合作研發(fā)層面，谷歌在芯片設(shè)計(jì)領(lǐng)域?qū)Σ┩ù嬖趩我灰蕾嚒５捎?strong>博通收費(fèi)模式成本高昂，該公司按每顆量產(chǎn)TPU收取費(fèi)用，隨著TPU需求激增，谷歌的相關(guān)支出也大幅攀升。因此谷歌正尋求降低對博通依賴的途徑。

不過，據(jù)The Information2023年報(bào)道，谷歌早在當(dāng)時(shí)就有擺脫對博通單一依賴的意圖了。那時(shí)谷歌曾考慮讓Marvell取代博通，成為其數(shù)據(jù)中心內(nèi)用于連接服務(wù)器與以太網(wǎng)交換機(jī)的網(wǎng)絡(luò)接口芯片供應(yīng)商。

去年，谷歌為了降低對博通的單一依賴，引入了中國臺灣廠商聯(lián)發(fā)科參與TPU芯片的設(shè)計(jì)與生產(chǎn)。

但在本月早些時(shí)候，博通與谷歌簽署新協(xié)議，將為谷歌下一代AI數(shù)據(jù)中心開發(fā)并供應(yīng)定制化TPU及網(wǎng)絡(luò)組件，合作期限延長至2031年。這意味著博通在谷歌的芯片體系中仍占據(jù)著核心地位。

需要補(bǔ)充的是，摩根士丹利曾預(yù)計(jì)，谷歌2027年TPU產(chǎn)量約為600萬顆。不過，本次雙方合作中全新TPU的設(shè)計(jì)完成時(shí)間及谷歌規(guī)劃的量產(chǎn)規(guī)模，目前仍未明確。

此外，谷歌當(dāng)前的芯片均由臺積電代工生產(chǎn)，新款芯片最終由臺積電還是其他廠商制造，目前也未確定。

在谷歌與Marvell協(xié)商此次合作前，谷歌也曾向Marvell采購過CXL控制器芯片。據(jù)兩名谷歌員工介紹，這類芯片用于管理數(shù)據(jù)中心內(nèi)服務(wù)器之間的內(nèi)存共享。不過采購的均為現(xiàn)貨標(biāo)準(zhǔn)產(chǎn)品，并未涉及定制化合作。

多年來，谷歌僅在自有數(shù)據(jù)中心內(nèi)部署TPU，用于支撐搜索、YouTube及Gemini大模型等業(yè)務(wù)，且僅對谷歌云客戶開放。據(jù)The Information報(bào)道，這一局面在去年出現(xiàn)轉(zhuǎn)變：谷歌開始向客戶提供TPU算力租賃服務(wù)，支持客戶將其部署于非谷歌數(shù)據(jù)中心，直接挑戰(zhàn)英偉達(dá)在AI芯片領(lǐng)域的主導(dǎo)地位。

截至目前，谷歌TPU已被包括Anthropic、Meta以及蘋果在內(nèi)的客戶采用。

而Marvell主營數(shù)據(jù)中心通用網(wǎng)絡(luò)、存儲及光互聯(lián)芯片設(shè)計(jì)，同時(shí)為客戶提供定制化芯片設(shè)計(jì)服務(wù)，該業(yè)務(wù)已成為其增長最快的板塊。

結(jié)語：AI Agent推高算力需求，專用推理芯片研發(fā)趨勢持續(xù)升溫

谷歌與Marvell的此次合作，不止為降低谷歌對博通的單一依賴。

由于AI推理環(huán)節(jié)正走向精細(xì)化分工，推理任務(wù)并非通用處理器就能一概勝任，該任務(wù)部分環(huán)節(jié)依賴峰值算力，另一部分則受限于內(nèi)存讀寫與數(shù)據(jù)調(diào)度效率。而谷歌與Marvell此次合作研發(fā)可與TPU協(xié)同工作的內(nèi)存處理單元，正是這一行業(yè)趨勢下的產(chǎn)物。

此外，當(dāng)前AI Agent對算力的消耗遠(yuǎn)高于聊天機(jī)器人等傳統(tǒng)AI應(yīng)用，隨著各類AI企業(yè)持續(xù)推出更復(fù)雜的智能體產(chǎn)品，專用推理芯片市場也進(jìn)入快速發(fā)展階段。

除谷歌外，OpenAI已于4月中旬與AI芯片公司Cerebras達(dá)成協(xié)議，計(jì)劃斥資超200億美元采購其推理芯片，同時(shí)該公司也在與博通合作研發(fā)自研推理芯片。

綜合來說，為不同任務(wù)搭配專用推理芯片，而非依靠單一處理器包攬全部工作，也在逐漸成為頭部廠商提升效率、控制成本的選擇趨勢。在此趨勢下，AI芯片有望加速從通用化路線，向更貼合場景、更聚焦專業(yè)功能的方向分化發(fā)展。