芯片初創公司，單挑英偉達和博通

公眾號記得加星標??，第一時間看推送不會錯過。

日前，一家名為Upscale AI的芯片初創公司宣布。已完成 2 億美元的 A 輪融資，旨在挑戰英偉達在機架級 AI 系統交換機領域的統治地位，與思科、博通和 AMD 等公司展開競爭。

據該公司在新聞中介紹，本輪融資由Tiger Global、Premji Invest和Xora Innovation領投，Maverick Silicon、StepStone Group、Mayfield、Prosperity7 Ventures、Intel Capital和Qualcomm Ventures參投。此次融資使Upscale AI的總融資額超過3億美元。他們進一步指出，投資者的迅速涌入反映了行業日益增長的共識：網絡是人工智能擴展的關鍵瓶頸，而旨在連接通用計算和存儲的傳統網絡架構從根本上來說并不適用于人工智能時代。

在他們看來，關鍵的區別在于：傳統網絡連接的是終端節點，而人工智能網絡則統一整個集群。隨著專用人工智能計算的不斷擴展，它越來越受到改造或專有網絡架構的限制。傳統的數據中心網絡解決方案是為人工智能出現之前的世界而設計的，而不是為機架級規模所需的大規模、高度同步的擴展而設計的。

一個旨在撼動英偉達護城河的團隊

大家都知道英偉達的GPU，但正如我們再很多報道中所說，這家巨頭在網絡方面也表現很不錯。受人工智能數據中心連接需求強勁的推動，英偉達2026財年第三季度的網絡業務收入同比增長162%，達到81.9億美元，這已經遠超他們當年收購Mellanox所耗費的資金。NVlink也成為了英偉達當之無愧的護城河。

考慮到當前單芯片性能擴展乏力，Scale Up和Scale Out的連接需求在未來很長一段時間必將成為主流。換而言之，如果能夠制造出高基數（即端口數量眾多）且端口間總帶寬高，足以與英偉達NVSwitch內存架構和NVLink端口相媲美的UALink交換機的公司，必將大賺一筆。

Upscale AI，就是一家抱著這個理想而成立的公司。而該公司的創始人Rajiv Khemani，則是行業中讓人如雷貫耳的連續芯片創業專家。

據介紹，Rajiv Khemani曾擔任Sun Microsystems公司的高級產品經理，負責Sparc服務器和Solaris操作系統。他還曾在NetApp和英特爾公司任職，負責多個業務部門的戰略和市場營銷。

2003年，他出任芯片初創公司Cavium Networks的首席運營官。該公司成立于2000年，最初以生產MIPS處理器起家，但后來憑借2014年推出的ThunderX服務器CPU進軍Arm服務器市場，并因此聲名鵲起。同年，Cavium收購了新興可編程交換機ASIC制造商XPliant。2016年6月，Cavium斥資13.6億美元收購了QLogic的存儲業務。2017年11月，芯片巨頭Marvell斥資60億美元收購Cavium，正式進軍數據中心領域。

Khemani 于 2015 年離開 Cavium，成為 Innovium 的聯合創始人兼首席執行官。Innovium 是一家設計高帶寬、極簡主義超大規模以太網交換機 ASIC 的公司，其產品名為 TeraLynx。Marvell于 2021 年 8 月以 11 億美元收購了 Innovium ，以進一步推進其數據中心芯片的雄心壯志。

到了2022年2月，Rajiv Khemani和Barun Kar創立了一家名為Auradine的公司，該公司致力于研發4納米和3納米制程的人工智能和區塊鏈計算及網絡芯片。Auradine在2024年之前完成了兩輪融資，共籌集了1.61億美元，并在2025年4月的B輪融資中又籌集了1.53億美元。

到了2024年5月，Khemani和Kar決定將Auradine的部分網絡業務剝離出來，成立一家名為Upscale AI的新公司，以便更直接地開拓預計到本十年末將達到1000億美元的人工智能互連市場。在成立之初，該公司得了英特爾、AMD 和高通等公司的支持，

值得一提的是，Kar是Auradine和Upscale AI的另一位聯合創始人，曾任Palo Alto Networks（一家防火墻和其他安全產品制造商）的工程高級副總裁兼創始團隊成員。在此之前，早在互聯網泡沫時期，Kar就曾擔任Juniper Networks的高級系統經理，負責管理其以太網路由器和交換機產品。

Upscale AI表示，公司的策略是將 GPU、AI 加速器、內存、存儲和網絡整合到一個單一的同步 AI 引擎中。作為 Upscale AI 戰略的核心要素，專為擴展而打造的 SkyHammer解決方案通過縮短加速器、內存和存儲之間的距離，實現了統一機架，并將整個堆棧轉換為一個統一的同步系統。

Upscale 的 AI 平臺基于開放標準和開源技術構建，并積極推進這些標準和開源技術的發展，包括 ESUN、Ultra Accelerator Link (UAL)、Ultra Ethernet (UEC)、SONiC 和交換機抽象接口 (SAI)。該公司積極參與 Ultra Accelerator Link 聯盟、Ultra Ethernet 聯盟、開放計算項目 (OCP) 和 SONiC 基金會。

憑借新增的 2 億美元融資，Upscale AI 將推出首個涵蓋芯片、系統和軟件的全棧式交鑰匙平臺，旨在連接未來通用人工智能 (AGI) 的異構系統。

一款專為網絡而優化的芯片

如上所述，人工智能集群由多個機架組成，每個機架可容納數十臺服務器。這些服務器通過內置于主機機架中的交換機相互交換數據。機架交換機的技術特性通常與其他網絡設備（例如用于連接不同機架的設備）的技術特性有顯著差異。

而Upscale AI 正在開發的這款名為 SkyHammer 的產品是一款專為縱向擴展網絡（即連接機架內部硬件組件）而優化的芯片，能提供確定性延遲。這意味著可以高精度地預測數據在機架組件之間傳輸所需的時間。

眾所周知，人工智能模型通過計算來處理數據，而這些計算必須按特定順序執行。因此，一次計算的延遲往往會導致后續所有處理步驟的延遲。提前預測網絡延遲可以避免意外的數據傳輸延遲，從而防止人工智能工作負載變慢。

在接受Nextplatform采訪的時候，Upscale AI闡述了自己的目標：

首先，如今，對于規模化 AI 網絡而言，真正切實可行的選擇其實只有一個，那就是 NVSwitch。這也是英偉達在 GenAI 浪潮中取得巨大成功的原因之一（當然還有其他原因）。而Upscale AI 希望為客戶提供更多選擇。

“我一直堅信異構計算和異構網絡是未來的發展方向，”Upscale AI高管告訴The Next Platform?！叭藗儜撚凶杂蛇x擇權，可以靈活組合各種資源，因為每個人都有其獨特之處，而這種組合方式能夠根據每個人的需求進行優化。

有見及此，Upscale AI 致力于普及 AI 計算的網絡，他們堅信異構計算的潛力。

“我們認為英偉達擁有卓越的技術，在創新方面也是一家杰出的公司。但展望未來，隨著 AI 創新的步伐不斷加快，我認為沒有任何一家公司能夠提供 AI 所需的所有技術——尤其是在未來發展趨勢方面。因此，這必然意味著不同供應商將提供不同類型的計算解決方案?！盪pscale AI 強調。

Upscale AI 同時認為，當少量 CPU 與少量 GPU 通信，且 GPU 的相對內存帶寬較低，并且 CPU 和 GPU 在服務器節點中緊密排列時，PCI-Express 交換機制能夠很好地工作。Upscale AI 于 2024 年初啟動時，UALink 聯盟和 Meta Platforms 提出的 ESUN 標準尚未成立，但異構基礎設施的概念早已存在，其目的并非僅僅是為了構建一套能夠完成所有任務的單一基礎設施，而是為了構建一套能夠更好地匹配不同任務工作流程的基礎設施。

“未來，單個GPU可能無法完成所有計算任務，異構計算將會成為主流，”Upscale AI 方面解釋道?！澳承〤PU、GPU或XPU可能擅長預編碼和預填充，而其他設備可能擅長解碼。但如果X廠商擅長預填充，Y廠商擅長解碼，又該怎么辦呢？交換如今已成為這臺機器的核心，它將所有這些功能連接起來，必須確保連接的公平性，并且還要具備可擴展性和可靠性?？煽啃灾陵P重要，因為你的任何操作都會直接影響系統中的所有計算?！?/p>

在NextPlaform的采訪中，Upscale AI 對那些通過美化 PCI-Express 交換機 ASIC 或拆解以太網交換機 ASIC 來制造 UALink、ESUN 或 SUE 交換機的做法嗤之以鼻。

“我看到的很多做法都像是對PCI-Express進行改造，也就是拿PCI-Express的基板來嘗試做其他事情，或者其他廠商拿以太網來嘗試改造。但整個內存領域的關鍵在于它無法改造。那樣做無法為客戶提供真正優化的、僅能向上擴展的堆棧，因為最終的結果只是拿一個基板，試圖移除不需要的東西。長期從事ASIC行業的人都知道，你可以移除很多模塊，但基本單元仍然保持不變。每個ASIC都有其不變的基本DNA?！?/p>

因此，Khemani 和 Kar 著手從頭開始構建一個內存結構 ASIC，專門用于此目的，然后確保它支持內存語義協議的更新。

雖然并沒有披露AISC細節，但Upscale AI 表示，SkyHammer 將生成實時遙測數據。遙測數據，即關于系統的技術數據，不僅對故障排除至關重要，對配置任務也必不可少。管理員可以分析網絡設備的狀態遙測數據，從而找到優化其性能的方法。

SkyHammer還兼容多種開源網絡技術，其中包括UALink和ESUN。這兩個項目都致力于利用以太網實現可擴展的網絡應用場景。ESUN是其中較新的項目，于去年啟動，并獲得了英偉達、博通和其他主要行業參與者的支持。

SkyHammer還將支持一種名為UEC的網絡技術。ESUN旨在連接機架內部的組件，而UEC則專注于連接不同的機架。它可以為多達100萬個芯片的AI集群提供支持。

“我們正在研發一種高基數交換機（high radix switch ）和一款能夠實現這一切的專用集成電路（ASIC）?！盪pscale AI強調。

NVLink 是英偉達開發的一種高速互連技術，用于將內存和計算資源從多個 GPU 中抽象出來，使它們看起來像一個單一的邏輯資源。

這項技術于2024年問世，此后，AMD和思科等公司一直在嘗試開發替代方案。但他們迄今為止的努力（例如UALink和ESUN），仍不成熟。

AMD首批基于UALink的機架式系統將于今年晚些時候上市，但它們將通過以太網隧道傳輸該協議。能夠與Nvidia的NVSwitch競爭的專用UALink交換機目前尚未問世。Upscale的目標是通過其SkyHammer定制ASIC芯片改變這一現狀。

Upscale AI 首席執行官 Barun Kar 告訴外媒El Reg：“我們不是在改造傳統系統，而是在重新構想 AI 網絡中規模的真正含義?！薄斑@種架構的核心本質上是為了擴展規模。它是專門為人工智能工作負載而設計的，不適用于其他任何用途。”

雖然我們沒有足夠的信息將這款芯片與 NVSwitch 6 或 Broadcom 的 Tomahawk 6 進行比較，但 Kar 告訴我們，它采用了基于內存語義的加載-存儲網絡架構，并將具有類似于 Nvidia Sharp 的集體通信加速功能。

該平臺還將同時支持 UALink 和與其競爭的 ESUN 協議。

為了使整個系統能夠大規模管理，Upscale 正在努力擴展對 SONiC 網絡操作系統 (NOS) 的支持。SONiC 是一款開源 NOS，最初由微軟開發，已被廣泛部署，并深受超大規模客戶的青睞。

目前，Upscale 主要專注于縱向擴展網絡產品，但長期來看，計劃將產品線擴展到更傳統的橫向擴展交換機。Kar 告訴我們，為此，公司仍在評估各種方案，并可能借助合作伙伴的第三方知識產權。

“我們已經與超大規模數據中心運營商和GPU供應商建立了合作關系，他們已經驗證了該架構。這部分工作已經完成?，F在，這筆資金的重點是將創新轉化為實際部署，”Kar說道

Upscale AI執行董事長Rajiv Khemani也表示：“Upscale AI在極短的時間內就取得了非凡的發展勢頭。市場需要開放、可擴展的AI網絡解決方案，而Upscale AI憑借其獨特的優勢，能夠幫助客戶突破當前網絡方面的限制。”

*免責聲明：本文由作者原創。文章內容系作者個人觀點，半導體行業觀察轉載僅為了傳達一種不同的觀點，不代表半導體行業觀察對該觀點贊同或支持，如果有任何異議，歡迎聯系半導體行業觀察。

今天是《半導體行業觀察》為您分享的第4295期內容，歡迎關注。

加星標??第一時間看推送

求推薦