通過跨 NVIDIA Vera CPU、Rubin GPU、NVLink 6 交換機、ConnectX-9 SuperNIC、BlueField-4 DPU 和 Spectrum-6 以太網交換機的極致協同設計,大幅縮短訓練時間,降低推理 token 生成成本。
![]()
- Rubin 平臺采用軟硬件極致協同設計,將推理 token 成本最多降低至 NVIDIA Blackwell 平臺的十分之一,在 MoE 模型訓練中使用的 GPU 數量僅為 Blackwell 平臺的四分之一。
- NVIDIA Spectrum-X 以太網硅光交換機系統可將能效和持續運行時間提高 5 倍。
- 搭載 NVIDIA BlueField-4 存儲處理器的全新 NVIDIA 推理上下文記憶存儲平臺加速代理式 AI 推理。
- 微軟旗下搭載 NVIDIA Vera Rubin NVL72 機架級擴展系統的新一代 FAIrwater AI 超級工廠,將擴展至搭載數十萬個 NVIDIA Vera Rubin 超級芯片。
- CoreWeave 作為率先提供 NVIDIA Rubin 的首批企業之一,將通過 CoreWeave Mission Control 進行管理,兼顧靈活性和高性能。
- 擴大與紅帽的合作,借助紅帽企業 Linux、紅帽 OpenShift 和紅帽 AI,提供針對 Rubin 平臺優化的完整 AI 堆棧。
NVIDIA 今日發布 NVIDIA Rubin 平臺,開啟了新一代 AI 之旅,該平臺由六款專為打造超凡 AI 超級計算機而設計的全新芯片組成。NVIDIA Rubin 樹立了新的標桿,能以最低的成本構建、部署和安全運行全球最大型、最先進的 AI 系統,以助力加速主流 AI 的采用。
Rubin 平臺對六款芯片——NVIDIA Vera CPU、NVIDIA Rubin GPU、NVIDIA NVLink? 6 交換機、NVIDIA ConnectX?-9 SuperNIC、NVIDIA BlueField?-4 DPU 和 NVIDIA Spectrum?-6 以太網交換機——進行極致協同設計,從而大幅縮短訓練時間并降低推理 token 成本。
NVIDIA 創始人兼首席執行官黃仁勛表示:“訓練和推理的 AI 計算需求不斷激增,Rubin 的問世恰逢其時。憑借我們每年推出一代新 AI 超級計算機的節奏,以及對跨六款全新芯片的極致協同設計,Rubin 向 AI 的下一個前沿邁出了關鍵一步。”
Rubin 平臺以 Vera Florence Cooper Rubin 命名,這位具有開創精神的美國天文學家,她的發現改變了人類對宇宙的理解。Rubin 平臺包括 NVIDIA Vera Rubin NVL72 機架級擴展解決方案和 NVIDIA HGX Rubin NVL8 系統。
Rubin 平臺引入了五項創新技術,包括新一代 NVIDIA NVLink 互連技術、Transformer 引擎、機密計算和 RAS 引擎以及 NVIDIA Vera CPU。這些突破將以 NVIDIA Blackwell 平臺低至十分之一的 token 成本加速代理式 AI、高級推理和超大規模混合專家(MoE)模型推理的發展。NVIDIA Rubin 平臺在 MoE 模型訓練中使用的 GPU 數量僅為前代平臺的四分之一,從而可加速 AI 的采用與普及。
以上為新聞摘要內容,如需閱讀新聞全文,請點擊鏈接:NVIDIA 發布 Rubin,開啟新一代 AI 平臺——六款全新芯片,一臺超凡 AI 超級計算機 | NVIDIA 英偉達博客
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.