8年性能提升1000倍，英偉達發布“宇宙最強”GPU

“這不是一場演唱會，而是一個開發者大會。”

當地時間3月18日中午，美國加州圣何塞SAP體育中心開始了一場科技屆的盛宴。這是時隔5年以來，GTC大會首次回歸線下。會上，英偉達CEO黃仁勛在開玩笑地說出了上述話語。這是屬于黃仁勛的“黃氏幽默”。

這次大會，英偉達將GPU硬件性能提到了新高度，發布了最強AI加速卡Blackwell GB200，該產品預計將于2024年晚些時候發貨。

而除了硬件產品，黃仁勛還發布了生成式AI微服務。

英偉達在每次GTC大會上，都會推出較多的細分行業進展。一如既往，英偉達此次也帶來了其在醫藥、機器人等行業的進展。其中最值得關注的是，英偉達還發布了應用于機器人領域的GROOT通用基礎大模型。

在GTC大會上，英偉達也展現了多家使用GROOT大模型的人形機器人，顯示其在具身智能上的技術積累。

宇宙最強GPU

“通用計算已經失去動力，現在我們需要更大的模型，更大的GPU，更需要將GPU堆疊在一起。”黃仁勛表示。

在這場大會上，英偉達推出了最新一代的Blackwell架構。每新推出新一代架構，芯片的性能就會得到質的飛躍。與8年前的Pascal架構相比，英偉達將AI計算的性能提高了1000倍。

Blackwell的名字是為了紀念美國國家科學院首位黑人學者、數學家David Blackwell。據英偉達介紹，Blackwell架構的GPU將于2024年晚些時候出貨。

Blackwell架構GPU采用了MCM（多芯片封裝）設計，采用臺積電定制的4NP（4N工藝的改進版本）工藝制造。它同時集成了兩塊GPU。兩顆die之間的通信速度為10TB每秒，可以支持多達10萬億參數的AI大模型。

雖然多芯片封裝、chiplet技術已經發展多時，但Blackwell GPU還是首顆采用MCM的GPU產品。值得一提的是，它的并聯做得非常好，兩顆die會被Cuda看作一顆GPU運算，不存在因數據傳輸、緩存等帶來的問題。

在Blackwell架構下，英偉達同時推出了B200和GB200兩個系列的產品。

B200擁有2080億個晶體管， 在算力上可以提供20petafops的FP4吞吐量。GB200則是通由2個B200芯片（4個die）和Grace CPU構成，采用900GB /秒的超低功耗芯片連接。

據黃仁勛介紹，與H100相比，B200的算力是前者的6倍，對大模型性能提升了30倍，且能耗縮小到僅25分之一。

除了GB200芯片，英偉達還發布了DGX B200系統，可搭載36個GB200超級芯片，由36個Grace CPU和72個Blackwell GPU構成。

這款AI超級計算平臺可以用于AI模型訓練、微調和推理。GB200的推理性能可達1440 PFLOPS，傳輸量最大可達260TB，且其FP8精度訓練算力可達720PFlops。

為了擴大Blackwell的規模，英偉達推出了NVLink Switch芯片，可以以每秒1.8 TB的速度連接四個NVLink，并通過減少網絡內流量來消除流量擁塞。

可以說，當行業同行還在追逐H100、與H100競爭時，英偉達將AI核彈的算力又提高到了新高度。

如果訓練一個1.8萬億的模型，需要用到8000張Hopper架構的GPU，消耗15兆瓦電力連續跑90天。而采用GB200 Blackwell GPU后，僅需2000張卡，同樣運行90天情況下，電力消耗僅為之前的四分之一。

黃仁勛將NVIDIA Switch和GB200看作一個“巨型GPU”，他們也是構成NVIDIA GB200 NVL72的關鍵組件，該產品能為萬億參數模型提供計算動力，具有720 petaflops的AI訓練性能和1.4 exaflops的AI推理性能。

英偉達的具身智能新動作

縱觀英偉達的思路，除了提供強大的算力基礎設施，英偉達還提供了大量的軟件產品，來與下游的產業鏈建立聯系。

去年，英偉達便推出了DGX-Cloud、NVIDIA AI Enterprise 5.0等一系列軟件產品。

而在今年的GTC大會上，英偉達推出了NIM推理微服務，能夠對多個熱門AI模型進行推理優化。它將開發者和數億個GPU連接，可以部署各種定制AI。

NIM軟件包是基于英偉達的加速計算庫和生成式AI模型構建的，他們可以對GPU進行優化，并掃描安全漏洞。

此外，英偉達還推出了Omniverse Cloud API，此次一共推出5個全新的Omniverse Cloud應用編程接口（API），可以為客戶提供模擬能力，幫助在虛擬世界中生成環境，訓練產品，以無縫銜接到物理世界。

黃仁勛還希望將Omniverse引入Apple Vision Pro中，以便開發者可以將交互式工業數字孿生流式傳輸到VR頭顯中。

而在細分行業上，英偉達在電信、半導體設計和制造、氣候、量子計算等方向都投入了較多精力。

本次發布會上最值得關注的是機器人領域。

英偉達發布了人形機器人項目GR00T大模型，可以理解文本、語音、視頻等多種類型的信息，并對任務和指令進行執行。

此外，英偉達還帶來了專用于機器人領域的“機器人大腦”計算芯片Jetson Thor，能用于復雜任務。

GTC大會上，黃仁勛帶來還展示了Agility Robotics、Apptronik、傅利葉智能（Fourier Intelligence） 、宇樹科技（Unitree Robotics）等公司的人形機器人產品，英偉達正在為他們構建AI平臺。

據四木相對論了解，英偉達從2023年下半年開始，就開始發力人形機器人領域，并籌辦了多場活動，宣傳公司的產品，將機器人看作公司發展的重要業務方向之一。