剛剛，阿里AI芯片“真武810E”來了！已實現多個萬卡集群部署

芯東西（公眾號：aichip001）
作者 | ZeR0
編輯 | 漠影

芯東西1月29日報道，今日，阿里巴巴集團全資半導體芯片業務主體平頭哥官網上線高端AI訓推一體芯片真武810E

這就是此前被央視《新聞聯播》曝光的阿里自研芯片PPU。據悉，“真武”PPU已在阿里云實現多個萬卡集群部署，服務了國家電網、中科院、小鵬汽車、新浪微博400多家客戶。（阿里自研AI芯片曝光?。?/p>

至此，由通義實驗室、阿里云、平頭哥組成的阿里巴巴AI黃金三角“通云哥”首次浮出水面。

平頭哥成立于2018年11月，注冊地址在上海，已推出AI推理芯片含光800訓推一體AI加速芯片真武810EArm服務器CPU倚天710高性能SSD主控芯片鎮岳510超高頻RFID電子標簽芯片羽陣611羽陣600等芯片，并不斷豐富產品線。

真武810E采用自研并行計算架構ICN片間互聯技術，單卡采用96GB HBM2e內存，支持7個獨立ICN鏈路，片間互聯帶寬達到700GB/s，可靈活配置多卡組合，應用于AI訓練、AI推理和自動駕駛，已在阿里云實現多個萬卡集群部署

阿里巴巴已將“真武”PPU大規模用于千問大模型的訓練和推理，并結合阿里云完整的AI軟件棧進行深度優化，為客戶提供一體化產品和服務。

據業內人士透露，對比關鍵參數，“真武”PPU的整體性能超過英偉達A800和主流國產GPU與英偉達H20相當

另據外媒最新報道，升級版“真武”PPU的性能強于英偉達A100

多位行業從業者稱，“真武”PPU性能具有優異穩定、性價比突出等特點，在業內口碑良好。

阿里巴巴正在將“通云哥”打造成一臺AI超級計算機，它同時擁有全棧自研芯片的平頭哥、亞太第一的阿里云，以及在全球享有盛譽的開源模型“千問”，可在芯片架構、云平臺架構和模型架構上協同創新，從而實現在阿里云上訓練和調用大模型時達到最高效率。

平頭哥官網列出了真武810E的六大優勢：全自研、高性能、強互聯、高易用、規模驗證、芯云一體

ICN（Inter-Chip-Network）是平頭哥自研的片間互聯技術，具有高性能、高帶寬、低延遲優勢，適用于大模型訓練和推理應用。

每顆真武810E芯片配備7個ICN片間互聯端口，配合平頭哥自研互聯加速庫，實現多卡協同工作，從而高效支持大模型訓練及推理需求。

平頭哥自主研發的AI產品軟件棧，具備完備的軟件生態及工具鏈，擁有獨立知識產權，具備統一的編程接口，可端到端支持用戶自主業務落地和擴展，向上支持開發者和業務快速展開，向下兼容底層硬件和優化性能，實現軟硬件高效協同。

（1）高效性：通過軟件棧提供的API，用戶可以基于SDK直接開發真武應用程序，支持自研生態；

（2）高兼容性：沿用當今主流編程環境，開發者可調用軟件棧中統一的API，支持主流AI生態，無需修改應用代碼。

官網列出了真武910E的四大應用場景

（1）自動駕駛：經過驗證兼容超過50個自動駕駛常見模型，在感知、預測和端到端等多種模型架構下，全面支持智駕模型訓推，并已形成多個萬卡級別集群的部署應用

（2）AI訓練：原生支持多種框架，具有高速片間互聯和優異的集群線性加速比，兼容主流AI生態，提供高性能、高易用的訓練算力。

（3）AI推理：原生支持主流推理引擎，并提供平頭哥自研專用推理框架和算子庫，結合大容量內存，為大模型推理提供針對性優化。

（4）多模態模型：在文生視頻、圖文生視頻、圖文生文等場景的推理和訓練實測中均表現出不俗的性能，為基于多模態模型的應用場景提供高性價比算力

阿里巴巴2009年創建阿里云，2018年成立平頭哥芯片公司，2019年啟動大模型研究，經過長達17年的戰略投入和垂直整合，實現“通云哥”全棧AI的完整布局。

官網顯示，平頭哥致力于AI時代的芯片基礎設施創新，打造數據中心算力、存力、網力芯片和IoT芯片， 通過端云一體全棧產品系列為數字化、智能化時代提供無處不在的普惠算力。

該公司重點布局高性能、高性價比的自研數據中心芯片，提升數據中心能力和效率，通過軟硬一體解決方案，加速新一代數據中心的規?；渴?，促進AI從數字世界向物理世界的滲透。