觀點網訊:1月21日 ,摩爾線程與硅基流動聯合宣布,雙方在MTT S5000上,利用FP8低精度推理技術,完成了對DeepSeek V3 671B滿血版大模型的深度適配與性能測試。
據介紹,實測單卡Prefill(預填充)吞吐超4000tokens/s,Decode(解碼)吞吐超1000tokens/s,單卡速度逼近國際頂尖產品。
免責聲明:本文內容與數據由觀點根據公開信息整理,不構成投資建議,使用前請核實。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.