品玩3月6日訊,據 InfoQ 報道,YuanLab.ai團隊正式開源Yuan3.0 Ultra多模態基礎大模型,成為全球僅有的三個萬億級開源多模態大模型之一。該模型基于混合專家(MoE)架構,初始參數1515B,通過自研的Layer-Adaptive Expert Pruning(LAEP)算法優化至1010B,預訓練效率提升49%,激活參數為68.8B。
Yuan3.0 Ultra采用統一多模態架構,集成視覺編碼器、語言主干與對齊模塊,并引入Localized Filtering Attention(LFA)機制,在DocMatix、ChatRAG、Spider等企業級評測中全面領先GPT-5.2、Gemini 3.1 Pro及Claude Opus 4.6,顯著提升復雜文檔理解、檢索增強生成、Text-to-SQL及工具調用能力。
訓練方面,模型優化Fast-thinking強化學習策略,改進Reflection Inhibition Reward Mechanism(RIRM),在提升準確率的同時減少14.38%輸出token,實現高效推理。Yuan3.0 Ultra已全面開源,支持16bit與4bit版本下載,旨在推動大模型在企業Agent場景中的規模化落地。
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.