據智能涌現報道,前阿里、字節大模型帶頭人楊紅霞近日創立AI公司InfiX.ai,致力于推動大模型預訓練"去中心化",讓中小企業和研究機構都能參與其中。
楊紅霞曾帶領林俊旸、周暢等團隊成員在阿里達摩院開發出通義千問前身M6大模型。2024年7月從字節離職后,她選擇加入香港理工大學并創立InfiX.ai。
InfiX.ai近期開源了全球首個FP8訓練"全家桶",包括預訓練、監督微調和強化學習。該方案在模型性能幾乎無損的情況下,將端到端訓練速度最高提升22%,顯存峰值最高節省14%。
公司同時推出了模型融合技術InfiFusion,可實現不同領域"專家模型"的知識融合。基于該技術訓練的醫療多模態大模型InfiMed-RL-3B,在七大醫療基準測試中超越谷歌的MedGemma-4B-IT。
楊紅霞表示:"通用人工智能不應成為一場僅限于頂尖玩家的算力競賽。"她選擇從最具挑戰性的癌癥醫療領域切入,以證明模型能力的區分度。
目前InfiX.ai已完成超募融資,團隊規模約40人,成員多具備頂尖技術背景。公司獲得了香港產學研項目支持,在算力資源上享受90%的減免折扣。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.