曝螞蟻集團用國產芯片訓練AI 性能媲美英偉達
發布時間:2025-03-25 09:20:08 作者:財聯社 瀏覽量:458
螞蟻集團Ling團隊近日發表了一篇技術成果論文,曝螞媲美展示了兩款不同規模的蟻集英偉MoE大語言模型——百靈輕量版(Ling-Lite)和百靈增強版(Ling-Plus)。百靈輕量版參數規模為168億,團用激活參數27.5億;百靈增強版基座模型參數規模高達2900億,國產激活參數288億。芯片訓練性這兩款模型性能均達到行業領先水平。曝螞媲美
除了自主研發高性能的蟻集英偉大模型外,該論文還提出了一系列創新方法,團用以提升資源受限環境下AI開發的國產效率與可及性。實驗表明,芯片訓練性3000億參數的曝螞媲美MoE大模型可在使用國產GPU的低性能設備上完成高效訓練,其性能與完全使用英偉達芯片、蟻集英偉同規模的團用稠密模型及MoE模型相當。
國產