蚂蚁集团,AI重大突破!推出新款MoE『大语言模型』 可在使用国产GPU的低性能设备上完成高效训练

国产AI模型,再次迎来突破。

近日,蚂蚁集团Ling团队发表了一篇技术成果论文。论文显示,蚂蚁集团推出了两款不同规模的MoE『大语言模型』——百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),前者参数规模为168亿(激活参数27.5亿),Plus基座模型参数规模高达2900亿(激活参数288亿),两者性能均达到行业领先水平。

除了自研性能领先的大模型以外,该技术论文最大的突破在于提出了一系列创新方法,以提升资源受限环境下AI开发的效率与可及性。实验表明,其3000亿参数的MoE(混合专家)大模型可在使用国产GPU的低性能设备上完成高效训练,性能与完全使用『英伟达』『芯片』、同规模的稠密模型及MoE模型相当。

(来源:今日霍州)

特别声明:[蚂蚁集团,AI重大突破!推出新款MoE『大语言模型』 可在使用国产GPU的低性能设备上完成高效训练] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

硅胶再生的秘密:全国硅胶娃娃回收与再利用(硅胶再生循环利用图片)

近年来,硅胶制品回收逐渐成为环保与经济双重议题。为何硅胶娃娃回收在全国范围内兴起?它背后的回收工艺和技术有哪些奥秘?这篇文章将带你深入了解这个既熟悉又陌生的回收领域。

硅胶再生的秘密:全国硅胶娃娃回收与再利用(硅胶再生循环利用图片)

这国综太有料,每一集都在制造名场面

徐峥看完说:「这个作品是给整个喜人奇妙夜的一份礼物🎁。他们是喜剧舞台上的胶水型人物,不抢戏、不炫目,却总能用最恰到好处的存在感完成一次作品的灵魂缝合。 马东在最后总结陈词时,说了一段话,我觉得可以作为这一季…

这国综太有料,每一集都在制造名场面

太吃『杨幂』的颜了!穿淡黄色交叉挂脖长裙👗,高扎马尾尽显少女气质!(『杨幂』爱吃零食)

她不仅拿下 Zuhair Murad 2025秋冬『高级定制』系列的国内首穿资格,更以一袭淡黄色交叉挂脖飘纱长裙👗搭配古董珠宝,将成熟女性♀️的妩媚与少女般的灵动完美融合,高扎马尾造型更是让网友直呼 “太吃这张颜”,…

太吃『杨幂』的颜了!穿淡黄色交叉挂脖长裙👗,高扎马尾尽显少女气质!(『杨幂』爱吃零食)

『黄子韬』徐艺洋婚纱大片,小两口亲亲抱抱高糖不断,男帅女美绝配了(『黄子韬』徐艺洋婚礼伴郎伴娘)

10月15日,『黄子韬』与徐艺洋这对神仙眷侣,同时默契地在『社交平台』甩出一大波婚纱照,瞬间点燃网络!这哪是简单的照片分享,分明是一场精心策划的“甜蜜核爆”,让围观网友直呼“甜到蛀牙”! 从经典白纱到勾勒曲线的鱼尾礼…

『黄子韬』徐艺洋婚纱大片,小两口亲亲抱抱高糖不断,男帅女美绝配了(『黄子韬』徐艺洋婚礼伴郎伴娘)

30° 梯形丝杠支座选型攻略:规格、材质、结构怎么选?AESS梯形丝杠支座套装替代(MISUMI)米思米MTWZ-LP12-SET、MTWZ-LP15-SET梯形丝杠防转动固定件(梯形丝杠 支座)

尺寸:MTWZ-LP12-SET、MTWZ-LP15-SET LEB01LED01LEG01LEH01LEB02LED02LEG02LEH02 LEB03LED03LEG03LEH03 L…

30° 梯形丝杠支座选型攻略:规格、材质、结构怎么选?AESS梯形丝杠支座套装替代(MISUMI)米思米MTWZ-LP12-SET、MTWZ-LP15-SET梯形丝杠防转动固定件(梯形丝杠 支座)