美团发布并开源大模型LongCat-Flash-Chat(美团发布并开源网站)

美团发布并开源大模型LongCat-Flash-Chat(美团发布并开源网站)

本报讯(记者 赵乐瑄)9月1日,美团正式发布大模型LongCat-Flash-Chat(龙猫),在Github、Hugging Face平台开源,并同步上线官网(https://longcat.ai/)。

据悉,LongCat-Flash系列大模型采用创新性混合专家模型(Mixture-of-Experts, MoE)架构,总参数量560B,激活参数18.6B—31.3B(平均27B),实现了计算效率与性能的双重优化。根据多项基准测试综合评估,作为一款非思考型基础模型,LongCat-Flash-Chat在仅激活少量参数的前提下,性能比肩当下领先的主流模型,尤其在智能体任务中具备优势。由于是面向推理效率的设计和创新,LongCat-Flash-Chat具有更快的推理速度,更适合于耗时较长的复杂智能体应用。

具体来看,LongCat-Flash模型在架构层面引入“零计算专家(Zero-Computation Experts)”机制,每个token依据上下文需求仅激活18.6B—31.3B参数,实现算力按需分配和高效利用。为控制总算力消耗,训练过程采用PID控制器实时微调专家偏置,将每个token平均激活量稳定在27B。

此外,LongCat-Flash在层间铺设跨层通道,使MoE的通信和计算能很大程度上并行,提高了训练和推理效率。配合定制化的底层优化,Long-Cat-Flash可在30天内完成高效训练。LongCat-Flash还对常用大模型组件和训练方式进行改进,使用超参迁移和模型层叠加的方式进行训练,并结合多项策略保证训练稳定性,使得训练全程高效且顺利。

今年以来,美团AI进展迅速,发布了AI Coding Agent工具NoCode、AI经营决策助手袋👝鼠参谋、酒店经营的垂类AI Agent美团既白等多款AI应用。

美团表示,其AI战略会建立在三个层面上:AI at work、AI in products以及Building LLM,此次模型开源系其Building LLM进展的首度曝光。

特别声明:[美团发布并开源大模型LongCat-Flash-Chat(美团发布并开源网站)] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

为何美国华裔的长相跟中国人差别越来越大?这几点是主要原因!(美国华裔为啥这么有魅力)

神经语言学专家指出,这种表情模式与英语母语者在处理非熟悉语言时的应激反应完全一致。2022年纽约『时装周』的后台,亚裔模特定妆照分析显示:85%的『妆容』刻意强化了单眼皮-高眉骨的刻板特征,眼线尾端平均上挑12度以迎…

为何美国华裔的长相跟中国人差别越来越大?这几点是主要原因!(美国华裔为啥这么有魅力)

40岁奀妹王莉莉:戏里与西洋蔡恩爱了十年,戏外的丈夫从不出镜(王莉莉多少岁)

在粤语地区的观众群体中,“奀妹”王莉莉无疑是一个极具辨识度的名字。 剧中,她与扮演“西洋菜”的张鹏搭档出演夫妻,两人近十年的默契配合,让不少观众误以为他们戏外也是一对。现实中的张鹏早已拥有自己的家庭,他们私下…

40岁奀妹王莉莉:戏里与西洋蔡恩爱了十年,戏外的丈夫从不出镜(王莉莉多少岁)

刷新5项纪录!肖央新片首波口碑亮眼,令人充满期待:要火了(刷新新纪录)

最近,由五百导演、肖央主演的扫黑题材电影扫黑决不放弃举办了点映,首波口碑即出炉。 如果说之前的扫黑风暴等剧集让观众对扫黑题材有了鲜明印象,那么扫黑决不放弃无疑会进一步丰富这一题材在大银幕上的表现技法和观影体…

刷新5项纪录!肖央新片首波口碑亮眼,令人充满期待:要火了(刷新新纪录)

孙艺珍晒游玩视频:与廉蕙兰一起乘船好开心,两人比心拍照好欢乐(孙艺珍晒游玩的照片)

- "成熟温婉"→"优雅韵味"的意象化处理 -加入"船尾水痕""杀青假日"等电影

孙艺珍晒游玩视频:与廉蕙兰一起乘船好开心,两人比心拍照好欢乐(孙艺珍晒游玩的照片)

在《生万物》坏的彻底,却在《归队》正的发邪,宋家腾被低估了(在《生万物》中邢菲:饰演宁苏苏照片)

特别当他面对宁家众人时,瞳孔里翻腾的不仅是怒火,更有溺水者抓住浮木般的绝望——这种将施暴者同时表现为受害者的双重诠释,让观众在令人窒息的压迫感中,突然看清了恶的源头。有观众深夜发文:"看着万福庆在战火中给孩…

在《<strong>生万物</strong>》坏的彻底,却在《<strong>归队</strong>》正的发邪,宋家腾被低估了(在《<strong>生万物</strong>》中邢菲:饰演宁苏苏照片)