腾讯混元发布并开源图生视频模型,上线音频与动作驱动等能力

腾讯混元发布并开源图生视频模型,上线音频与动作驱动等能力

新浪科技讯 3月6日下午消息,腾讯混元宣布图生视频模型目前已经上线,企业和开发者可在腾讯云申请使用API接口;用户通过混元AI视频官网即可体验。混元视频生成开源模型目前在Github、HuggingFace等主流开发者社区均可下载体验。

据悉,腾讯混元发布图生视频模型并对外开源,同时上线对口型与动作驱动等玩法,并支持生成背景音效及2K高质量视频。基于图生视频的能力,用户只需上传一张图片,并简短描述希望画面如何运动、镜头如何调度等,混元即可按要求让图片动起来,变成5秒的短视频,还能自动配上背景音效。此外,上传一张人物图片,并输入希望“对口型”的文字或音频,图片中的人物即可“说话”或“唱歌”;使用“动作驱动”能力,还能一键生成同款跳舞视频。

此次开源的图生视频模型,是混元文生视频模型开源工作的延续,模型总参数量保持 130 亿,模型适用于多种类型的角色和场景,包括写实视频制作、动漫角色甚至CGI角色制作的生成。开源内容包含权重、推理代码和LoRA训练代码,支持开发者基于混元训练专属LoRA等衍生模型。目前在Github、HuggingFace等主流开发者社区均可下载体验。

混元开源技术报告披露,混元视频生成模型具备灵活的扩展性,图生视频和文生视频在相同的数据集上开展预训练工作。在保持超写实画质、流畅演绎大幅度动作、原生镜头切换等特性的基础上,让模型能够捕捉到丰富的视觉和语义信息,并结合图像、文本、音频和姿态等多种输入条件,实现对生成视频的多维度控制。

目前,混元开源系列模型已经完整覆盖文本、图像、视频和3D生成等多个模态,在Github 累计获得超 2.3 万开发者关注和star。(闫妍)

特别声明:[腾讯混元发布并开源图生视频模型,上线音频与动作驱动等能力] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

曝真我GT8 Pro冲高端,2K直屏+2亿大底潜望(真我gt 888 870)

与此同时,realme 副总裁王伟最近也发布了新一代真我 GT8 系列手机的相关消息:“GT系列设计会做很大的调整,我始终认为产品的第一买点是设计,所以接下来的GT8系列可以期待一下,一定有惊喜。”真我Ne…

曝真我GT8 Pro冲高端,2K直屏+2亿大底潜望(真我gt 888 870)

财政部通报地方政府隐性债务问责案例 六起典型案件曝光(财政部 发文)

财政部通报了六起地方政府隐性债务问责典型案例,旨在发挥警示教育作用,遏制新增隐性债务等违法违规行为。辽宁省沈阳市辽中区通过国有企业举债融资实施高标准农田改造提升项目,新增隐性债务5.2亿元

财政部通报地方政府隐性债务问责案例 六起典型案件曝光(财政部 发文)

胡可带儿子海边游玩,14岁安吉瘦了不少,弟弟小鱼儿依旧圆润(胡可带娃真有一套)

自从胡可与沙溢步入婚姻殿堂,他们的生活中添上了两个可爱的儿子——安吉与小鱼儿。 在沙滩上,母子三人享受着无忧无虑的时光,快乐地留下了旅行的瞬间。如今,随着孩子们的成长,以及与沙溢婚姻的和谐美好,她的生活可谓幸…

胡可带儿子海边游玩,14岁安吉瘦了不少,弟弟小鱼儿依旧圆润(胡可带娃真有一套)

2025-2031年全球可变流量液力偶合器市场研发动向分析报告(2030全球趋势报告)

表 68: Rexnord Industries 可变流量液力偶合器销量、收入(百万美元)及价格(美元件)(2020-2025) 表 96:Sumitomo Heavy Industries 可变流量液…

2025-2031年全球可变流量液力偶合器市场研发动向分析报告(2030全球趋势报告)

全场景工业互联设备管理系统解决方案(工业互联网园区应用场景白皮书)

学生需要完成"智能设备系统设计"“工业数据伦理”“技术哲学"等跨学科课程,并通过"企业真实项目"解决实际问题——某团队为特斯拉设计的电池设备管理系统,

全场景工业互联设备管理系统解决方案(工业互联网园区应用场景白皮书)