阿里开源动作生成模型Wan2.2
9月19日消息,阿里阿里开源全新动作生成模型通义万相Wan2.2-Animate,开源该模型同时支持动画和替换两种模式,动作输入一张角色图片和一段参考视频,生成可将视频角色的模型动作、表情迁移到图片角色中,阿里赋予图片角色动态表现力;同时还可在保留原始视频的开源动作、表情及环境的动作基础上,将视频中的生成角色替换为图片中的角色。该模型支持驱动人物、模型动漫形象和动物照片,阿里可应用于短视频创作、开源舞蹈模板生成、动作动漫制作等领域。生成
去年年初,阿里推出了Animate Anyone模型,基于该模型的「全民舞王」功能一度火爆全网,兵马俑、萌宠跳科目三的视频在社交平台刷屏。但此前的技术框架无法同时控制动作、表情和环境交互,生成的视频依旧存在不自然的问题。
此次,通义万相团队构建了一个涵盖说话、面部表情和身体动作的大规模人物视频数据集,并基于通义万相图生视频模型进行后训练。Wan2.2-Animate将角色信息、环境信息和动作等,规范到一种统一的表示格式,实现了单一模型同时兼容两种推理模式;针对身体运动和脸部表情,分别使用骨骼信号和隐式特征,配合动作重定向模块,实现动作和表情的精准复刻。在替换模式中,团队还设计了一个独立的光照融合LoRA,用于保证完美的光照融合效果。
实测结果显示,Wan2.2-Animate在视频生成质量、主体一致性和感知损失等关键指标上,超越了StableAnimator、LivePortrait等开源模型,是目前性能最强的动作生成模型,在人类主观评测中,Wan2.2-Animate甚至超越了以 Runway Act-two代表的闭源模型。
自今年 2 月以来,通义万相已连续开源20多款模型,在开源社区和三方平台的下载量已超3000万,是开源社区最受欢迎的视频生成模型之一。通义万相模型家族已支持文生图、文生视频、图生视频、人声生视频和动作生成等10多种视觉创作能力。
(责任编辑:百科)
- 《水灵子水的自我介绍》水灵子水的功效,水灵子水是真的吗
- 新乡将取消核发环保检验合格标志 无绿标不再处罚
- 新乡将取消核发环保检验合格标志 无绿标不再处罚
- 灯饰照明企业想要真正做大必须靠管理
- 关于肽的几个关键知识点,什么牌子肽好?
- 太焦铁路河南段开建 预计2020年通车
- 上海寿险推荐!2021寿险哪家好?
- 哪家百万医疗险好?2021哪家百万医疗险好
- 未来集市广西百色涉及传销新模式
- 河南8个高校撤销26个学位点 新增21个学位点
- 同时有多份医疗保险怎么报销,购买多份医疗保险可以有多份理赔吗?
- 郑州北三环与东三环即将“牵手”互联互通
- 年纳税21亿的TST为何被指微商界的权健?
- 省人社厅:工伤职工停工期间单位不能解除劳务合同
