EchoMimicV2 是蚂蚁集团(Alipay, Ant Group)终端技术部推出的开源 AI 数字人模型,属于 EchoMimic 系列,定位为“迈向引人注目、简化且半身的人像动画”。根据官方资料,EchoMimicV2 利用一张参考图像、一段音频片段和一系列手部姿态,生成高质量动画视频,并确保音频内容与半身动作之间保持一致。
用途方面,EchoMimicV2 专注于半身人像动画生成,目标是在简化不必要控制条件的前提下,实现具有表现力的半身动画。与通常依赖音频、姿态或运动图条件的人像动画工作不同,EchoMimicV2 试图减少额外控制条件、繁琐的条件注入模块以及对头部区域驱动的限制。
主要能力方面,该方法提出了一种新颖的音频-姿态动态协调策略,包含姿态采样和音频扩散,用于增强半身细节、面部与手势表现力,同时降低条件冗余。为补偿半身数据的稀缺,它采用头部部分注意力(Head Partial Attention),将头像(headshot)数据无缝融入训练框架,并且该机制在推理阶段可以省略,从而为动画生成提供便利。此外,它还设计了特定阶段的去噪损失(Phase-specific Denoising Loss),分别针对动画在不同阶段的运动、细节和低层质量进行引导。该工作还提出了一个新的基准,用于评估半身人像动画的有效性。
使用方式方面,官方资料展示了相关示例,包括中文驱动音频、英文驱动音频、与姿态驱动算法的对比、与音频驱动算法的对比,以及由 FLUX 生成的参考图像。官网地址为 https://antgroup.github.io/ai/echomimic_v2/ 。关于具体的安装命令、代码调用方式、依赖环境、模型权重获取途径等,官方资料中暂未提供。
适用场景方面,基于官方描述,EchoMimicV2 可应用于需要半身人像动画生成的场景,例如由音频和手部姿态驱动的数字人视频制作。
限制方面,官方资料提到现有方法常因额外控制条件、条件注入模块繁琐或局限于头部区域驱动而面临实际挑战;EchoMimicV2 正是为应对这些问题而提出。官方资料称大量实验和分析表明,EchoMimicV2 在定量和定性评估上均优于现有方法。但关于其具体的性能指标数值、支持的语言范围、对输入图像和音频的具体要求、推理速度、硬件需求等,官方资料中暂未提供。