SuperAPI AI 工具集

Live Portrait

Live Portrait 是一款视频驱动的肖像动画框架,可将单张静态肖像照片转化为逼真动态视频。它由快手科技、中国科学技术大学和复旦大学的研究者开发,基于隐式关键点框架和 vid2vid 模型,能从驱动视频中提取面部表情和头部姿态运动,并迁移到源肖像上。该工具支持多风格动画、跨身份重演(cross-reenactment)、自重建(self-reenactment)、眼球开合与唇部位置精确控制,以及视频到视频的人脸编辑。它使用拼接(stitching)和重定向(retargeting)模块,通过小型 MLP 实现对表情和运动的细粒度控制。Live Portrait 在 RTX 4090 GPU 上使用 PyTorch 达到 12.8ms 的生成速度,训练使用了约 6900 万高质量帧。用户可上传肖像图片和驱动视频,三步生成动画。该工具提供免费试用,适用于肖像动画、视频编辑等多种场景,也可微调用于动物动画。

访问官网

工具介绍

Live Portrait 是一款视频驱动的肖像动画框架,专注于提升泛化能力、可控性和效率,适用于实际使用场景。它能够从单张源图像合成逼真的视频,运动信息(面部表情和头部姿态)来自驱动视频、音频、文本或生成内容。

用途方面,Live Portrait 主要用于将静态肖像照片转化为动态视频。用户上传一张清晰的面部肖像照片,系统提取面部特征,再选择或上传一段展示面部运动的驱动视频,点击生成按钮即可创建动画。过程中可以调整配置参数或使用默认值。

主要能力包括:

  • 多风格肖像动画:利用拼接技术,可跨不同风格和尺寸对静态图像进行动画处理。
  • 肖像视频编辑与拼接:提供基于拼接技术的动态视频到视频人脸动画和编辑能力。
  • 精确的眼部动画控制:通过标量输入动态调整眼睛开合程度,实现细致表情控制。
  • 准确的唇部运动控制:通过基于标量的输入微调唇部位置,实现精确的语音和表情动画。
  • 高级自重建:从单张源帧生成高质量动画,在重建动态视频序列方面优于现有方法。
  • 强大的跨身份重演:在不同肖像之间准确迁移运动,处理从大幅度姿态变化到细微表情以及多人输入等多种场景。

核心技术原理:基于 vid2vid 模型,使用大量高质量图像和视频数据集训练,从源图像和驱动视频中提取关键特征。采用创新的隐式关键点框架,将驱动视频中的运动映射到肖像上,确保高效可控的动画。优化的解码器快速生成每一帧,在保持源图像身份的同时高效创建平滑动画。拼接和重定向模块优化输出,以极小的计算开销实现对面部表情和运动的细粒度控制。

使用方式:三步操作。第一步,上传一张面部清晰的肖像照片,Live Portrait 将提取面部特征用于动画;第二步,选择或上传一段展示面部运动的驱动视频,该视频将指导肖像图像的面部运动生成;第三步,点击“Animate”按钮,根据需要调整配置参数或保留默认值,然后点击生成并等待完成。

适用场景:包括自重建、跨身份重演、静态图像肖像动画、肖像视频编辑、眼部和唇部重定向控制,以及不同风格之间的动画。还可通过微调用于动物动画(猫、狗、熊猫)。

限制与说明:官方资料未提供具体的收费信息、价格、平台限制或详细使用步骤。已知开发方为快手科技、中国科学技术大学和复旦大学的研究者。性能方面,在 RTX 4090 GPU 上使用 PyTorch 达到 12.8ms 的生成速度,训练使用了约 6900 万高质量帧。开源项目推理代码和模型可在 https://github.com/KwaiVGI/LivePortrait 获取,免费试用可在 https://live-portrait.org/free-playground 访问。