SuperAPI AI 工具集

talking-head-production

设计与创作

查看项目

更新于 10-16 07:00

技能介绍

用途

Talking Head Production 是一个用于制作「口播」类数字人视频的技能,通过 inference.sh 命令行工具(belt CLI)驱动 AI 头像、唇形同步(lipsync)与语音合成,把一张人像图片生成为会说话的视频。

安装与使用方式

需先安装 belt CLI 技能:npx skills add belt-sh/cli,然后执行 belt login 登录。核心调用形式为 belt app run <app-id> --input '{...}',输入以 JSON 传递。

推荐模型与选择

资料推荐从 P-Video-Avatar 开始,称其比替代方案快 18 倍、便宜 6 倍,并内置 TTS。可选模型:

  • P-Video-Avatar(pruna/p-video-avatar):内置 TTS(30 种声音、10 种语言),资料称综合最优。
  • OmniHuman 1.5(bytedance/omnihuman-1-5):无内置 TTS,适合多角色、手势场景,最多支持 2 个角色。
  • OmniHuman 1.0(bytedance/omnihuman-1-0):无内置 TTS,单角色。
  • Fabric 1.0(falai/fabric-1-0):有内置 TTS,图片唇形同步发声。
  • PixVerse Lipsync(falai/pixverse-lipsync):无内置 TTS,写实唇形同步。

资料给出的成本与速度对比:P-Video-Avatar 约 1.83s/s、$0.025/秒;OmniHuman 1.5 约 28s/s(慢 15 倍)、$0.16/秒(贵 6.4 倍);Fabric 1.0 约 34s/s(慢 18 倍)、$0.14/秒(贵 5.6 倍)。

主要能力与工作流

  1. 文本脚本直接出视频:P-Video-Avatar 内置多种声音,无需单独的 TTS 步骤,可指定 voice、voice_language、resolution 等。
  2. 带风格控制:通过 voice_prompt 控制语气语速,通过 video_prompt 控制画面背景场景。
  3. 音频驱动:任意模型可传入自有音频文件(audio / audio_url)。
  4. 完整流程:先用 P-Image 生成人像,再用 P-Video-Avatar 生成口播视频。
  5. 分离 TTS 流程(针对无内置 TTS 的模型):先用 falai/dia-tts 生成语音,再用 OmniHuman 等模型合成口播。
  6. 多角色对话:OmniHuman 1.5 支持最多 2 个角色,配合 dia-tts 的双说话人对话格式生成。
  7. 长视频:超过约 60 秒的内容建议拆分为多段,用同一张人像生成保证一致性,再用 infsh/media-merger 合并。
  8. 多语言内容:P-Video-Avatar 内置 TTS 支持 10 种语言,示例涵盖西班牙语、日语。
  9. 为已有视频配音:流程为 fast-whisper-large-v3 转录 → 翻译文本 → kokoro-tts 生成新语音 → latentsync-1-6 对原视频做唇形同步。

人像与规范要求

资料强调源人像图片至关重要,要求:居中度构图(面部居中)、头肩可见(胸部以下裁切)、直视镜头、中性表情、面部清晰无遮挡(无墨镜或重阴影)、高分辨率(面部区域至少 512x512,理想 1024x1024 以上)。背景可选纯色、柔和散景、办公室/影棚,或用 P-Video-Avatar 的 video_prompt 设置动态背景。可用 P-Image 生成专业人像。

音频质量要求(非 TTS 流程)

当提供自有音频时,质量直接影响唇形同步精度:无/极少背景噪声、音量全程一致、采样率 44.1kHz 或 48kHz、格式为 MP3 128kbps+ 或 WAV。

可用声音与语言(P-Video-Avatar)

女声包括 Zephyr、Kore、Leda、Aoede、Callirrhoe、Autonoe、Despina、Erinome、Laomedeia、Achernar、Gacrux、Pulcherrima、Vindemiatrix、Sulafat;男声包括 Puck、Charon、Fenrir、Orus、Enceladus、Iapetus、Umbriel、Algenib、Algieba、Schedar、Achird、Zubenelgenubi、Sadachbia、Sadaltager、Alnilam、Rasalgethi。语言包括英语(美式/英式)、西班牙语、法语、德语、意大利语、葡萄牙语(巴西)、日语、韩语、印地语。

常见错误与修复

低分辨率人像导致面部模糊、唇形同步差(改用 1024x1024+);侧脸角度导致唇部难以跟踪(改用正面或近正面);音频嘈杂导致同步漂移(用内置 TTS 或干净录音);片段过长导致质量下降(拆分后拼接);墨镜或遮挡导致面部特征被隐藏(需清晰面部);光照不一致导致动画违和(使用均匀柔和光)。

相关技能安装命令

  • P-Video-Avatar 专用:npx skills add inference-sh/skills@p-video-avatar
  • 全部头像模型:npx skills add inference-sh/skills@ai-avatar-video
  • 全部视频生成模型:npx skills add inference-sh/skills@ai-video-generation
  • 文本转语音:npx skills add inference-sh/skills@text-to-speech
  • 图像生成(用于人像):npx skills add inference-sh/skills@ai-image-generation

浏览全部应用:belt app list。

限制

资料未提供各模型的最大时长、分辨率上限、并发限制、账号权限与配额等信息;具体可用性以实际调用为准。价格与速度数据来自资料,可能随时间变化。