用途
Talking Head Production 是一个用于制作「口播」类数字人视频的技能,通过 inference.sh 命令行工具(belt CLI)驱动 AI 头像、唇形同步(lipsync)与语音合成,把一张人像图片生成为会说话的视频。
安装与使用方式
需先安装 belt CLI 技能:npx skills add belt-sh/cli,然后执行 belt login 登录。核心调用形式为 belt app run <app-id> --input '{...}',输入以 JSON 传递。
推荐模型与选择
资料推荐从 P-Video-Avatar 开始,称其比替代方案快 18 倍、便宜 6 倍,并内置 TTS。可选模型:
- P-Video-Avatar(
pruna/p-video-avatar):内置 TTS(30 种声音、10 种语言),资料称综合最优。 - OmniHuman 1.5(
bytedance/omnihuman-1-5):无内置 TTS,适合多角色、手势场景,最多支持 2 个角色。 - OmniHuman 1.0(
bytedance/omnihuman-1-0):无内置 TTS,单角色。 - Fabric 1.0(
falai/fabric-1-0):有内置 TTS,图片唇形同步发声。 - PixVerse Lipsync(
falai/pixverse-lipsync):无内置 TTS,写实唇形同步。
资料给出的成本与速度对比:P-Video-Avatar 约 1.83s/s、$0.025/秒;OmniHuman 1.5 约 28s/s(慢 15 倍)、$0.16/秒(贵 6.4 倍);Fabric 1.0 约 34s/s(慢 18 倍)、$0.14/秒(贵 5.6 倍)。
主要能力与工作流
- 文本脚本直接出视频:P-Video-Avatar 内置多种声音,无需单独的 TTS 步骤,可指定 voice、voice_language、resolution 等。
- 带风格控制:通过 voice_prompt 控制语气语速,通过 video_prompt 控制画面背景场景。
- 音频驱动:任意模型可传入自有音频文件(audio / audio_url)。
- 完整流程:先用 P-Image 生成人像,再用 P-Video-Avatar 生成口播视频。
- 分离 TTS 流程(针对无内置 TTS 的模型):先用
falai/dia-tts生成语音,再用 OmniHuman 等模型合成口播。 - 多角色对话:OmniHuman 1.5 支持最多 2 个角色,配合 dia-tts 的双说话人对话格式生成。
- 长视频:超过约 60 秒的内容建议拆分为多段,用同一张人像生成保证一致性,再用
infsh/media-merger合并。 - 多语言内容:P-Video-Avatar 内置 TTS 支持 10 种语言,示例涵盖西班牙语、日语。
- 为已有视频配音:流程为 fast-whisper-large-v3 转录 → 翻译文本 → kokoro-tts 生成新语音 → latentsync-1-6 对原视频做唇形同步。
人像与规范要求
资料强调源人像图片至关重要,要求:居中度构图(面部居中)、头肩可见(胸部以下裁切)、直视镜头、中性表情、面部清晰无遮挡(无墨镜或重阴影)、高分辨率(面部区域至少 512x512,理想 1024x1024 以上)。背景可选纯色、柔和散景、办公室/影棚,或用 P-Video-Avatar 的 video_prompt 设置动态背景。可用 P-Image 生成专业人像。
音频质量要求(非 TTS 流程)
当提供自有音频时,质量直接影响唇形同步精度:无/极少背景噪声、音量全程一致、采样率 44.1kHz 或 48kHz、格式为 MP3 128kbps+ 或 WAV。
可用声音与语言(P-Video-Avatar)
女声包括 Zephyr、Kore、Leda、Aoede、Callirrhoe、Autonoe、Despina、Erinome、Laomedeia、Achernar、Gacrux、Pulcherrima、Vindemiatrix、Sulafat;男声包括 Puck、Charon、Fenrir、Orus、Enceladus、Iapetus、Umbriel、Algenib、Algieba、Schedar、Achird、Zubenelgenubi、Sadachbia、Sadaltager、Alnilam、Rasalgethi。语言包括英语(美式/英式)、西班牙语、法语、德语、意大利语、葡萄牙语(巴西)、日语、韩语、印地语。
常见错误与修复
低分辨率人像导致面部模糊、唇形同步差(改用 1024x1024+);侧脸角度导致唇部难以跟踪(改用正面或近正面);音频嘈杂导致同步漂移(用内置 TTS 或干净录音);片段过长导致质量下降(拆分后拼接);墨镜或遮挡导致面部特征被隐藏(需清晰面部);光照不一致导致动画违和(使用均匀柔和光)。
相关技能安装命令
- P-Video-Avatar 专用:
npx skills add inference-sh/skills@p-video-avatar - 全部头像模型:
npx skills add inference-sh/skills@ai-avatar-video - 全部视频生成模型:
npx skills add inference-sh/skills@ai-video-generation - 文本转语音:
npx skills add inference-sh/skills@text-to-speech - 图像生成(用于人像):
npx skills add inference-sh/skills@ai-image-generation
浏览全部应用:belt app list。
限制
资料未提供各模型的最大时长、分辨率上限、并发限制、账号权限与配额等信息;具体可用性以实际调用为准。价格与速度数据来自资料,可能随时间变化。