用途
Analyze Footage 是一个帮助用户理解现有视频文件内容的 AI 技能。它通过 TwelveLabs MCP 为智能体提供“视觉”能力,使其能够识别视频中的场景、对象、人物和屏幕文字,并输出带时间戳的描述。该技能主要面向视频制作流程,尤其是与 Remotion 配合使用时,可从原始素材中快速定位和推荐可用片段。
主要能力
- 场景拆分:请求列出所有不同场景,并附带时间戳和描述,例如“0:00 - 0:15 标志动画,深色背景”。
- 关键元素检测:识别人物(如演讲者、观众)、物体(如笔记本电脑、投影幕、讲台、麦克风)、屏幕文字和场景环境(如会议室、专业照明)。
- 语义搜索:支持用自然语言查找特定时刻,例如“找到产品演示的部分”“展示所有户外场景”“查找特写镜头”。
- 片段推荐:基于分析结果,为特定用途(如 30 秒宣传片)推荐最佳片段,并给出源视频中的时间范围。
- Remotion 代码示例:为推荐片段展示对应的 Remotion 代码,使用
<Sequence>和<OffthreadVideo>组件,包含startFrom和endAt等参数。
使用方式
- 识别视频文件:技能会提示用户指定要分析的视频文件,或自动在常见位置(如
public/footage/、public/raw/、public/video/、public/)查找.mp4、.mov、.avi、.mkv、.webm格式的文件。若未找到,则询问用户素材位置。 - TwelveLabs 索引:对每个视频文件,通过 TwelveLabs MCP 创建索引(或使用现有索引)、上传/索引视频文件,并等待索引完成。索引较长视频可能需要几分钟,超过 30 分钟的视频可能需要 10 分钟以上。索引可重复使用,一次索引可多次搜索。
- 内容分析:运行场景拆分和关键元素检测,并以结构化格式展示结果。
- 定向搜索:如果用户有特定需求,使用 TwelveLabs 语义搜索查找特定时刻。
- 推荐片段:根据分析结果,结合用户目标(如制作宣传片)推荐最佳片段,并给出源视频时间范围和用途说明。
- 展示 Remotion 用法:为每个推荐片段展示对应的 Remotion 代码,便于直接用于视频合成。
适用场景
- 从长视频素材中快速找到产品演示、观众反应、特写等特定镜头。
- 为宣传片、集锦或社交媒体短视频挑选可用片段。
- 需要理解视频内容并生成时间戳描述的场景。
- 与 Remotion 工作流结合,将分析结果直接转化为剪辑代码。
限制
- 依赖 TwelveLabs MCP 服务,需确保已配置并可用。
- 视频文件需放在 Remotion 可访问的
public/目录下,以便通过staticFile()引用。 - 索引时间受视频长度影响,较长视频需要等待。
- 技能本身不提供视频编辑或渲染功能,仅用于分析和推荐;实际剪辑需结合 Remotion 或其他工具。
- 对于分析准确性、支持的文件格式范围、TwelveLabs 的具体收费或配额,资料未提供明确说明。