用途
gemini-omni 是 OpenMontage 对 Google DeepMind Gemini Omni 视频生成与编辑模型族的封装,调用入口为 gemini_omni_video,走原生 Gemini API,不经过网关。它的核心区别在于「有状态的多轮对话式编辑」:每次生成会返回一个 interaction_id,后续调用通过携带 previous_interaction_id 在原地修改该视频,而资料称其他被封装的服务商无法在不重新生成的前提下对片段做细化。
适合用在:对同一片段分层迭代打磨;编辑已有或上传的片段(改风格、增删物体、修改文字);在提示词中指定屏上文字与逐词文字节奏;通过提示词标签绑定参考图的主体与风格;在单条提示词中用时间码安排多段节拍。
不适合用在:一次性电影级主镜头(资料建议改用 Seedance 2.0,见 seedance-2-0);超过 10 秒或高于 720p 的片段;需要种子可复现的生成(不支持 seed);首末帧插值(建议改用 veo_video);非英文旁白(仅英文被完整支持)。
主要能力
- 生成:3-10 秒、720p、24fps 的 MP4,含合成音频,宽高比为 16:9 或 9:16。
- 对话式编辑:先产出基础片段(主体 + 场景 + 运动),再把返回的 interaction_id 作为 previous_interaction_id 传回,配合 operation="edit_video" 只描述增量改动,并追加「Keep everything else the same.」以固定未提及的元素。建议分层打磨:一轮改灯光、一轮改镜头、一轮改动作、一轮改音频。
- 编辑已上传视频:改传 input_video_path 而非 previous_interaction_id,工具会通过 Files API 上传;该能力在欧洲经济区、瑞士和英国不可用(编辑生成视频在所有地区可用)。
- 参考图绑定:通过 reference_image_paths 按顺序传入本地图片,并在提示词中用 <FIRST_FRAME> 与 <IMAGE_REF_N> 标签绑定角色;<IMAGE_REF_N> 按提供顺序从 0 开始索引。资料建议使用高分辨率图片,并具体描述想要的运动,说明每张图是产品、角色、风格还是背景参考。
- 时间码语法:可用括号区间或自然语言安排节拍,例如 [0-3s] A person is walking [3-6s] They stop and turn around,或「After 3 seconds, a woman enters the scene.」。资料说明这与 OpenMontage 的场景计划时间点直接对应。
- 音频与屏上文字:音频自动合成,可在提示词中引导,例如「Include calm background music」;渲染文字可用,且可计时,例如逐词显示并各持续 1 秒。
使用方式
通过 video_selector 路由执行生成类操作;编辑(edit_video)属于直连工具操作,需从注册表直接调用 gemini_omni_video,因为多轮交互状态不在 selector 的模型内。该工具与 google_imagen、google_tts 共用 GOOGLE_API_KEY/GEMINI_API_KEY,一个密钥对应三项能力。仅支持付费层级,资料标注约每输出视频 1 秒 $0.10(按每秒 5,792 输出 token、每 1M token $17.50 计费)。
注意事项:使用 previous_interaction_id 编辑的前提是此前调用把交互保留在服务端(gemini_omni_video 中 store 默认为 true);只有永不需要再编辑的一次性生成才设为 store=false。
提示词写法方面,资料给出以下要点:描述场景 + 镜头 + 灯光 + 运动 + 音频;用「In a single continuous shot,」或「No scene cuts.」明确要求单镜头,否则模型可能在场景间切换;负面要求写成散文式描述,没有 negative_prompt 参数;不支持采样器控制,系统指令、temperature、top_p、seed 均不受支持,提示词是唯一杠杆;可用元提示提升质量。编辑提示词则应简短、精准,过度描述的编辑提示会导致非预期改动。
替代路由
当不选用直连 Google 密钥作为服务商时,资料还列出以下路由:fal.ai 对应 gemini_omni_fal,支持 T2V、I2V、参考视频与编辑端点,但不返回 Google 交互 ID;Runway 对应 runway_video,模型为 "gemini_omni_flash",支持 T2V/I2V/V2V,视频编辑最多接受五张图片参考;ComfyUI 合作节点对应 comfyui_video,model_family 为 "gemini_omni_flash",为托管付费节点,需要网络、Comfy 登录与额度。资料建议有状态对话式编辑使用直连 gemini_omni_video 路由;网关路由返回普通服务商任务,无法保留 previous_interaction_id 工作流,fal 的编辑端点仍可通过把每次输出的视频 URL 传入下一次编辑调用来迭代。
限制
预览阶段的硬性限制包括:输出 3-10 秒、720p、24fps、含音频 MP4,宽高比 16:9 或 9:16;所有输出带不可见 SynthID 水印;不支持 seed、负面提示词、temperature、top_p 或系统指令;不支持视频延展或首末帧插值;不支持语音编辑;不支持音频参考输入;≤3 秒的视频参考虽被 schema 接受但无法被正确处理,不应依赖;不支持多视频提示,可能导致输出劣化;英文被完整支持,其他语言未测试;在欧洲经济区/瑞士/英国,未成年人图像以及某些可识别身份的真人图像在上传与编辑时被阻止。