SuperAPI AI 工具集

voice

办公与效率

查看项目

更新于 10-13 15:41

技能介绍

Voice & Sound Effects Generator 是 OpenChatCut 的语音与音效生成能力,主要包含文本转语音(TTS)与自定义音效(SFX)两部分。

一、用途 可用于从文本生成旁白/解说;为视频创建 TTS 音频;为已有视频、时间线、录屏、幻灯片动画、产品演示、B-roll 剪辑、MG 解说等视觉序列添加、替换或重做旁白与配音;在画面被裁剪、加速、减速、移动、重排或替换后,保持原旁白/配音仍然对齐;在用户未选定具体音色时提供试听与选择;以及在检查过内置音效库之后,按文字描述生成自定义音效。

二、主要能力 TTS:通过 submit_voice 创建音频资产。provider 为必填,可选 doubao、elevenlabs、minimax、inworld、fishaudio、speechify、openai、gemini、mistral、cartesia,但仅能使用 capabilities 提示中显示为已配置的提供商。voiceId 为必填且需具体、属于对应提供商;唯一例外是 MiniMax 的 timbreWeights 混音,此时 voiceId 需为空。不同提供商的字段支持不同:OpenAI 支持 modelId、speed、outputFormat、instructions;Gemini 支持 modelId、outputFormat、instructions;Mistral 支持 modelId、outputFormat;Cartesia 支持 modelId、speed、languageCode、outputFormat;Inworld、Fish Audio、Speechify 仅接受 voiceId 加可选 modelId。Doubao 支持 speedRatio、loudnessRatio、pitch、emotion、emotionScale、performancePrompt、explicitDialect,但并非每个音色都支持全部表现力控制。ElevenLabs 保留其官方音色设置、语言、seed、输出、归一化、发音词典、连续性、日志与延迟控制,eleven_v3 支持内联音频标签。submit_voice 仅创建音频资产,时间线放置、替换、裁剪与对齐由后续时间线工具完成。长旁白可拆分为多次 submit_voice 调用。

音效:普通剪辑音效不先生成,应先用 browse_library(category:"sound-effects",可查询 whoosh、camera shutter、notification、censor beep、record scratch 等),检查返回的 library:sound:<id>,再通过 edit_item 以 fromFrame 为锚点放置。仅当用户明确要求生成/原创/自定义音效,或所请求音效过于具体、库中无合适匹配时,才用 submit_sound,支持 prompt(必填)、durationSeconds(0.5-22 秒)、promptInfluence(0-1)与可选 name。

三、使用方式

  1. 若已有画面目标且用户需要旁白/配音,应先阅读 references/video-sync.md,再进行撰写、生成或放置;即使未明说“同步”也应如此。仅当没有画面目标或用户只要纯音频资产时,走普通独立 TTS 路径。
  2. 用户未选定具体音色时:对 Doubao、ElevenLabs、MiniMax,先读 references/voices.md,按目标旁白语言及性别、年龄、语气、用途等显式要求筛选,挑选 2-4 个匹配预设,加载 widget-forms 后调用 ask_followup_questions,附真实内置音频样本,等待选择后用所选预设 ID 作为 voiceId 调用 submit_voice。对 Inworld、Fish Audio、Speechify、OpenAI、Gemini、Mistral、Cartesia,不提供虚构试听列表或样本 URL,需用户提供/确认具体音色 ID。
  3. 区分“用户对话语言”与“目标旁白语言”:对话语言用于回复、表单标签、选项名称与摘要;目标旁白语言仅用于选择提供商与音色目录。
  4. 提供商选择:优先用户明确指定且已配置的提供商;中文旁白优先匹配的 Doubao 精选音色(或在配置/要求时用 MiniMax);英文/多语言旁白优先精选 ElevenLabs 音色;其他提供商需用户选定并确认音色 ID。不得提供 capabilities 中未显示为已配置的提供商。

四、适用场景 视频旁白/配音生成、已有影片的解说添加或替换、画面变动后的旁白对齐维护、音色试听与选择、以及内置库无法满足时的自定义音效生成。

五、限制 音色 ID 必须与提供商对应,禁止混用;不得在只有宽泛描述时提交 TTS;未查 references/voices.md 不得推荐或渲染精选 TTS 选项;不得为 Inworld、Fish Audio、Speechify、OpenAI、Gemini、Mistral、Cartesia 编造预设或样本 URL;不得向不支持的提供商传入其不支持的字段;不得声称稳定的年龄、地区口音、发音词典或精确时长控制,除非所选提供商公开支持;未经用户要求不得用 TTS 替换原始录制语音。精选音色目录仅覆盖 Doubao、ElevenLabs、MiniMax。具体收费、价格与更多平台信息暂未提供。