Voicebox 是一款开源、本地优先的 AI 语音工作室,定位为 ElevenLabs 与 WisprFlow 的一体化替代方案。它覆盖语音输入与输出两个方向:一方面提供语音克隆与语音生成,另一方面提供听写与转写,并通过内置本地大模型完成文本润色与个性化改写。官方强调完整隐私,模型、语音数据与捕获内容均不离开本机。
用途方面,Voicebox 可用于语音克隆、语音合成、听写输入、转写归档、智能体语音输出,以及播客、对话、叙事类多轨音频制作。它既面向个人日常听写,也面向需要为 AI 智能体赋予声音的开发者。
主要能力包括:
- 8 种 TTS 引擎:Qwen3-TTS、Qwen CustomVoice、Qwen VoiceDesign、LuxTTS、Chatterbox Multilingual、Chatterbox Turbo、HumeAI TADA、Kokoro。
- 语音克隆与预设音色:支持基于参考样本的零样本克隆,以及通过 Kokoro 与 Qwen CustomVoice 提供的 50 多个精选预设音色。
- 23 种语言支持,涵盖英语、阿拉伯语、日语、印地语、斯瓦希里语等。
- 后处理效果:由 Spotify pedalboard 库提供 8 种音频效果,包括变调、混响、延迟、合唱、压缩与滤波;内置 Robotic、Radio、Echo Chamber、Deep Voice 四种预设,支持自定义预设并按音色配置文件设定默认效果链。
- 表现力语音:Chatterbox Turbo 支持 [laugh]、[sigh]、[gasp] 等副语言标签(其他部分引擎会将其按字面文本读出);Qwen CustomVoice 支持自然语言控制表达方式;Qwen VoiceDesign 支持用平实语言描述音色。
- 无限长度生成:按句子边界自动分块,独立生成后交叉淡化拼接,支持 100–5,000 字符的分块上限与 0–200ms 的交叉淡化调节,最大文本长度 50,000 字符,智能切分可识别缩写、CJK 标点与 [标签]。
- 生成版本管理:每次生成保留原始版本、效果版本、不同种子的 takes,并记录来源谱系,支持收藏。
- 异步生成队列:非阻塞提交,串行执行避免 GPU 争用,实时 SSE 状态流,失败可重试,崩溃后的陈旧任务开机自动恢复。
- 音色配置文件管理:从音频文件创建或应用内录制,导入/导出,多样本支持,按配置文件设定默认效果链,支持描述与语言标签。
- 故事编辑器:多轨时间线,支持拖放、内联裁剪与分割、同步播放头、按片段固定版本,用于对话、播客与叙事制作。
- 全局听写与语音输入:可配置和弦键绑定,支持按住说话与点击切换,macOS 上按住时点按 Space 可无间断升级为切换模式;macOS 支持目标感知粘贴(经辅助功能验证注入焦点文本框,并原子化保存/恢复剪贴板);首次运行时引导授予 macOS 辅助功能与输入监控权限;每个 Voicebox 文本框都有应用内麦克风按钮;可选 LLM 润色去除 um、结巴与误起。
- 转写与 Capture 管理:基于 OpenAI Whisper,运行于 MLX(Apple Silicon)或 PyTorch(CUDA/ROCM/DirectML/CPU)。每次听写、应用内录音与上传音频都进入 Captures 标签页,原始音频与转写始终保留;可重放、用任意 Whisper 尺寸重新转写、用不同标志重新润色、内联编辑、一键以克隆音色朗读、或将音频与转写提升为音色参考样本。本地捕获内容存储在 Voicebox 数据目录,设置中提供文件夹快捷方式。
- 智能体语音输出:提供 MCP 服务器,一次工具调用(voicebox_speak)即可让支持 MCP 的智能体以克隆音色说话;同时暴露 POST /speak 供 ACP、A2A、shell 脚本等非 MCP 场景使用。支持按智能体绑定音色(如 Claude Code 绑定 Morgan、Cursor 绑定 Scarlett),并以 last_seen_at 时间戳确认安装生效;所有智能体发起的语音都会显示屏幕悬浮 pill,不会静默后台朗读。支持 HTTP 与 stdio 两种传输方式。
- 声音人格:可为任意音色配置文件附加自由文本人格,由本地 Qwen3 LLM 驱动,提供 Compose(生成符合角色的台词)与 Speak in character(按角色改写后再 TTS)两个操作;智能体可通过在 voicebox_speak 传 personality: true 走同一改写路径。本地 LLM 可选 Qwen3 0.6B / 1.7B / 4B,与 TTS 共用运行时。
- 模型管理:按模型卸载以释放 GPU 显存而不删除下载,支持 VOICEBOX_MODELS_DIR 自定义模型目录、模型文件夹迁移与进度跟踪、下载取消/清除 UI。
使用方式方面:可通过官网、文档与下载页获取;Linux 暂无预编译二进制,需按 voicebox.sh/linux-install 从源码构建。项目提供 REST API,完整 API 文档位于 http://127.0.0.1:17493/docs。MCP 安装支持 Claude Code 一行命令及任意 HTTP MCP 客户端配置,stdio 回退可指向内置 voicebox-mcp 二进制。发布四个 MCP 工具:voicebox_speak、voicebox_transcribe、voicebox_list_captures、voicebox_list_profiles;按客户端音色绑定在 Voicebox → Settings → MCP 中管理。本地构建需安装 Bun、Rust、Python 3.12、Tauri 前置依赖与 macOS 上的 Xcode,并使用 just 命令(brew install just 或 cargo install just,运行 just --list 查看全部命令);仓库根目录自带预配的 .mcp.json,在检出目录内运行 Claude Code 会自动拾取 Voicebox MCP 工具。添加新语音模型有分步指南,且面向 AI 编码智能体优化。
适用场景包括:智能体开发循环(语音提问、以克隆音色听取回答)、游戏与叙事工具的交互角色、播客制作、对话与叙事音频、无障碍辅助工具、语音助手与内容自动化。
限制方面:项目为 MIT 许可证,免费开源,应用内无启动画面、横幅或打断。Linux 预编译二进制暂未提供。副语言标签仅 Chatterbox Turbo 支持,其余部分引擎会按字面读出。更多引擎(Parakeet v3、Qwen3-ASR)为规划中内容。项目工程状态、未决问题与优先级队列见 docs/PROJECT_STATUS.md,贡献指南见 CONTRIBUTING.md,安全报告见 SECURITY.md。