GPT-SoVITS 是一个开源的文本转语音(TTS)与声音克隆项目,托管于 GitHub(https://github.com/RVC-Boss/GPT-SoVITS)。项目以低数据量训练为主要卖点,官方描述为「1 分钟语音数据也能训练出不错的 TTS 模型(少样本声音克隆)」。
主要能力
- 零样本 TTS(Zero-shot TTS):输入 5 秒人声样本即可即时进行文本转语音。
- 少样本 TTS(Few-shot TTS):仅用 1 分钟训练数据微调模型,提升音色相似度和真实感。
- 跨语言支持:可使用与训练数据集不同的语言进行推理,目前支持英语、日语、韩语、粤语和中文。
- 高推理速度:官方给出的 RTF(推理速度)数据显示,GPT-SoVITS v2 ProPlus 在 4060Ti 上为 0.028,4090 上为 0.014(约 1400 词≈4 分钟,推理时间 3.36 秒),M4 CPU 上为 0.526。
WebUI 工具 项目提供 GPT-SoVITS-WebUI,集成了伴奏分离、自动训练集切分、中文 ASR 和文本标注等工具,帮助初学者创建训练数据集和 GPT/SoVITS 模型。
使用方式
- Windows 用户(win>=10 已测试)可下载集成包,双击 go-webui.bat 启动 GPT-SoVITS-WebUI。
- 手动安装:下载 ffmpeg.exe 和 ffprobe.exe 放置于 GPT-SoVITS 根目录,安装 Visual Studio 2017。
- Docker 方式:可查看 Docker Hub 获取最新镜像标签,选择合适标签;Lite 版本不含 ASR 模型和 UVR5 模型。Docker Compose 会挂载当前目录所有文件,使用前需切换到项目根目录并拉取最新代码;也可用提供的 Dockerfile 本地构建镜像。is_half 控制是否启用半精度(fp16),GPU 支持时可设为 true 以降低显存占用。Windows(Docker Desktop)默认共享内存较小,可能导致异常,需根据系统内存调大 shm_size(如 16g)。docker-compose.yaml 定义了 GPT-SoVITS-CU126、GPT-SoVITS-CU128 完整版与对应的 Lite 轻量版服务。
- 命令行方式:可通过命令行打开 UVR5 的 WebUI、进行数据集音频切分、执行数据集 ASR 处理(中文),以及通过 Faster_Whisper 进行非中文的 ASR 标注。
预训练模型与依赖
- 预训练模型下载:从 GPT-SoVITS Models 下载并放入 GPT_SoVITS/pretrained_models。
- 中文 TTS 需下载 G2PW 模型,解压重命名为 G2PWModel 后放入 GPT_SoVITS/text。
- UVR5(人声/伴奏分离及混响去除):从 UVR5 Weights 下载模型放入 tools/uvr5/uvr5_weights;使用 bs_roformer 或 mel_band_roformer 模型时需手动下载模型与对应配置文件,文件名需包含 roformer 以便被识别,建议在模型名和配置文件名中直接指定模型类型(如 mel_mand_roformer、bs_roformer)。
- 中文 ASR:从 Damo ASR Model、Damo VAD Model、Damo Punc Model 下载并放入 tools/asr/models。
- 英语或日语 ASR:从 Faster Whisper Large V3 下载并放入 tools/asr/models,其他模型也可能有类似效果且占用磁盘更小。
微调与推理 双击 go-webui.bat 启动(如需切换 V1 可使用 go-webui.ps1 或 go-webui-v1.bat/go-webui-v1.ps1,也可在 WebUI 中手动切换版本)。流程为:填写音频路径 → 切分音频为小块 → 可选降噪 → 校对 ASR 转写文本 → 进入下一标签页微调模型 → 打开推理 WebUI(可双击 go-webui-v2.bat 或使用 go-webui-v2.ps1,然后在 1-GPT-SoVITS-TTS/1C-inference 打开推理 WebUI)。
版本要点
- V2:支持韩语和粤语;优化文本前端;预训练模型从 2k 小时扩展到 5k 小时;改善低质量参考音频的合成质量。
- V3:音色相似度更高,用更少训练数据即可接近目标说话人(直接使用基础模型而不微调也能显著提升音色相似度);GPT 模型更稳定,重复和遗漏更少,更易生成情感丰富的语音。
- V4:修复 V3 因非整数倍上采样导致的金属伪影问题,原生输出 48k 音频以避免声音发闷(V3 原生仅输出 24k)。作者认为 V4 是 V3 的直接替代,但仍需进一步测试。
- V2Pro:显存占用略高于 v2,性能超过 v4,兼具 v2 的硬件成本与速度。v1/v2 与 v2Pro 特性相近,v3/v4 特性相近;对于音频质量一般的训练集,v1/v2/v2Pro 可给出不错结果,而 v3/v4 不能;v3/v4 合成的音色更偏向参考音频而非整体训练集。
- V5:无需 SoVITS 微调即可显著提升声音相似度;更新声码器显著减少高频频谱镜像和混叠伪影;支持 cuda_graph 和 flash_attention 推理加速。
适用场景 适合需要文本转语音、声音克隆、跨语言语音合成、语音数据集制作(切分、标注、降噪、伴奏分离)的个人开发者、研究者与爱好者。
限制与暂未提供 官方文档中用户指南、日语和英语本地化、日语和英语数据集微调训练等被列为高优先级待办或规划项。推理速度、训练效果等在不同硬件与数据条件下可能存在差异,官方仅给出部分测试数据。关于收费、价格、平台支持范围等,资料暂未提供。