BAIZE AI RESOURCE

开源多语言语音合成与声音克隆系统,支持 30 种语言和 48kHz 音频输出。

VoxCPM

VoxCPM 是 OpenBMB 推出的开源语音合成系统,能把文字直接变成自然语音,支持 30 种语言、声音设计和声音克隆,输出 48kHz 高质量音频,适合配音、有声内容和语音应用开发。

VoxCPM

资源介绍

VoxCPM 是一个开源的文字转语音(TTS)系统,由 OpenBMB 团队开发。它最大的特点是无需先把文字转成中间符号,而是直接生成连续语音,因此合成结果更自然、更有表现力。最新版本 VoxCPM2 支持 30 种语言,包括中文、英语、日语、韩语等,还支持中文方言如粤语、四川话。它提供三种主要用法:输入文字直接合成语音;用一段文字描述想要的声音(性别、年龄、语气、情绪等)来创造全新音色;或者上传一段参考音频来克隆某个人的声音,并可控制情绪和语速。输出音频达到 48kHz 录音室级别,无需额外处理。用户可以通过网页界面、命令行或 Python 代码调用,也支持 Docker 部署和 LoRA 微调来训练自己的音色。适合内容创作者、配音工作者、有声书制作者以及需要语音功能的开发者使用。

核心能力

30 种语言直接合成

输入任意支持语言的文字即可直接生成语音,无需添加语言标签,覆盖中文、英语、日语、韩语、法语、德语等 30 种语言,还支持粤语、四川话等中文方言。

声音设计

只需用自然语言描述想要的声音特征,如性别、年龄、语气、情绪和语速,就能创造出一个全新的音色,不需要提供任何参考音频。

可控声音克隆

上传一段简短的参考音频即可克隆该声音,还可以附加风格指引来调整情绪、语速和表达方式,同时保留原始音色特征。

48kHz 高质量音频输出

接受 16kHz 参考音频,直接输出 48kHz 录音室级别音频,内置超分辨率处理,无需额外的音频升频工具。

实时流式合成

在 NVIDIA RTX 4090 上实时因子低至约 0.3,配合 Nano-vLLM 或 vLLM-Omni 加速后可低至约 0.13,适合需要低延迟的语音应用场景。

LoRA 微调训练

提供 LoRA 微调功能,用户可以用自己的音频数据训练专属音色,并通过 WebUI 界面或 Docker 容器完成训练流程。

使用方法

  1. 准备 Python 3.10 或更高版本的环境,安装 PyTorch 等基础依赖。

  2. 通过 pip 安装 voxcpm 包,或从 GitHub 仓库克隆源码后安装。

  3. 首次使用时模型会自动从 Hugging Face 下载,也可提前下载到本地目录。

  4. 使用命令行工具 voxcpm 或 Python API 调用合成功能,输入文字即可生成语音。

  5. 如需网页界面操作,可启动 Web Demo 或使用 Docker 部署训练 WebUI。

  6. 如需训练专属音色,准备音频数据和 JSONL 格式的训练清单,通过 LoRA 微调流程完成训练。

使用案例

有声内容制作

使用场景内容创作者需要将文章或脚本转为语音

输入文字内容,选择目标语言,VoxCPM 直接生成自然流畅的语音音频,可用于有声书、播客或视频配音。

定制专属音色

使用场景用户希望拥有独特的声音用于品牌或项目

通过声音设计功能,用文字描述想要的音色特征,生成全新声音;或上传参考音频克隆特定音色,用于统一品牌语音形象。

多语言语音应用开发

使用场景开发者需要为应用添加多语言语音功能

通过 Python API 或命令行调用 VoxCPM,在应用中集成 30 种语言的语音合成能力,支持实时流式输出,适合语音助手、客服系统等场景。

包含内容

voxcpm-source.zip
README-中文安装说明.md
LICENSE-Apache-2.0.txt
SHA256.txt

常见问题

VoxCPM 支持哪些语言?
VoxCPM2 支持 30 种语言,包括阿拉伯语、缅甸语、中文、丹麦语、荷兰语、英语、芬兰语、法语、德语、希腊语、希伯来语、印地语、印尼语、意大利语、日语、高棉语、韩语、老挝语、马来语、挪威语、波兰语、葡萄牙语、俄语、西班牙语、斯瓦希里语、瑞典语、他加禄语、泰语、土耳其语和越南语。此外还支持四川话、粤语、吴语、东北话、河南话、陕西话、山东话、天津话、闽南话等中文方言。
使用 VoxCPM 需要什么样的硬件配置?
VoxCPM 需要 NVIDIA GPU 运行。使用 Docker 部署训练 WebUI 时,要求 CUDA 12.4 及以上兼容驱动,至少 16GB 显存,推荐 24GB 以上以运行更大模型。在 RTX 4090 上实时因子可低至约 0.3。
VoxCPM 可以商用吗?
可以。VoxCPM 的模型权重和代码均以 Apache-2.0 许可证发布,允许免费商用。
如何用 VoxCPM 训练自己的音色?
VoxCPM 提供 LoRA 微调功能。需要准备音频文件和 JSONL 格式的训练清单(每行包含音频路径、文本和说话人标识),然后通过 LoRA 微调 WebUI 或 Docker 容器启动训练。训练完成后,检查点保存在 lora 目录下,可用于推理生成专属音色。