查看我们的介绍视频 demo video
few.shot.fine.tuning.demo.mp4
-
零样本文本到语音(TTS): 输入5秒的声音样本,即刻体验文本到语音转换。
-
少样本TTS: 仅需1分钟的训练数据即可微调模型,提升声音相似度和真实感。
-
跨语言支持: 支持与训练数据集不同语言的推理,目前支持英语、日语和中文。
-
WebUI工具: 集成工具包括声音伴奏分离、自动训练集分割、中文自动语音识别(ASR)和文本标注,协助初学者创建训练数据集和GPT/SoVITS模型。
如果你是Windows用户(已在win>=10上测试),可以直接通过预打包文件安装。只需下载预打包文件,解压后双击go-webui.bat即可启动GPT-SoVITS-WebUI。
已在Python 3.9、PyTorch 2.0.1和CUDA 11上测试。
conda create -n GPTSoVits python=3.9
conda activate GPTSoVits
bash install.sh
pip install torch numpy scipy tensorboard librosa==0.9.2 numba==0.56.4 pytorch-lightning gradio==3.14.0 ffmpeg-python onnxruntime tqdm cn2an pypinyin pyopenjtalk g2p_en chardet
如果你需要中文自动语音识别(由FunASR支持),请安装:
pip install modelscope torchaudio sentencepiece funasr
conda install ffmpeg
sudo apt install ffmpeg
sudo apt install libsox-dev
conda install -c conda-forge 'ffmpeg<7'
brew install ffmpeg
下载并将 ffmpeg.exe 和 ffprobe.exe 放置在 GPT-SoVITS 根目录下。
从 GPT-SoVITS Models 下载预训练模型,并将它们放置在 GPT_SoVITS\pretrained_models
中。
对于中文自动语音识别(另外),从 Damo ASR Model, Damo VAD Model, 和 Damo Punc Model 下载模型,并将它们放置在 tools/damo_asr/models
中。
对于UVR5(人声/伴奏分离和混响移除,另外),从 UVR5 Weights 下载模型,并将它们放置在 tools/uvr5/uvr5_weights
中。
文本到语音(TTS)注释 .list 文件格式:
vocal_path|speaker_name|language|text
语言字典:
- 'zh': Chinese
- 'ja': Japanese
- 'en': English
示例:
D:\GPT-SoVITS\xxx/xxx.wav|xxx|en|I like playing Genshin.
-
高优先级:
- 日语和英语的本地化。
- 用户指南。
- 日语和英语数据集微调训练。
-
Features:
- 零样本声音转换(5秒)/ 少样本声音转换(1分钟)。
- TTS语速控制。
- 增强的TTS情感控制。
- 尝试将SoVITS令牌输入更改为词汇的概率分布。
- 改进英语和日语文本前端。
- 开发体积小和更大的TTS模型。
- Colab脚本。
- 扩展训练数据集(从2k小时到10k小时)。
- 更好的sovits基础模型(增强的音频质量)。
- 模型混合。
特别感谢以下项目和贡献者:
- ar-vits
- SoundStorm
- vits
- TransferTTS
- Chinese Speech Pretrain
- contentvec
- hifi-gan
- Chinese-Roberta-WWM-Ext-Large
- fish-speech
- ultimatevocalremovergui
- audio-slicer
- SubFix
- FFmpeg
- gradio