mirror of
https://github.com/RVC-Boss/GPT-SoVITS.git
synced 2025-04-05 04:22:46 +08:00
6c468583c5
* Update requirements.txt * Create constraints.txt * Update README.md * Update README.md * Update README.md * Update README.md * Update README.md * pyopenjtalk and onnx fix * Update requirements.txt * Update requirements.txt * Update install.sh * update shell install.sh * update docs * Update Install.sh * fix bugs * Update .gitignore * Update .gitignore * Update install.sh * Update install.sh * Update extra-req.txt * Update requirements.txt
388 lines
17 KiB
Markdown
388 lines
17 KiB
Markdown
<div align="center">
|
|
|
|
<h1>GPT-SoVITS-WebUI</h1>
|
|
소량의 데이터로 음성 변환 및 음성 합성을 지원하는 강력한 WebUI.<br><br>
|
|
|
|
[](https://github.com/RVC-Boss/GPT-SoVITS)
|
|
|
|
<img src="https://counter.seku.su/cmoe?name=gptsovits&theme=r34" /><br>
|
|
|
|
[](https://colab.research.google.com/github/RVC-Boss/GPT-SoVITS/blob/main/colab_webui.ipynb)
|
|
[](https://github.com/RVC-Boss/GPT-SoVITS/blob/main/LICENSE)
|
|
[](https://huggingface.co/spaces/lj1995/GPT-SoVITS-v2)
|
|
[](https://discord.gg/dnrgs5GHfG)
|
|
|
|
[**English**](../../README.md) | [**中文简体**](../cn/README.md) | [**日本語**](../ja/README.md) | **한국어** | [**Türkçe**](../tr/README.md)
|
|
|
|
</div>
|
|
|
|
---
|
|
|
|
## 기능:
|
|
|
|
1. **제로샷 텍스트 음성 변환 (TTS):** 5초의 음성 샘플을 입력하면 즉시 텍스트를 음성으로 변환할 수 있습니다.
|
|
|
|
2. **소량의 데이터 TTS:** 1분의 훈련 데이터만으로 모델을 미세 조정하여 음성 유사도와 실제감을 향상시킬 수 있습니다.
|
|
|
|
3. **다국어 지원:** 훈련 데이터셋과 다른 언어의 추론을 지원하며, 현재 영어, 일본어, 중국어, 광둥어, 한국어를 지원합니다.
|
|
|
|
4. **WebUI 도구:** 음성 반주 분리, 자동 훈련 데이터셋 분할, 중국어 자동 음성 인식(ASR) 및 텍스트 주석 등의 도구를 통합하여 초보자가 훈련 데이터셋과 GPT/SoVITS 모델을 생성하는 데 도움을 줍니다.
|
|
|
|
**데모 비디오를 확인하세요! [demo video](https://www.bilibili.com/video/BV12g4y1m7Uw)**
|
|
|
|
보지 못한 발화자의 퓨샷(few-shot) 파인튜닝 데모:
|
|
|
|
https://github.com/RVC-Boss/GPT-SoVITS/assets/129054828/05bee1fa-bdd8-4d85-9350-80c060ab47fb
|
|
|
|
**사용자 설명서: [简体中文](https://www.yuque.com/baicaigongchang1145haoyuangong/ib3g1e) | [English](https://rentry.co/GPT-SoVITS-guide#/)**
|
|
|
|
## 설치
|
|
|
|
### 테스트 통과 환경
|
|
|
|
- Python 3.9, PyTorch 2.0.1, CUDA 11
|
|
- Python 3.10.13, PyTorch 2.1.2, CUDA 12.3
|
|
- Python 3.9, Pytorch 2.2.2, macOS 14.4.1 (Apple Slilicon)
|
|
- Python 3.9, PyTorch 2.2.2, CPU 장치
|
|
|
|
_참고: numba==0.56.4 는 python<3.11 을 필요로 합니다._
|
|
|
|
### Windows
|
|
|
|
Windows 사용자라면 (win>=10에서 테스트됨), [통합 패키지를 다운로드](https://huggingface.co/lj1995/GPT-SoVITS-windows-package/resolve/main/GPT-SoVITS-v3lora-20250228.7z?download=true)한 후 압축을 풀고 _go-webui.bat_ 파일을 더블 클릭하면 GPT-SoVITS-WebUI를 시작할 수 있습니다.
|
|
|
|
### Linux
|
|
|
|
```bash
|
|
conda create -n GPTSoVits python=3.9
|
|
conda activate GPTSoVits
|
|
bash install.sh
|
|
```
|
|
|
|
### macOS
|
|
|
|
**주의: Mac에서 GPU로 훈련된 모델은 다른 OS에서 훈련된 모델에 비해 품질이 낮습니다. 해당 문제를 해결하기 전까지 MacOS에선 CPU를 사용하여 훈련을 진행합니다.**
|
|
|
|
1. `xcode-select --install`을 실행하여 Xcode 커맨드라인 도구를 설치하세요.
|
|
2. `brew install ffmpeg` 명령어를 실행하여 FFmpeg를 설치합니다.
|
|
3. 위의 단계를 완료한 후, 다음 명령어를 실행하여 이 프로젝트를 설치하세요.
|
|
|
|
```bash
|
|
conda create -n GPTSoVits python=3.9
|
|
conda activate GPTSoVits
|
|
pip install -r extra-req.txt --no-deps
|
|
pip install -r requirements.txt
|
|
```
|
|
|
|
### 수동 설치
|
|
|
|
#### FFmpeg 설치
|
|
|
|
##### Conda 사용자
|
|
|
|
```bash
|
|
conda install ffmpeg
|
|
```
|
|
|
|
##### Ubuntu/Debian 사용자
|
|
|
|
```bash
|
|
sudo apt install ffmpeg
|
|
sudo apt install libsox-dev
|
|
conda install -c conda-forge 'ffmpeg<7'
|
|
```
|
|
|
|
##### Windows 사용자
|
|
|
|
[ffmpeg.exe](https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/ffmpeg.exe)와 [ffprobe.exe](https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/ffprobe.exe)를 GPT-SoVITS root 디렉토리에 넣습니다.
|
|
|
|
[Visual Studio 2017](https://aka.ms/vs/17/release/vc_redist.x86.exe) 설치 (Korean TTS 전용)
|
|
|
|
##### MacOS 사용자
|
|
|
|
```bash
|
|
brew install ffmpeg
|
|
```
|
|
|
|
#### 의존성 설치
|
|
|
|
```bash
|
|
pip install -r extra-req.txt --no-deps
|
|
pip install -r requirements.txt
|
|
```
|
|
|
|
### Docker에서 사용
|
|
|
|
#### docker-compose.yaml 설정
|
|
|
|
0. 이미지 태그: 코드 저장소가 빠르게 업데이트되고 패키지가 느리게 빌드되고 테스트되므로, 현재 빌드된 최신 도커 이미지를 [Docker Hub](https://hub.docker.com/r/breakstring/gpt-sovits)에서 확인하고 필요에 따라 Dockerfile을 사용하여 로컬에서 빌드할 수 있습니다.
|
|
|
|
1. 환경 변수:
|
|
|
|
- is_half: 반정밀/배정밀 제어. "SSL 추출" 단계에서 4-cnhubert/5-wav32k 디렉토리의 내용을 올바르게 생성할 수 없는 경우, 일반적으로 이것 때문입니다. 실제 상황에 따라 True 또는 False로 조정할 수 있습니다.
|
|
|
|
2. 볼륨 설정, 컨테이너 내의 애플리케이션 루트 디렉토리를 /workspace로 설정합니다. 기본 docker-compose.yaml에는 실제 예제가 나열되어 있으므로 업로드/다운로드를 쉽게 할 수 있습니다.
|
|
|
|
3. shm_size: Windows의 Docker Desktop의 기본 사용 가능한 메모리가 너무 작아 오류가 발생할 수 있으므로 실제 상황에 따라 조정합니다.
|
|
|
|
4. deploy 섹션의 gpu 관련 내용은 시스템 및 실제 상황에 따라 조정합니다.
|
|
|
|
#### docker compose로 실행
|
|
|
|
```
|
|
docker compose -f "docker-compose.yaml" up -d
|
|
```
|
|
|
|
#### docker 명령으로 실행
|
|
|
|
위와 동일하게 실제 상황에 맞게 매개변수를 수정한 다음 다음 명령을 실행합니다:
|
|
|
|
```
|
|
docker run --rm -it --gpus=all --env=is_half=False --volume=G:\GPT-SoVITS-DockerTest\output:/workspace/output --volume=G:\GPT-SoVITS-DockerTest\logs:/workspace/logs --volume=G:\GPT-SoVITS-DockerTest\SoVITS_weights:/workspace/SoVITS_weights --workdir=/workspace -p 9880:9880 -p 9871:9871 -p 9872:9872 -p 9873:9873 -p 9874:9874 --shm-size="16G" -d breakstring/gpt-sovits:xxxxx
|
|
```
|
|
|
|
## 사전 학습된 모델
|
|
|
|
1. [GPT-SoVITS Models](https://huggingface.co/lj1995/GPT-SoVITS) 에서 사전 학습된 모델을 다운로드하고, `GPT_SoVITS/pretrained_models` 디렉토리에 배치하세요.
|
|
|
|
2. [G2PWModel_1.1.zip](https://paddlespeech.cdn.bcebos.com/Parakeet/released_models/g2p/G2PWModel_1.1.zip) 에서 모델을 다운로드하고 압축을 풀어 `G2PWModel`로 이름을 변경한 후, `GPT_SoVITS/text` 디렉토리에 배치하세요. (중국어 TTS 전용)
|
|
|
|
3. UVR5 (보컬/반주 분리 & 잔향 제거 추가 기능)의 경우, [UVR5 Weights](https://huggingface.co/lj1995/VoiceConversionWebUI/tree/main/uvr5_weights) 에서 모델을 다운로드하고 `tools/uvr5/uvr5_weights` 디렉토리에 배치하세요.
|
|
|
|
- UVR5에서 bs_roformer 또는 mel_band_roformer 모델을 사용할 경우, 모델과 해당 설정 파일을 수동으로 다운로드하여 `tools/UVR5/UVR5_weights` 폴더에 저장할 수 있습니다. **모델 파일과 설정 파일의 이름은 확장자를 제외하고 동일한 이름을 가지도록 해야 합니다**. 또한, 모델과 설정 파일 이름에는 **“roformer”**가 포함되어야 roformer 클래스의 모델로 인식됩니다.
|
|
|
|
- 모델 이름과 설정 파일 이름에 **모델 유형을 직접 지정하는 것이 좋습니다**. 예: mel_mand_roformer, bs_roformer. 지정하지 않으면 설정 파일을 기준으로 특성을 비교하여 어떤 유형의 모델인지를 판단합니다. 예를 들어, 모델 `bs_roformer_ep_368_sdr_12.9628.ckpt`와 해당 설정 파일 `bs_roformer_ep_368_sdr_12.9628.yaml`은 한 쌍입니다. `kim_mel_band_roformer.ckpt`와 `kim_mel_band_roformer.yaml`도 한 쌍입니다.
|
|
|
|
4. 중국어 ASR (추가 기능)의 경우, [Damo ASR Model](https://modelscope.cn/models/damo/speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-pytorch/files), [Damo VAD Model](https://modelscope.cn/models/damo/speech_fsmn_vad_zh-cn-16k-common-pytorch/files) 및 [Damo Punc Model](https://modelscope.cn/models/damo/punc_ct-transformer_zh-cn-common-vocab272727-pytorch/files) 에서 모델을 다운로드하고, `tools/asr/models` 디렉토리에 배치하세요.
|
|
|
|
5. 영어 또는 일본어 ASR (추가 기능)의 경우, [Faster Whisper Large V3](https://huggingface.co/Systran/faster-whisper-large-v3) 에서 모델을 다운로드하고, `tools/asr/models` 디렉토리에 배치하세요. 또한, [다른 모델](https://huggingface.co/Systran) 은 더 적은 디스크 용량으로 비슷한 효과를 가질 수 있습니다.
|
|
|
|
## 데이터셋 형식
|
|
|
|
텍스트 음성 합성(TTS) 주석 .list 파일 형식:
|
|
|
|
```
|
|
vocal_path|speaker_name|language|text
|
|
```
|
|
|
|
언어 사전:
|
|
|
|
- 'zh': 중국어
|
|
- 'ja': 일본어
|
|
- 'en': 영어
|
|
|
|
예시:
|
|
|
|
```
|
|
D:\GPT-SoVITS\xxx/xxx.wav|xxx|en|I like playing Genshin.
|
|
```
|
|
|
|
## 미세 조정 및 추론
|
|
|
|
### WebUI 열기
|
|
|
|
#### 통합 패키지 사용자
|
|
|
|
`go-webui.bat`을 더블 클릭하거나 `go-webui.ps1`를 사용하십시오.
|
|
V1으로 전환하려면, `go-webui-v1.bat`을 더블 클릭하거나 `go-webui-v1.ps1`를 사용하십시오.
|
|
|
|
#### 기타
|
|
|
|
```bash
|
|
python webui.py <언어(옵션)>
|
|
```
|
|
|
|
V1으로 전환하려면,
|
|
|
|
```bash
|
|
python webui.py v1 <언어(옵션)>
|
|
```
|
|
|
|
또는 WebUI에서 수동으로 버전을 전환하십시오.
|
|
|
|
### 미세 조정
|
|
|
|
#### 경로 자동 채우기가 지원됩니다
|
|
|
|
1. 오디오 경로를 입력하십시오.
|
|
2. 오디오를 작은 청크로 분할하십시오.
|
|
3. 노이즈 제거(옵션)
|
|
4. ASR 수행
|
|
5. ASR 전사를 교정하십시오.
|
|
6. 다음 탭으로 이동하여 모델을 미세 조정하십시오.
|
|
|
|
### 추론 WebUI 열기
|
|
|
|
#### 통합 패키지 사용자
|
|
|
|
`go-webui-v2.bat`을 더블 클릭하거나 `go-webui-v2.ps1`를 사용한 다음 `1-GPT-SoVITS-TTS/1C-inference`에서 추론 webui를 엽니다.
|
|
|
|
#### 기타
|
|
|
|
```bash
|
|
python GPT_SoVITS/inference_webui.py <언어(옵션)>
|
|
```
|
|
|
|
또는
|
|
|
|
```bash
|
|
python webui.py
|
|
```
|
|
|
|
그런 다음 `1-GPT-SoVITS-TTS/1C-inference`에서 추론 webui를 엽니다.
|
|
|
|
## V2 릴리스 노트
|
|
|
|
새로운 기능:
|
|
|
|
1. 한국어 및 광둥어 지원
|
|
|
|
2. 최적화된 텍스트 프론트엔드
|
|
|
|
3. 사전 학습 모델이 2천 시간에서 5천 시간으로 확장
|
|
|
|
4. 저품질 참조 오디오에 대한 합성 품질 향상
|
|
|
|
[자세한 내용](<https://github.com/RVC-Boss/GPT-SoVITS/wiki/GPT%E2%80%90SoVITS%E2%80%90v2%E2%80%90features-(%E6%96%B0%E7%89%B9%E6%80%A7)>)
|
|
|
|
V1 환경에서 V2를 사용하려면:
|
|
|
|
1. `pip install -r requirements.txt`를 사용하여 일부 패키지 업데이트
|
|
|
|
2. github에서 최신 코드를 클론하십시오.
|
|
|
|
3. [huggingface](https://huggingface.co/lj1995/GPT-SoVITS/tree/main/gsv-v2final-pretrained)에서 V2 사전 학습 모델을 다운로드하여 `GPT_SoVITS\pretrained_models\gsv-v2final-pretrained`에 넣으십시오.
|
|
|
|
중국어 V2 추가: [G2PWModel_1.1.zip](https://paddlespeech.cdn.bcebos.com/Parakeet/released_models/g2p/G2PWModel_1.1.zip) (G2PW 모델을 다운로드하여 압축을 풀고 `G2PWModel`로 이름을 변경한 다음 `GPT_SoVITS/text`에 배치합니다.)
|
|
|
|
## V3 릴리스 노트
|
|
|
|
새로운 기능:
|
|
|
|
1. 음색 유사성이 더 높아져 목표 음성에 대한 학습 데이터가 적게 필요합니다. (기본 모델을 직접 사용하여 미세 조정 없이 음색 유사성이 크게 향상됩니다.)
|
|
|
|
2. GPT 모델이 더 안정적이며 반복 및 생략이 적고, 더 풍부한 감정 표현을 가진 음성을 생성하기가 더 쉽습니다.
|
|
|
|
[자세한 내용](<https://github.com/RVC-Boss/GPT-SoVITS/wiki/GPT%E2%80%90SoVITS%E2%80%90v3%E2%80%90features-(%E6%96%B0%E7%89%B9%E6%80%A7)>)
|
|
|
|
v2 환경에서 v3 사용하기:
|
|
|
|
1. `pip install -r requirements.txt`로 일부 패키지를 업데이트합니다.
|
|
|
|
2. 최신 코드를 github 에서 클론합니다.
|
|
|
|
3. v3 사전 훈련된 모델(s1v3.ckpt, s2Gv3.pth, 그리고 models--nvidia--bigvgan_v2_24khz_100band_256x 폴더)을 [huggingface](https://huggingface.co/lj1995/GPT-SoVITS/tree/main)에서 다운로드하여 `GPT_SoVITS\pretrained_models` 폴더에 넣습니다.
|
|
|
|
추가: 오디오 슈퍼 해상도 모델에 대해서는 [다운로드 방법](../../tools/AP_BWE_main/24kto48k/readme.txt)을 참고하세요.
|
|
|
|
## 할 일 목록
|
|
|
|
- [x] **최우선순위:**
|
|
|
|
- [x] 일본어 및 영어 지역화.
|
|
- [x] 사용자 가이드.
|
|
- [x] 일본어 및 영어 데이터셋 미세 조정 훈련.
|
|
|
|
- [ ] **기능:**
|
|
|
|
- [x] 제로샷 음성 변환 (5초) / 소량의 음성 변환 (1분).
|
|
- [x] TTS 속도 제어.
|
|
- [ ] ~~향상된 TTS 감정 제어.~~
|
|
- [ ] SoVITS 토큰 입력을 단어 확률 분포로 변경해 보세요.
|
|
- [x] 영어 및 일본어 텍스트 프론트 엔드 개선.
|
|
- [ ] 작은 크기와 큰 크기의 TTS 모델 개발.
|
|
- [x] Colab 스크립트.
|
|
- [ ] 훈련 데이터셋 확장 (2k 시간에서 10k 시간).
|
|
- [x] 더 나은 sovits 기본 모델 (향상된 오디오 품질).
|
|
- [ ] 모델 블렌딩.
|
|
|
|
## (추가적인) 명령줄에서 실행하는 방법
|
|
|
|
명령줄을 사용하여 UVR5용 WebUI 열기
|
|
|
|
```
|
|
python tools/uvr5/webui.py "<infer_device>" <is_half> <webui_port_uvr5>
|
|
```
|
|
|
|
<!-- 브라우저를 열 수 없는 경우 UVR 처리를 위해 아래 형식을 따르십시오. 이는 오디오 처리를 위해 mdxnet을 사용하는 것입니다.
|
|
```
|
|
python mdxnet.py --model --input_root --output_vocal --output_ins --agg_level --format --device --is_half_precision
|
|
``` -->
|
|
|
|
명령줄을 사용하여 데이터세트의 오디오 분할을 수행하는 방법은 다음과 같습니다.
|
|
|
|
```
|
|
python audio_slicer.py \
|
|
--input_path "<path_to_original_audio_file_or_directory>" \
|
|
--output_root "<directory_where_subdivided_audio_clips_will_be_saved>" \
|
|
--threshold <volume_threshold> \
|
|
--min_length <minimum_duration_of_each_subclip> \
|
|
--min_interval <shortest_time_gap_between_adjacent_subclips>
|
|
--hop_size <step_size_for_computing_volume_curve>
|
|
```
|
|
|
|
명령줄을 사용하여 데이터 세트 ASR 처리를 수행하는 방법입니다(중국어만 해당).
|
|
|
|
```
|
|
python tools/asr/funasr_asr.py -i <input> -o <output>
|
|
```
|
|
|
|
ASR 처리는 Faster_Whisper(중국어를 제외한 ASR 마킹)를 통해 수행됩니다.
|
|
|
|
(진행률 표시줄 없음, GPU 성능으로 인해 시간 지연이 발생할 수 있음)
|
|
|
|
```
|
|
python ./tools/asr/fasterwhisper_asr.py -i <input> -o <output> -l <language> -p <precision>
|
|
```
|
|
|
|
사용자 정의 목록 저장 경로가 활성화되었습니다.
|
|
|
|
## 감사의 말
|
|
|
|
다음 프로젝트와 기여자들에게 특별히 감사드립니다:
|
|
|
|
### 이론 연구
|
|
|
|
- [ar-vits](https://github.com/innnky/ar-vits)
|
|
- [SoundStorm](https://github.com/yangdongchao/SoundStorm/tree/master/soundstorm/s1/AR)
|
|
- [vits](https://github.com/jaywalnut310/vits)
|
|
- [TransferTTS](https://github.com/hcy71o/TransferTTS/blob/master/models.py#L556)
|
|
- [contentvec](https://github.com/auspicious3000/contentvec/)
|
|
- [hifi-gan](https://github.com/jik876/hifi-gan)
|
|
- [fish-speech](https://github.com/fishaudio/fish-speech/blob/main/tools/llama/generate.py#L41)
|
|
- [f5-TTS](https://github.com/SWivid/F5-TTS/blob/main/src/f5_tts/model/backbones/dit.py)
|
|
- [shortcut flow matching](https://github.com/kvfrans/shortcut-models/blob/main/targets_shortcut.py)
|
|
|
|
### 사전 학습 모델
|
|
|
|
- [Chinese Speech Pretrain](https://github.com/TencentGameMate/chinese_speech_pretrain)
|
|
- [Chinese-Roberta-WWM-Ext-Large](https://huggingface.co/hfl/chinese-roberta-wwm-ext-large)
|
|
- [BigVGAN](https://github.com/NVIDIA/BigVGAN)
|
|
|
|
### 추론용 텍스트 프론트엔드
|
|
|
|
- [paddlespeech zh_normalization](https://github.com/PaddlePaddle/PaddleSpeech/tree/develop/paddlespeech/t2s/frontend/zh_normalization)
|
|
- [split-lang](https://github.com/DoodleBears/split-lang)
|
|
- [g2pW](https://github.com/GitYCC/g2pW)
|
|
- [pypinyin-g2pW](https://github.com/mozillazg/pypinyin-g2pW)
|
|
- [paddlespeech g2pw](https://github.com/PaddlePaddle/PaddleSpeech/tree/develop/paddlespeech/t2s/frontend/g2pw)
|
|
|
|
### WebUI 도구
|
|
|
|
- [ultimatevocalremovergui](https://github.com/Anjok07/ultimatevocalremovergui)
|
|
- [audio-slicer](https://github.com/openvpi/audio-slicer)
|
|
- [SubFix](https://github.com/cronrpc/SubFix)
|
|
- [FFmpeg](https://github.com/FFmpeg/FFmpeg)
|
|
- [gradio](https://github.com/gradio-app/gradio)
|
|
- [faster-whisper](https://github.com/SYSTRAN/faster-whisper)
|
|
- [FunASR](https://github.com/alibaba-damo-academy/FunASR)
|
|
- [AP-BWE](https://github.com/yxlu-0102/AP-BWE)
|
|
|
|
@Naozumi520 님께 감사드립니다. 광둥어 학습 자료를 제공해 주시고, 광둥어 관련 지식을 지도해 주셔서 감사합니다.
|
|
|
|
## 모든 기여자들에게 감사드립니다 ;)
|
|
|
|
<a href="https://github.com/RVC-Boss/GPT-SoVITS/graphs/contributors" target="_blank">
|
|
<img src="https://contrib.rocks/image?repo=RVC-Boss/GPT-SoVITS" />
|
|
</a>
|