finetune.md 6.2 KB
微调
显然, 当你打开这个页面的时候, 你已经对预训练模型 few-shot 的效果不算满意. 你想要微调一个模型, 使得它在你的数据集上表现更好.
Fish Speech 由两个模块组成: VQGAN 和 LLAMA.
!!! info
你应该先进行如下测试来判断你是否需要微调 `VQGAN`:
```bash
python tools/vqgan/inference.py -i test.wav
```
该测试会生成一个 `fake.wav` 文件, 如果该文件的音色和说话人的音色不同, 或者质量不高, 你需要微调 `VQGAN`.
相应的, 你可以参考 [推理](inference.md) 来运行 `generate.py`, 判断韵律是否满意, 如果不满意, 则需要微调 `LLAMA`.
VQGAN 微调
1. 准备数据集
.
├── SPK1
│ ├── 21.15-26.44.mp3
│ ├── 27.51-29.98.mp3
│ └── 30.1-32.71.mp3
└── SPK2
└── 38.79-40.85.mp3
你需要将数据集转为以上格式, 并放到 data/demo 下, 音频后缀可以为 .mp3, .wav 或 .flac.
2. 分割训练集和验证集
python tools/vqgan/create_train_split.py data/demo
该命令会在 data/demo 目录下创建 data/demo/vq_train_filelist.txt 和 data/demo/vq_val_filelist.txt 文件, 分别用于训练和验证.
!!!info
对于 VITS 格式, 你可以使用 `--filelist xxx.list` 来指定文件列表.
请注意, `filelist` 所指向的音频文件必须也位于 `data/demo` 文件夹下.
3. 启动训练
python fish_speech/train.py --config-name vqgan_finetune
!!! note
你可以通过修改 `fish_speech/configs/vqgan_finetune.yaml` 来修改训练参数, 但大部分情况下, 你不需要这么做.
4. 测试音频
python tools/vqgan/inference.py -i test.wav --checkpoint-path results/vqgan_finetune/checkpoints/step_000010000.ckpt
你可以查看 fake.wav 来判断微调效果.
!!! note
你也可以尝试其他的 checkpoint, 我们建议你使用最早的满足你要求的 checkpoint, 他们通常在 OOD 上表现更好.
LLAMA 微调
1. 准备数据集
.
├── SPK1
│ ├── 21.15-26.44.lab
│ ├── 21.15-26.44.mp3
│ ├── 27.51-29.98.lab
│ ├── 27.51-29.98.mp3
│ ├── 30.1-32.71.lab
│ └── 30.1-32.71.mp3
└── SPK2
├── 38.79-40.85.lab
└── 38.79-40.85.mp3
你需要将数据集转为以上格式, 并放到 data/demo 下, 音频后缀可以为 .mp3, .wav 或 .flac, 标注文件后缀可以为 .lab 或 .txt.
!!! note
你可以通过修改 `fish_speech/configs/data/finetune.yaml` 来修改数据集路径, 以及混合数据集.
!!! warning
建议先对数据集进行响度匹配, 你可以使用 [fish-audio-preprocess](https://github.com/fishaudio/audio-preprocess) 来完成这一步骤.
```bash
fap loudness-norm demo-raw demo --clean
```
2. 批量提取语义 token
确保你已经下载了 vqgan 权重, 如果没有, 请运行以下命令:
huggingface-cli download fishaudio/speech-lm-v1 vqgan-v1.pth --local-dir checkpoints
对于中国大陆用户, 可使用 mirror 下载.
HF_ENDPOINT=https://hf-mirror.com huggingface-cli download fishaudio/speech-lm-v1 vqgan-v1.pth --local-dir checkpoints
随后可运行以下命令来提取语义 token:
python tools/vqgan/extract_vq.py data/demo \
--num-workers 1 --batch-size 16 \
--config-name "vqgan_pretrain" \
--checkpoint-path "checkpoints/vqgan-v1.pth"
!!! note
你可以调整 `--num-workers` 和 `--batch-size` 来提高提取速度, 但是请注意不要超过你的显存限制.
对于 VITS 格式, 你可以使用 `--filelist xxx.list` 来指定文件列表.
该命令会在 data/demo 目录下创建 .npy 文件, 如下所示:
.
├── SPK1
│ ├── 21.15-26.44.lab
│ ├── 21.15-26.44.mp3
│ ├── 21.15-26.44.npy
│ ├── 27.51-29.98.lab
│ ├── 27.51-29.98.mp3
│ ├── 27.51-29.98.npy
│ ├── 30.1-32.71.lab
│ ├── 30.1-32.71.mp3
│ └── 30.1-32.71.npy
└── SPK2
├── 38.79-40.85.lab
├── 38.79-40.85.mp3
└── 38.79-40.85.npy
3. 打包数据集为 protobuf
python tools/llama/build_dataset.py \
--config "fish_speech/configs/data/finetune.yaml" \
--output "data/quantized-dataset-ft.protos"
--num_workers 16
命令执行完毕后, 你应该能在 data 目录下看到 quantized-dataset-ft.protos 文件.
!!! note
对于 VITS 格式, 你可以使用 `--filelist xxx.list` 来指定文件列表.
4. 启动 Rust 数据服务器
由于加载和打乱数据集非常缓慢且占用内存, 因此我们使用 rust 服务器来加载和打乱数据. 该服务器基于 GRPC, 可以通过以下方式安装:
cd data_server
cargo build --release
编译完成后你可以使用以下命令来启动服务器:
export RUST_LOG=info # 可选, 用于调试
data_server/target/release/data_server \
--files "data/quantized-dataset-ft.protos"
!!! note
你可以指定多个 `--files` 参数来加载多个数据集.
5. 最后, 启动微调
同样的, 请确保你已经下载了 LLAMA 权重, 如果没有, 请运行以下命令:
huggingface-cli download fishaudio/speech-lm-v1 text2semantic-400m-v0.2-4k.pth --local-dir checkpoints
对于中国大陆用户, 可使用 mirror 下载.
HF_ENDPOINT=https://hf-mirror.com huggingface-cli download fishaudio/speech-lm-v1 text2semantic-400m-v0.2-4k.pth --local-dir checkpoints
最后, 你可以运行以下命令来启动微调:
python fish_speech/train.py --config-name text2semantic_finetune_spk
!!! note
你可以通过修改 `fish_speech/configs/text2semantic_finetune_spk.yaml` 来修改训练参数如 `batch_size`, `gradient_accumulation_steps` 等, 来适应你的显存.
训练结束后, 你可以参考 推理 部分, 并携带 --speaker SPK1 参数来测试你的模型.
!!! info
默认配置下, 基本只会学到说话人的发音方式, 而不包含音色, 你依然需要使用 prompt 来保证音色的稳定性.
如果你想要学到音色, 请将训练步数调大, 但这有可能会导致过拟合.