Server/fish-speech @ 2733ed600ff90bfb38d3fcf3eee2bf173c02f449

Bez popisu

6 Větve

Lengyue 2733ed600f Accelerate training with fsdp		před 2 roky
preparing_data	9adf687fb1 Update base training code	před 2 roky
speech_lm	2733ed600f Accelerate training with fsdp	před 2 roky
.dockerignore	70797ef7d5 Add dockerignore	před 2 roky
.gitignore	7650b2ac43 Update much robust dataloader	před 2 roky
.pre-commit-config.yaml	e4ce816175 Update deps	před 2 roky
.project-root	aa0a6be778 init training code	před 2 roky
README.md	e4ce816175 Update deps	před 2 roky
dockerfile	7650b2ac43 Update much robust dataloader	před 2 roky
ds_config.json	db0aa1a99a Init preprocessing tools	před 2 roky
requirements.txt	2733ed600f Accelerate training with fsdp	před 2 roky
setup.py	7650b2ac43 Update much robust dataloader	před 2 roky
train.sh	a0a5c3e95c Update training script	před 2 roky

		
				README.md
			
				Speech LLM

Setup

# Basic environment setup
conda create -n speech-llm python=3.10
conda activate speech-llm
conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia

# Install requirements
pip3 install -r requirements.txt

# Install flash-attn
MAX_JOBS=4 pip install flash-attn --no-build-isolation