Không có mô tả

Lengyue 3fc0a688ca Update Readme 2 năm trước cách đây
preparing_data 9adf687fb1 Update base training code 2 năm trước cách đây
speech_lm d211a7eac7 Better ETA 2 năm trước cách đây
.dockerignore 70797ef7d5 Add dockerignore 2 năm trước cách đây
.gitignore 7650b2ac43 Update much robust dataloader 2 năm trước cách đây
.pre-commit-config.yaml e4ce816175 Update deps 2 năm trước cách đây
README.md 3fc0a688ca Update Readme 2 năm trước cách đây
dockerfile 7650b2ac43 Update much robust dataloader 2 năm trước cách đây
requirements.txt 2733ed600f Accelerate training with fsdp 2 năm trước cách đây
setup.py 7650b2ac43 Update much robust dataloader 2 năm trước cách đây
train.sh a0a5c3e95c Update training script 2 năm trước cách đây

README.md

Speech LLM

Setup

# Basic environment setup
conda create -n speech-llm python=3.10
conda activate speech-llm
conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia

# Install requirements
pip3 install -r requirements.txt

# Install flash-attn
MAX_JOBS=4 pip install flash-attn --no-build-isolation

# Install speech-llm
pip3 install -e .