瀏覽代碼

Reduce lr warmup

Lengyue 2 年之前
父節點
當前提交
1a9ecd4aad
共有 1 個文件被更改,包括 1 次插入1 次删除
  1. 1 1
      fish_speech/configs/text2semantic_sft.yaml

+ 1 - 1
fish_speech/configs/text2semantic_sft.yaml

@@ -83,6 +83,6 @@ model:
     lr_lambda:
       _target_: fish_speech.scheduler.get_cosine_schedule_with_warmup_lr_lambda
       _partial_: true
-      num_warmup_steps: 2000
+      num_warmup_steps: 200
       num_training_steps: ${trainer.max_steps}
       final_lr_ratio: 0.1