Преглед на файлове

feat:修改sdp backend为math

zhaohaipeng преди 1 месец
родител
ревизия
7bc99b455b
променени са 1 файла, в които са добавени 1 реда и са изтрити 1 реда
  1. 1 1
      fish_speech/models/text2semantic/inference.py

+ 1 - 1
fish_speech/models/text2semantic/inference.py

@@ -308,7 +308,7 @@ def decode_n_tokens(
 
     for i in tqdm(range(num_new_tokens)):
         f_start = time.perf_counter()
-        with sdpa_kernel(SDPBackend.EFFICIENT_ATTENTION):
+        with sdpa_kernel(SDPBackend.MATH):
             next_token = decode_one_token(
                 model=model,
                 x=cur_token,