Lengyue преди 2 години
родител
ревизия
ab91950b9a
променени са 1 файла, в които са добавени 1 реда и са изтрити 1 реда
  1. 1 1
      tools/llama/generate.py

+ 1 - 1
tools/llama/generate.py

@@ -124,7 +124,7 @@ def decode_one_token(
 
     codebooks = torch.stack(codebooks, dim=0)
     codebooks[1] = torch.where(
-        codebooks[0] <= 32311, codebooks[0], codebooks[0] - 32311 + 2
+        codebooks[0] <= 32311, codebooks[1], codebooks[0] - 32311 + 2
     )
 
     return codebooks