Lengyue il y a 2 ans
Parent
commit
ab91950b9a
1 fichiers modifiés avec 1 ajouts et 1 suppressions
  1. 1 1
      tools/llama/generate.py

+ 1 - 1
tools/llama/generate.py

@@ -124,7 +124,7 @@ def decode_one_token(
 
     codebooks = torch.stack(codebooks, dim=0)
     codebooks[1] = torch.where(
-        codebooks[0] <= 32311, codebooks[0], codebooks[0] - 32311 + 2
+        codebooks[0] <= 32311, codebooks[1], codebooks[0] - 32311 + 2
     )
 
     return codebooks