Lengyue hace 2 años
padre
commit
ab91950b9a
Se han modificado 1 ficheros con 1 adiciones y 1 borrados
  1. 1 1
      tools/llama/generate.py

+ 1 - 1
tools/llama/generate.py

@@ -124,7 +124,7 @@ def decode_one_token(
 
     codebooks = torch.stack(codebooks, dim=0)
     codebooks[1] = torch.where(
-        codebooks[0] <= 32311, codebooks[0], codebooks[0] - 32311 + 2
+        codebooks[0] <= 32311, codebooks[1], codebooks[0] - 32311 + 2
     )
 
     return codebooks