Lengyue 2 anni fa
parent
commit
1e6d715784
1 ha cambiato i file con 1 aggiunte e 0 eliminazioni
  1. 1 0
      tools/llama/generate.py

+ 1 - 0
tools/llama/generate.py

@@ -498,6 +498,7 @@ def generate_long(
 
         if use_prompt:
             seg_idx = 1
+            global_encoded.append(encoded[0])
 
         while seg_idx < len(encoded):
             logger.info(