소스 검색

Fix prompt encoding

Lengyue 2 년 전
부모
커밋
ed46e8396c
1개의 변경된 파일1개의 추가작업 그리고 1개의 파일을 삭제
  1. 1 1
      tools/llama/generate.py

+ 1 - 1
tools/llama/generate.py

@@ -525,7 +525,7 @@ def main(
         )
         print(f"Encoded text: {text}")
 
-    if use_prompt and iterative_prompt:
+    if use_prompt:
         encoded_prompt = encode_tokens(
             tokenizer,
             prompt_text,