luojunhui 1 kuukausi sitten
vanhempi
commit
8a379d9f53
1 muutettua tiedostoa jossa 6 lisäystä ja 1 poistoa
  1. 6 1
      Dockerfile

+ 6 - 1
Dockerfile

@@ -16,4 +16,9 @@ COPY . .
 
 
 EXPOSE 8000
 EXPOSE 8000
 
 
-CMD ["python3", "-m", "vllm.entrypoints.openai.api_server", "--model", "/app/model/Qwen3-Embedding-4B", "--dtype", "float16", "--host", "0.0.0.0", "--port", "8000"]
+CMD ["python3", "-m", "vllm.entrypoints.openai.api_server",
+     "--model", "/app/model/Qwen3-Embedding-4B",
+     "--dtype", "float16",
+     "--host", "0.0.0.0",
+     "--port", "8000",
+     "--trust-remote-code"]