luojunhui 2 giorni fa
parent
commit
8a379d9f53
1 ha cambiato i file con 6 aggiunte e 1 eliminazioni
  1. 6 1
      Dockerfile

+ 6 - 1
Dockerfile

@@ -16,4 +16,9 @@ COPY . .
 
 EXPOSE 8000
 
-CMD ["python3", "-m", "vllm.entrypoints.openai.api_server", "--model", "/app/model/Qwen3-Embedding-4B", "--dtype", "float16", "--host", "0.0.0.0", "--port", "8000"]
+CMD ["python3", "-m", "vllm.entrypoints.openai.api_server",
+     "--model", "/app/model/Qwen3-Embedding-4B",
+     "--dtype", "float16",
+     "--host", "0.0.0.0",
+     "--port", "8000",
+     "--trust-remote-code"]