luojunhui hai 1 mes
pai
achega
c3505fed72
Modificáronse 1 ficheiros con 3 adicións e 5 borrados
  1. 3 5
      docker-compose.yml

+ 3 - 5
docker-compose.yml

@@ -6,11 +6,9 @@ services:
     ports:
       - "8100:8000"
     command: >
-      sh -c "
-      pip install --upgrade vllm &&
-      pip install --upgrade transformers &&
-      python -m vllm.entrypoints.openai.api_server --model /app/models/Qwen3-Embedding-0.6B --dtype float16 --port 8000
-      "
+      --model Qwen/Qwen3-Embedding-0.6B
+      --dtype float16
+      --port 8000
     volumes:
       # 挂载预下载的模型目录
       - ./models/Qwen3-Embedding-0.6B:/app/models/Qwen3-Embedding-0.6B