فهرست منبع

add img embedding.py

luojunhui 4 هفته پیش
والد
کامیت
b08e9b76ea
1فایلهای تغییر یافته به همراه1 افزوده شده و 1 حذف شده
  1. 1 1
      applications/clip_embedding/clip_model.py

+ 1 - 1
applications/clip_embedding/clip_model.py

@@ -4,7 +4,7 @@ from transformers import AutoModel, AutoConfig, CLIPProcessor
 
 
 MODEL_NAME = "BAAI/EVA-CLIP-8B"
 MODEL_NAME = "BAAI/EVA-CLIP-8B"
 DEVICE = "cuda" if torch.cuda.is_available() else "cpu"
 DEVICE = "cuda" if torch.cuda.is_available() else "cpu"
-DTYPE = torch.float if DEVICE == "cuda" else torch.float32
+DTYPE = torch.float16 if DEVICE == "cuda" else torch.float32
 MAX_BATCH = int(os.getenv("MAX_BATCH", "32"))
 MAX_BATCH = int(os.getenv("MAX_BATCH", "32"))
 
 
 TRUST_REMOTE_CODE = True
 TRUST_REMOTE_CODE = True