API_PORT=8080
COMPILE=1
HALF=1
PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True