Przeglądaj źródła

feat: update model ratio

CaIon 1 rok temu
rodzic
commit
20aaf30785
1 zmienionych plików z 3 dodań i 0 usunięć
  1. 3 0
      common/model-ratio.go

+ 3 - 0
common/model-ratio.go

@@ -224,6 +224,9 @@ func GetCompletionRatio(name string) float64 {
 	if strings.HasPrefix(name, "gemini-") {
 		return 3
 	}
+	if strings.HasPrefix(name, "command") {
+		return 5
+	}
 	switch name {
 	case "llama2-70b-4096":
 		return 0.8 / 0.7