Просмотр исходного кода

fix(token_counter): correct model name reference in image token estimation

CaIon 3 месяцев назад
Родитель
Сommit
7d1bad1b37
1 измененных файлов с 1 добавлено и 1 удалено
  1. 1 1
      service/token_counter.go

+ 1 - 1
service/token_counter.go

@@ -317,7 +317,7 @@ func EstimateRequestToken(c *gin.Context, meta *types.TokenCountMeta, info *rela
 	for i, file := range meta.Files {
 		switch file.FileType {
 		case types.FileTypeImage:
-			if common.IsOpenAITextModel(info.UpstreamModelName) {
+			if common.IsOpenAITextModel(info.OriginModelName) {
 				token, err := getImageToken(file, model, info.IsStream)
 				if err != nil {
 					return 0, fmt.Errorf("error counting image token, media index[%d], original data[%s], err: %v", i, file.OriginData, err)