Преглед на файлове

为Moonshot添加缓存tokens读取逻辑

为Moonshot添加缓存tokens读取逻辑。其与智普V4的逻辑相同,所以共用逻辑
John Chen преди 2 месеца
родител
ревизия
dbaba87c39
променени са 1 файла, в които са добавени 1 реда и са изтрити 1 реда
  1. 1 1
      relay/channel/openai/relay-openai.go

+ 1 - 1
relay/channel/openai/relay-openai.go

@@ -596,7 +596,7 @@ func applyUsagePostProcessing(info *relaycommon.RelayInfo, usage *dto.Usage, res
 		if usage.PromptTokensDetails.CachedTokens == 0 && usage.PromptCacheHitTokens != 0 {
 			usage.PromptTokensDetails.CachedTokens = usage.PromptCacheHitTokens
 		}
-	case constant.ChannelTypeZhipu_v4:
+	case constant.ChannelTypeZhipu_v4, constant.ChannelTypeMoonshot:
 		if usage.PromptTokensDetails.CachedTokens == 0 {
 			if usage.InputTokensDetails != nil && usage.InputTokensDetails.CachedTokens > 0 {
 				usage.PromptTokensDetails.CachedTokens = usage.InputTokensDetails.CachedTokens