Procházet zdrojové kódy

为Moonshot添加缓存tokens读取逻辑

为Moonshot添加缓存tokens读取逻辑。其与智普V4的逻辑相同,所以共用逻辑
John Chen před 2 měsíci
rodič
revize
dbaba87c39
1 změnil soubory, kde provedl 1 přidání a 1 odebrání
  1. 1 1
      relay/channel/openai/relay-openai.go

+ 1 - 1
relay/channel/openai/relay-openai.go

@@ -596,7 +596,7 @@ func applyUsagePostProcessing(info *relaycommon.RelayInfo, usage *dto.Usage, res
 		if usage.PromptTokensDetails.CachedTokens == 0 && usage.PromptCacheHitTokens != 0 {
 			usage.PromptTokensDetails.CachedTokens = usage.PromptCacheHitTokens
 		}
-	case constant.ChannelTypeZhipu_v4:
+	case constant.ChannelTypeZhipu_v4, constant.ChannelTypeMoonshot:
 		if usage.PromptTokensDetails.CachedTokens == 0 {
 			if usage.InputTokensDetails != nil && usage.InputTokensDetails.CachedTokens > 0 {
 				usage.PromptTokensDetails.CachedTokens = usage.InputTokensDetails.CachedTokens