Parcourir la source

fix: fix claude 3 request missing the 'max_token' field

CaIon il y a 2 ans
Parent
commit
f43b268520
1 fichiers modifiés avec 3 ajouts et 0 suppressions
  1. 3 0
      relay/channel/claude/relay-claude.go

+ 3 - 0
relay/channel/claude/relay-claude.go

@@ -65,6 +65,9 @@ func requestOpenAI2ClaudeMessage(textRequest dto.GeneralOpenAIRequest) (*ClaudeR
 		TopP:          textRequest.TopP,
 		Stream:        textRequest.Stream,
 	}
+	if claudeRequest.MaxTokens == 0 {
+		claudeRequest.MaxTokens = 4096
+	}
 	claudeMessages := make([]ClaudeMessage, 0)
 	for _, message := range textRequest.Messages {
 		if message.Role == "system" {