Просмотр исходного кода

fix(xAI): set MaxTokens to nil when MaxCompletionTokens is 0 for grok-3-mini model

CaIon 1 месяц назад
Родитель
Сommit
d22f889e5d
1 измененных файлов с 1 добавлено и 1 удалено
  1. 1 1
      relay/channel/xai/adaptor.go

+ 1 - 1
relay/channel/xai/adaptor.go

@@ -76,7 +76,7 @@ func (a *Adaptor) ConvertOpenAIRequest(c *gin.Context, info *relaycommon.RelayIn
 	if strings.HasPrefix(request.Model, "grok-3-mini") {
 		if lo.FromPtrOr(request.MaxCompletionTokens, uint(0)) == 0 && lo.FromPtrOr(request.MaxTokens, uint(0)) != 0 {
 			request.MaxCompletionTokens = request.MaxTokens
-			request.MaxTokens = lo.ToPtr(uint(0))
+			request.MaxTokens = nil
 		}
 		if strings.HasSuffix(request.Model, "-high") {
 			request.ReasoningEffort = "high"