Просмотр исходного кода

feat: format o1 model max tokens param

1808837298@qq.com 1 год назад
Родитель
Сommit
13c993d87e
1 измененных файлов с 6 добавлено и 0 удалено
  1. 6 0
      relay/channel/openai/adaptor.go

+ 6 - 0
relay/channel/openai/adaptor.go

@@ -78,6 +78,12 @@ func (a *Adaptor) ConvertRequest(c *gin.Context, info *relaycommon.RelayInfo, re
 	if info.ChannelType != common.ChannelTypeOpenAI {
 		request.StreamOptions = nil
 	}
+	if strings.HasPrefix(request.Model, "o1-") {
+		if request.MaxCompletionTokens == 0 && request.MaxTokens != 0 {
+			request.MaxCompletionTokens = request.MaxTokens
+			request.MaxTokens = 0
+		}
+	}
 	return request, nil
 }