Преглед изворни кода

feat: format o1 model max tokens param

1808837298@qq.com пре 1 година
родитељ
комит
13c993d87e
1 измењених фајлова са 6 додато и 0 уклоњено
  1. 6 0
      relay/channel/openai/adaptor.go

+ 6 - 0
relay/channel/openai/adaptor.go

@@ -78,6 +78,12 @@ func (a *Adaptor) ConvertRequest(c *gin.Context, info *relaycommon.RelayInfo, re
 	if info.ChannelType != common.ChannelTypeOpenAI {
 		request.StreamOptions = nil
 	}
+	if strings.HasPrefix(request.Model, "o1-") {
+		if request.MaxCompletionTokens == 0 && request.MaxTokens != 0 {
+			request.MaxCompletionTokens = request.MaxTokens
+			request.MaxTokens = 0
+		}
+	}
 	return request, nil
 }