Преглед изворни кода

feat: add `Suffix` to GeneralOpenAIRequest in order to support FIM

e. пре 1 година
родитељ
комит
8082905184
1 измењених фајлова са 2 додато и 1 уклоњено
  1. 2 1
      dto/openai_request.go

+ 2 - 1
dto/openai_request.go

@@ -17,7 +17,8 @@ type FormatJsonSchema struct {
 type GeneralOpenAIRequest struct {
 type GeneralOpenAIRequest struct {
 	Model               string          `json:"model,omitempty"`
 	Model               string          `json:"model,omitempty"`
 	Messages            []Message       `json:"messages,omitempty"`
 	Messages            []Message       `json:"messages,omitempty"`
-	Prompt              any             `json:"prompt,omitempty"`
+	Prompt              any             `json:"suffix,omitempty"`
+	Suffix              any             `json:"prompt,omitempty"`
 	Stream              bool            `json:"stream,omitempty"`
 	Stream              bool            `json:"stream,omitempty"`
 	StreamOptions       *StreamOptions  `json:"stream_options,omitempty"`
 	StreamOptions       *StreamOptions  `json:"stream_options,omitempty"`
 	MaxTokens           uint            `json:"max_tokens,omitempty"`
 	MaxTokens           uint            `json:"max_tokens,omitempty"`