Просмотр исходного кода

Update relay-claude.go

优化claude messages接口启用思考时的参数设置
Glaxy 7 месяцев назад
Родитель
Сommit
5621755655
1 измененных файлов с 4 добавлено и 1 удалено
  1. 4 1
      relay/channel/claude/relay-claude.go

+ 4 - 1
relay/channel/claude/relay-claude.go

@@ -118,7 +118,10 @@ func RequestOpenAI2ClaudeMessage(textRequest dto.GeneralOpenAIRequest) (*dto.Cla
 		}
 		// TODO: 临时处理
 		// https://docs.anthropic.com/en/docs/build-with-claude/extended-thinking#important-considerations-when-using-extended-thinking
-		claudeRequest.TopP = 0
+		// Anthropic 要求去掉 top_k
+		claudeRequest.TopK = nil
+		//top_p值可以在0.95-1之间
+		claudeRequest.TopP = 0.95
 		claudeRequest.Temperature = common.GetPointer[float64](1.0)
 		claudeRequest.Model = strings.TrimSuffix(textRequest.Model, "-thinking")
 	}