فهرست منبع

fix: chatglm top_p error (close #124)

CaIon 2 سال پیش
والد
کامیت
a56cf9fa6d
2فایلهای تغییر یافته به همراه6 افزوده شده و 0 حذف شده
  1. 3 0
      relay/channel/zhipu/adaptor.go
  2. 3 0
      relay/channel/zhipu_4v/adaptor.go

+ 3 - 0
relay/channel/zhipu/adaptor.go

@@ -36,6 +36,9 @@ func (a *Adaptor) ConvertRequest(c *gin.Context, relayMode int, request *dto.Gen
 	if request == nil {
 	if request == nil {
 		return nil, errors.New("request is nil")
 		return nil, errors.New("request is nil")
 	}
 	}
+	if request.TopP >= 1 {
+		request.TopP = 0.99
+	}
 	return requestOpenAI2Zhipu(*request), nil
 	return requestOpenAI2Zhipu(*request), nil
 }
 }
 
 

+ 3 - 0
relay/channel/zhipu_4v/adaptor.go

@@ -34,6 +34,9 @@ func (a *Adaptor) ConvertRequest(c *gin.Context, relayMode int, request *dto.Gen
 	if request == nil {
 	if request == nil {
 		return nil, errors.New("request is nil")
 		return nil, errors.New("request is nil")
 	}
 	}
+	if request.TopP >= 1 {
+		request.TopP = 0.99
+	}
 	return requestOpenAI2Zhipu(*request), nil
 	return requestOpenAI2Zhipu(*request), nil
 }
 }