dto.go 4.1 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475
  1. package tencent
  2. type TencentMessage struct {
  3. Role string `json:"Role"`
  4. Content string `json:"Content"`
  5. }
  6. type TencentChatRequest struct {
  7. // 模型名称,可选值包括 hunyuan-lite、hunyuan-standard、hunyuan-standard-256K、hunyuan-pro。
  8. // 各模型介绍请阅读 [产品概述](https://cloud.tencent.com/document/product/1729/104753) 中的说明。
  9. //
  10. // 注意:
  11. // 不同的模型计费不同,请根据 [购买指南](https://cloud.tencent.com/document/product/1729/97731) 按需调用。
  12. Model *string `json:"Model"`
  13. // 聊天上下文信息。
  14. // 说明:
  15. // 1. 长度最多为 40,按对话时间从旧到新在数组中排列。
  16. // 2. Message.Role 可选值:system、user、assistant。
  17. // 其中,system 角色可选,如存在则必须位于列表的最开始。user 和 assistant 需交替出现(一问一答),以 user 提问开始和结束,且 Content 不能为空。Role 的顺序示例:[system(可选) user assistant user assistant user ...]。
  18. // 3. Messages 中 Content 总长度不能超过模型输入长度上限(可参考 [产品概述](https://cloud.tencent.com/document/product/1729/104753) 文档),超过则会截断最前面的内容,只保留尾部内容。
  19. Messages []*TencentMessage `json:"Messages"`
  20. // 流式调用开关。
  21. // 说明:
  22. // 1. 未传值时默认为非流式调用(false)。
  23. // 2. 流式调用时以 SSE 协议增量返回结果(返回值取 Choices[n].Delta 中的值,需要拼接增量数据才能获得完整结果)。
  24. // 3. 非流式调用时:
  25. // 调用方式与普通 HTTP 请求无异。
  26. // 接口响应耗时较长,**如需更低时延建议设置为 true**。
  27. // 只返回一次最终结果(返回值取 Choices[n].Message 中的值)。
  28. //
  29. // 注意:
  30. // 通过 SDK 调用时,流式和非流式调用需用**不同的方式**获取返回值,具体参考 SDK 中的注释或示例(在各语言 SDK 代码仓库的 examples/hunyuan/v20230901/ 目录中)。
  31. Stream *bool `json:"Stream,omitempty"`
  32. // 说明:
  33. // 1. 影响输出文本的多样性,取值越大,生成文本的多样性越强。
  34. // 2. 取值区间为 [0.0, 1.0],未传值时使用各模型推荐值。
  35. // 3. 非必要不建议使用,不合理的取值会影响效果。
  36. TopP *float64 `json:"TopP,omitempty"`
  37. // 说明:
  38. // 1. 较高的数值会使输出更加随机,而较低的数值会使其更加集中和确定。
  39. // 2. 取值区间为 [0.0, 2.0],未传值时使用各模型推荐值。
  40. // 3. 非必要不建议使用,不合理的取值会影响效果。
  41. Temperature *float64 `json:"Temperature,omitempty"`
  42. }
  43. type TencentError struct {
  44. Code int `json:"Code"`
  45. Message string `json:"Message"`
  46. }
  47. type TencentUsage struct {
  48. PromptTokens int `json:"PromptTokens"`
  49. CompletionTokens int `json:"CompletionTokens"`
  50. TotalTokens int `json:"TotalTokens"`
  51. }
  52. type TencentResponseChoices struct {
  53. FinishReason string `json:"FinishReason,omitempty"` // 流式结束标志位,为 stop 则表示尾包
  54. Messages TencentMessage `json:"Message,omitempty"` // 内容,同步模式返回内容,流模式为 null 输出 content 内容总数最多支持 1024token。
  55. Delta TencentMessage `json:"Delta,omitempty"` // 内容,流模式返回内容,同步模式为 null 输出 content 内容总数最多支持 1024token。
  56. }
  57. type TencentChatResponse struct {
  58. Choices []TencentResponseChoices `json:"Choices,omitempty"` // 结果
  59. Created int64 `json:"Created,omitempty"` // unix 时间戳的字符串
  60. Id string `json:"Id,omitempty"` // 会话 id
  61. Usage TencentUsage `json:"Usage,omitempty"` // token 数量
  62. Error TencentError `json:"Error,omitempty"` // 错误信息 注意:此字段可能返回 null,表示取不到有效值
  63. Note string `json:"Note,omitempty"` // 注释
  64. ReqID string `json:"Req_id,omitempty"` // 唯一请求 Id,每次请求都会返回。用于反馈接口入参
  65. }
  66. type TencentChatResponseSB struct {
  67. Response TencentChatResponse `json:"Response,omitempty"`
  68. }