understand_image_provider.py 6.7 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147
  1. from openai import OpenAI
  2. from ..schemas.base import DataResponse
  3. from ..core.config import get_settings
  4. from ..core.logger import get_logger
  5. from openai.types.chat import ChatCompletionToolParam
  6. import json
  7. settings = get_settings()
  8. logger = get_logger("understand_image_provider")
  9. SYSTEM_PROMPT = """
  10. <SystemPrompt>
  11. <角色>
  12. 你是一名资深广告文案专家。你的任务是根据输入的一张广告图片中的文字内容,生成一句简洁有力的广告文案。
  13. </角色>
  14. <受众>
  15. 目标用户:50岁以上中老年人。语言需亲切、直白、易理解,避免专业术语与复杂长句。
  16. </受众>
  17. <生成逻辑>
  18. 1. 首先对用户提供的广告图片进行OCR识别,提取出所有文字信息。
  19. 2. 文案生成必须严格基于识别到的文本内容,不得编造图片中不存在的优惠、动作指令或承诺。
  20. 3. 若图片中没有明确的转化行为,则默认使用“长按二维码”作为行动指令。
  21. </生成逻辑>
  22. <结构公式>
  23. [行动指令],[低门槛/优惠承诺],[核心价值/具体收益];[紧迫感/稀缺性提醒]
  24. </结构公式>
  25. <转化策略>
  26. <条目>文案必须以「[行动指令] + [低门槛/优惠承诺]」连续开头,但允许等义表述,以提升多样性。</条目>
  27. <条目>可接受的等义表述示例:
  28. 行动指令(任选其一,按素材出现):“长按二维码”“扫码二维码”“识别二维码”“长按识别”;
  29. 低门槛/优惠承诺(任选其一,按素材出现):“0元入群”“免费进群”“0元加入”“限时免费加入”。
  30. </条目>
  31. <条目>若仅满足其中之一(真实存在且与素材一致),则仅前置该项;严禁捏造另一项。</条目>
  32. <条目>若两项均不在素材中出现,则改用图片中存在的真实动作入口与优惠描述(如“点击查看”“立即预约”“限时立减”等)。</条目>
  33. <条目>上述两要素需置于句首,越靠前越好;其后再写核心收益与稀缺提醒。</条目>
  34. </转化策略>
  35. <约束>
  36. 1. 文案必须准确传达广告图片中的产品/服务信息,不得杜撰不存在的内容。
  37. 2. 加入紧迫感或稀缺性(如“限时”“名额有限”“马上领取”等),但不得虚构或夸大事实。
  38. 3. 避免医疗或功效的绝对化/保证性用语(如“治愈”“根治”“无副作用”“永久有效”)。
  39. 4. 不得包含违法、虚假、低俗、敏感、歧视性内容,不引导危险行为,不传播迷信。
  40. 5. 涉及健康/养生场景时,表述应为辅助/改善/建议性质,不承诺疗效。
  41. 6. 仅输出一句中文广告文案,简短醒目,适合作为宣传主标题。
  42. 7. 标点与短句分隔:动作、优惠承诺、核心收益之间用逗号分隔;紧迫感/稀缺性提醒用分号与前半部分隔开;全句≤50字(含标点)。
  43. </约束>
  44. <示例 few-shot="true">
  45. 长按二维码,0元入群,领取中医调理养生建议;名额有限,赶快行动吧
  46. </示例>
  47. <示例 few-shot="true">
  48. 扫码二维码,免费进群,获取控糖日常饮食要点;数量有限,立即参加!
  49. </示例>
  50. <示例 few-shot="true">
  51. 识别二维码,0元加入,领取适合中老年人的养生课程;限时开放,先到先得!
  52. </示例>
  53. <自检>
  54. 在输出前自检:是否基于图片文字生成;是否以「行动指令 + 低门槛/优惠承诺」连续开头(或在素材不支持时作真实替换);是否遵循标点与长度;是否包含真实的稀缺/紧迫提醒;是否合规且未承诺疗效。
  55. </自检>
  56. <输出要求>
  57. 仅输出生成的一句广告文案,不要附加解释或其他信息。
  58. </输出要求>
  59. </SystemPrompt>
  60. """
  61. tools: list[ChatCompletionToolParam] = [
  62. {
  63. "type": "function",
  64. "function": {
  65. "name": "generate_ocr_text",
  66. "description": "生成一句适合中老年用户的广告文案(遵循结构公式与约束)",
  67. "parameters": {
  68. "type": "object",
  69. "properties": {
  70. "ocr_text": {
  71. "type": "string",
  72. "description": "最终的一句广告文案(中文,简短醒目,合规)"
  73. }
  74. },
  75. "required": ["ocr_text"],
  76. "additionalProperties": False
  77. }
  78. }
  79. }
  80. ]
  81. class UnderstandImageProvider:
  82. print("UnderstandImageProvider called")
  83. def understand_image(self, image_url: str, *, model: str) -> DataResponse:
  84. client = OpenAI(
  85. api_key = settings.dashscope_api_key or "",
  86. base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
  87. )
  88. if not client:
  89. logger.error("OpenAI client is not initialized.")
  90. return DataResponse(code=1, data=None, msg=f"OpenAI client is not initialized")
  91. completion = client.chat.completions.create(
  92. model=model,
  93. messages=[
  94. {"role": "system", "content": SYSTEM_PROMPT},
  95. {
  96. "role": "user",
  97. "content": [{ "type": "image_url", "image_url": { "url": image_url } }],
  98. },
  99. ],
  100. tools=tools,
  101. tool_choice={
  102. "type": "function",
  103. "function": {"name": "generate_ocr_text"}
  104. },
  105. temperature=0.5
  106. )
  107. msg = completion.choices[0].message
  108. # Safely parse tool call arguments (if any)
  109. ocr_text = ""
  110. try:
  111. tool_calls = getattr(msg, "tool_calls", None) or []
  112. if tool_calls:
  113. call = tool_calls[0]
  114. arg_str = getattr(getattr(call, "function", None), "arguments", None)
  115. if isinstance(arg_str, str) and arg_str.strip():
  116. args = json.loads(arg_str)
  117. if isinstance(args, dict):
  118. ocr_text = str(args.get("ocr_text", "")).strip()
  119. except Exception as e:
  120. logger.error("parse tool call failed: %s", e, exc_info=True)
  121. return DataResponse(code=1, data=None, msg=f"parse tool call failed: {e}")
  122. # Fallback: if no tool-calls returned, try to read text content
  123. content = getattr(msg, "content", None)
  124. if not ocr_text and isinstance(content, str):
  125. ocr_text = content.strip()
  126. print("✅ OCR_TEXT:\n", ocr_text)
  127. return DataResponse(code=0, data=ocr_text, msg="success")