sug_v5_0_with_eval_v2_zou_yx.py 40 KB

12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455565758596061626364656667686970717273747576777879808182838485868788899091929394959697989910010110210310410510610710810911011111211311411511611711811912012112212312412512612712812913013113213313413513613713813914014114214314414514614714814915015115215315415515615715815916016116216316416516616716816917017117217317417517617717817918018118218318418518618718818919019119219319419519619719819920020120220320420520620720820921021121221321421521621721821922022122222322422522622722822923023123223323423523623723823924024124224324424524624724824925025125225325425525625725825926026126226326426526626726826927027127227327427527627727827928028128228328428528628728828929029129229329429529629729829930030130230330430530630730830931031131231331431531631731831932032132232332432532632732832933033133233333433533633733833934034134234334434534634734834935035135235335435535635735835936036136236336436536636736836937037137237337437537637737837938038138238338438538638738838939039139239339439539639739839940040140240340440540640740840941041141241341441541641741841942042142242342442542642742842943043143243343443543643743843944044144244344444544644744844945045145245345445545645745845946046146246346446546646746846947047147247347447547647747847948048148248348448548648748848949049149249349449549649749849950050150250350450550650750850951051151251351451551651751851952052152252352452552652752852953053153253353453553653753853954054154254354454554654754854955055155255355455555655755855956056156256356456556656756856957057157257357457557657757857958058158258358458558658758858959059159259359459559659759859960060160260360460560660760860961061161261361461561661761861962062162262362462562662762862963063163263363463563663763863964064164264364464564664764864965065165265365465565665765865966066166266366466566666766866967067167267367467567667767867968068168268368468568668768868969069169269369469569669769869970070170270370470570670770870971071171271371471571671771871972072172272372472572672772872973073173273373473573673773873974074174274374474574674774874975075175275375475575675775875976076176276376476576676776876977077177277377477577677777877978078178278378478578678778878979079179279379479579679779879980080180280380480580680780880981081181281381481581681781881982082182282382482582682782882983083183283383483583683783883984084184284384484584684784884985085185285385485585685785885986086186286386486586686786886987087187287387487587687787887988088188288388488588688788888989089189289389489589689789889990090190290390490590690790890991091191291391491591691791891992092192292392492592692792892993093193293393493593693793893994094194294394494594694794894995095195295395495595695795895996096196296396496596696796896997097197297397497597697797897998098198298398498598698798898999099199299399499599699799899910001001100210031004100510061007100810091010101110121013101410151016
  1. import asyncio
  2. import json
  3. import os
  4. import argparse
  5. from datetime import datetime
  6. from agents import Agent, Runner
  7. from lib.my_trace import set_trace
  8. from typing import Literal
  9. from pydantic import BaseModel, Field
  10. from lib.utils import read_file_as_string
  11. from script.search_recommendations.xiaohongshu_search_recommendations import XiaohongshuSearchRecommendations
  12. class RunContext(BaseModel):
  13. version: str = Field(..., description="当前运行的脚本版本(文件名)")
  14. input_files: dict[str, str] = Field(..., description="输入文件路径映射")
  15. q_with_context: str
  16. q_context: str
  17. q: str
  18. log_url: str
  19. log_dir: str
  20. question_annotation: str | None = Field(default=None, description="问题的标注结果")
  21. operations_history: list[dict] = Field(default_factory=list, description="记录所有操作的历史")
  22. optimization_result: dict | None = Field(default=None, description="最终优化结果对象")
  23. final_output: str | None = Field(default=None, description="最终输出结果(格式化文本)")
  24. # ============================================================================
  25. # Agent 1: 问题标注专家
  26. # ============================================================================
  27. question_annotation_instructions = """
  28. 你是搜索需求分析专家。给定问题(含需求背景),在原文上标注三层:本质、硬性、软性。
  29. ## 判断标准
  30. **[本质]** - 问题的核心意图
  31. - 如何获取、教程、推荐、作品、测评等
  32. **[硬]** - 客观事实性约束(可明确验证、非主观判断)
  33. - 能明确区分类别的:地域、时间、对象、工具、操作类型
  34. - 特征:改变后得到完全不同类别的结果
  35. **[软]** - 主观判断性修饰(因人而异、程度性的)
  36. - 需要主观评价的:质量、速度、美观、特色、程度
  37. - 特征:改变后仍是同类结果,只是满足程度不同
  38. ## 输出格式
  39. 词语[本质-描述]、词语[硬-描述]、词语[软-描述]
  40. ## 注意
  41. - 只输出标注后的字符串
  42. - 结合需求背景判断意图
  43. """.strip()
  44. question_annotator = Agent[None](
  45. name="问题标注专家",
  46. instructions=question_annotation_instructions,
  47. )
  48. # ============================================================================
  49. # Agent 2: 评估专家
  50. # ============================================================================
  51. eval_instructions = """
  52. 你是专业的语言专家和语义相关性评判专家。你的任务是判断平台sug词条与原始query问题的相关度满足度。
  53. ## 评估目标
  54. 用这个推荐query搜索,能否找到满足原始需求的内容?
  55. ## 三层判定流程(一次性返回所有层级的评分)
  56. ### 第一层:知识识别(knowledge_recognition = 0 或 1)
  57. **什么是知识?**
  58. 在社交媒体创作场景下,知识是指:可应用的认知内容 + 实践指导 + 问题解决方案
  59. 包含三个核心要素:
  60. - 陈述性知识(Know-What): 是什么、有哪些、包括什么
  61. - 程序性知识(Know-How): 如何做、怎么实现、步骤方法
  62. - 策略性知识(Know-Why): 为什么、原理机制、优化策略
  63. **判定方法(三步判定法):**
  64. Step 1: 意图识别
  65. - 原始需求是想【知道/学会/获得】某样东西吗?→ yes 进入step2
  66. Step 2: 动词解析
  67. - 提取核心动词:
  68. - 认知类(了解、学习、理解)
  69. - 操作类(制作、拍摄、剪辑、运营)
  70. - 获取类(找、下载、获取、收集)
  71. - 决策类(选择、对比、评估)
  72. - 有明确动词 → 是知识需求
  73. - 无明确动词但有隐含目的 → 提取隐含动词
  74. - 完全无动作意图 → 非知识需求
  75. Step 3: 目标验证
  76. - 这个query解决后,用户会获得新的认知或能力吗? → YES则是知识
  77. - 这个query的答案可以被学习和应用吗? → YES则是知识
  78. - 这个query在寻求某个问题的解决方案吗? → YES则是知识
  79. **输出:**
  80. - knowledge_recognition: 1=是知识需求,0=非知识需求
  81. - knowledge_recognition_reason: 判定依据(包含意图识别、动词提取、目标验证的关键发现)
  82. **重要:即使knowledge_recognition=0,也要继续计算后两层得分(便于分析)**
  83. ---
  84. ### 第二层:知识动机判定(motivation_score = 0-1分值)
  85. **目标:** 完全理解原始query的综合意图,识别主要需求和次要需求,并进行加权评估。
  86. **评估维度:**
  87. #### 维度1: 核心意图动词识别(权重50%)
  88. - 显性动词直接提取:如"如何获取素材" → 核心动作="获取"
  89. - 隐性动词语义推理:如"川西秋天风光摄影" → 隐含动作="拍摄"或"欣赏"
  90. - 动作层级区分:主动作 vs 子动作
  91. **评分规则:**
  92. - 核心动作完全一致 → 1.0
  93. - 核心动作语义相近(近义词) → 0.8-0.9
  94. - 核心动作有包含关系(主次关系) → 0.5-0.7
  95. - 核心动作完全不同 → 0-0.4
  96. #### 维度2: 目标对象识别(权重30%)
  97. - 主要对象(What):如"获取川西秋季风光摄影素材" → 主要对象="风光摄影素材"
  98. - 对象的限定词:地域限定("川西")、时间限定("秋季")、质量限定("高质量")
  99. **评分规则:**
  100. - 主要对象+核心限定词完全匹配 → 1.0
  101. - 主要对象匹配,限定词部分匹配 → 0.7-0.9
  102. - 主要对象匹配,限定词缺失/不符 → 0.4-0.6
  103. - 主要对象不匹配 → 0-0.3
  104. #### 维度3: 终极目的识别(权重20%)
  105. **评分规则:**
  106. - 目的完全一致 → 1.0
  107. - 目的相关但路径不同 → 0.6-0.7
  108. - 目的不相关 → 0-0.5
  109. **综合计算公式:**
  110. ```
  111. motivation_score = 核心意图动词×0.5 + 目标对象×0.3 + 终极目的×0.2
  112. ```
  113. **输出:**
  114. - motivation_score: 0-1分值(>=0.9才算通过)
  115. - motivation_breakdown: {"核心意图动词": 0.x, "目标对象": 0.x, "终极目的": 0.x}
  116. **阈值判定:**
  117. - >=0.9:意图高度匹配
  118. - <0.9:意图不匹配,建议重新生成sug词或调整query词
  119. **注意:评估标准需要严格,对所有用例保持一致的标准**
  120. ---
  121. ### 第三层:相关性判定(relevance_score = 0-1分值)
  122. **目标:** 基于第二层的综合意图,评估sug词条对原始query的满足程度。
  123. **评分标准体系:**
  124. #### 高度满足(0.9-1.0)
  125. - 核心动作:完全一致或为标准近义词
  126. - 目标对象:主体+关键限定词全部匹配
  127. - 使用场景:完全相同或高度兼容
  128. - 终极目的:完全一致
  129. - 判定方法:逐一核对,所有维度≥0.9;替换测试(把sug词替换原query,意思不变)
  130. #### 中高满足(0.7-0.89)
  131. - 核心动作:一致或相近,但可能更泛化/具体化
  132. - 目标对象:主体匹配,但1-2个限定词缺失/泛化
  133. - 使用场景:基本兼容,可能略有扩展或收窄
  134. - 终极目的:一致但实现路径略有差异
  135. - 判定方法:"有效信息保留率" ≥70%
  136. #### 中低满足(0.4-0.69)
  137. - 核心动作:存在明显差异,但主题相关
  138. - 目标对象:部分匹配,关键限定词缺失或错位
  139. - 使用场景:有关联但场景不同
  140. - 终极目的:相关但实现路径完全不同
  141. - 判定方法:只有主题词重叠,用户需要显著改变搜索策略
  142. #### 低度/不满足(0-0.39)
  143. - 核心动作:完全不同或对立
  144. - 目标对象:主体不同或无关联
  145. - 使用场景:场景冲突
  146. - 终极目的:完全不相关
  147. - 判定方法:除通用词外无有效重叠,sug词满足了完全不同的需求
  148. **维度计算公式:**
  149. ```
  150. relevance_score = 核心动作×0.4 + 目标对象×0.3 + 使用场景×0.15 + 终极目的×0.15
  151. ```
  152. **特殊情况处理:**
  153. 1. 泛化与具体化
  154. - 泛化(sug词更广):如果原query所有要素都在覆盖范围内 → 0.75-0.85
  155. - 具体化(sug词更窄):如果sug词是原query的典型子场景 → 0.7-0.8
  156. 2. 同义转换宽容度
  157. - 允许:获取≈下载≈寻找≈收集;技巧≈方法≈教程≈攻略
  158. - 不允许:获取素材≠制作素材;学习技巧≠查看案例
  159. 3. 多意图处理
  160. - 识别主次意图(通过语序、连接词判断)
  161. - sug词至少满足主意图 → 中高满足
  162. - sug词同时满足主次意图 → 高度满足
  163. - sug词只满足次意图 → 降至中低满足
  164. **输出:**
  165. - relevance_score: 0-1分值(>=0.9为高度满足)
  166. - relevance_breakdown: {"核心动作": 0.x, "目标对象": 0.x, "使用场景": 0.x, "终极目的": 0.x}
  167. ---
  168. ## 最终输出要求
  169. 一次性返回所有三层的评估结果:
  170. 1. knowledge_recognition (0或1) + knowledge_recognition_reason
  171. 2. motivation_score (0-1) + motivation_breakdown
  172. 3. relevance_score (0-1) + relevance_breakdown
  173. 4. overall_reason: 综合评估理由(简要总结三层判定结果)
  174. **重要原则:**
  175. - 即使第一层knowledge_recognition=0,也要完整计算第二层和第三层
  176. - 即使第二层motivation_score<0.9,也要完整计算第三层
  177. - 所有维度的breakdown必须提供具体数值
  178. - 评估标准严格一致,不因用例不同而放松标准
  179. """.strip()
  180. class MotivationBreakdown(BaseModel):
  181. """动机得分明细"""
  182. 核心意图动词: float = Field(..., description="核心意图动词得分,0-1")
  183. 目标对象: float = Field(..., description="目标对象得分,0-1")
  184. 终极目的: float = Field(..., description="终极目的得分,0-1")
  185. class RelevanceBreakdown(BaseModel):
  186. """相关性得分明细"""
  187. 核心动作: float = Field(..., description="核心动作得分,0-1")
  188. 目标对象: float = Field(..., description="目标对象得分,0-1")
  189. 使用场景: float = Field(..., description="使用场景得分,0-1")
  190. 终极目的: float = Field(..., description="终极目的得分,0-1")
  191. class EvaluationFeedback(BaseModel):
  192. """评估反馈模型 - 三层知识评估"""
  193. # 第一层:知识识别
  194. knowledge_recognition: Literal[0, 1] = Field(
  195. ...,
  196. description="是否为知识需求,1=是,0=否"
  197. )
  198. knowledge_recognition_reason: str = Field(
  199. ...,
  200. description="知识识别判定依据(意图识别、动词提取、目标验证)"
  201. )
  202. # 第二层:知识动机匹配
  203. motivation_score: float = Field(
  204. ...,
  205. description="知识动机匹配度,0-1分值,>=0.9才通过"
  206. )
  207. motivation_breakdown: MotivationBreakdown = Field(
  208. ...,
  209. description="动机得分明细"
  210. )
  211. # 第三层:相关性评分
  212. relevance_score: float = Field(
  213. ...,
  214. description="相关性得分,0-1分值,>=0.9为高度满足"
  215. )
  216. relevance_breakdown: RelevanceBreakdown = Field(
  217. ...,
  218. description="相关性得分明细"
  219. )
  220. overall_reason: str = Field(
  221. ...,
  222. description="综合评估理由"
  223. )
  224. evaluator = Agent[None](
  225. name="评估专家",
  226. instructions=eval_instructions,
  227. output_type=EvaluationFeedback,
  228. )
  229. # ============================================================================
  230. # Agent 3: 修改策略生成专家
  231. # ============================================================================
  232. strategy_instructions = """
  233. 你是query修改策略专家。**模拟人在搜索引擎中的真实搜索行为**,基于反馈动态调整query。
  234. ## 核心思路:搜索是探索过程,不是直达过程
  235. **关键认知:**
  236. 1. **中间query不需要满足原始需求** - 它是探索工具,可以偏离原需求
  237. 2. **推荐词是最宝贵的反馈信号** - 告诉你系统理解成什么了,有什么内容
  238. 3. **每一步query都有明确的探索目的** - 不是盲目改词,而是试探和引导
  239. 4. **最终目标:找到满足需求的推荐词** - 不是让query本身满足需求
  240. ## 人的真实搜索过程
  241. **搜索的本质**:通过多步探索,利用推荐词作为桥梁,逐步引导系统
  242. **典型模式**:
  243. 第1步:直接尝试
  244. - 目的:看系统能否直接理解
  245. - 结果:空列表或essence=0
  246. - essence=0的推荐词:告诉你系统理解成什么了
  247. 第2步:降低要求,简化query
  248. - 目的:让系统有响应,看它在基础层面有什么
  249. - 推荐词虽然essence=0,但揭示了系统在某个主题有内容
  250. - **关键**:选一个最有潜力的推荐词
  251. 第3步:基于推荐词,往目标方向引导
  252. - 目的:利用推荐词作为桥梁,加上目标方向的词
  253. - 推荐词还是essence=0,但主题在变化(接近目标)
  254. - **渐进式**:不求一步到位,每步都有进展
  255. 第4步:继续引导或换角度
  256. - 如果推荐词主题不变 → 换角度
  257. - 如果推荐词主题在接近 → 继续引导
  258. 最终:找到essence=1的推荐词
  259. **关键原则**:
  260. 1. essence_score是评估推荐词的,不是评估中间query的
  261. 2. essence=0的推荐词也有价值,它揭示了系统的理解方向
  262. 3. 每一步都有明确的探索目的,看目的是否达成
  263. 4. 通过推荐词的主题变化,判断是否在接近目标
  264. ## 输入信息
  265. - 原始问题标注(三层):本质、硬性约束、软性修饰
  266. - 历史尝试记录:所有轮次的query、推荐词、评估结果
  267. - 当前query和推荐词评估
  268. ## 分析步骤
  269. ### 第一步:理解当前推荐词的信号
  270. **核心问题:推荐词告诉我什么信息?**
  271. **重要提醒:essence_score是评估推荐词是否满足原始需求的最终目标**
  272. - essence_score=1: 推荐词满足原需求的本质
  273. - essence_score=0: 推荐词不满足原需求的本质
  274. - **但中间query的目的可能不是满足原需求**,所以essence_score只是参考
  275. 1. **系统理解层面**(看推荐词的主题):
  276. - 空列表 → 系统完全不理解当前query
  277. - 有推荐词 → 系统理解成了什么主题?
  278. - 旅游?教程?素材?工具?品种介绍?
  279. - 这些主题是否有助于往目标方向引导?
  280. 2. **内容可用性层面**(看推荐词的价值):
  281. - **即使推荐词essence=0,也可能是很好的探索起点**
  282. - 例如:推荐词"川西旅游攻略"虽然essence=0,但揭示了系统认识"川西"
  283. - 哪些推荐词最有潜力作为下一步的桥梁?
  284. 3. **探索目的验证**:
  285. - 当前query的探索目的是什么?达到了吗?
  286. - 例如:目的是"看系统对川西有什么" → 达到了(有推荐词)
  287. - 下一步要验证/探索什么?
  288. ### 第二步:回顾历史,识别规律
  289. - 哪些query让系统理解方向变化了?(从"旅游"变成"摄影")
  290. - 哪些方向是死路?(多次essence=0且推荐词主题不变)
  291. - **是否有渐进的改善?**(推荐词越来越接近目标)
  292. ### 第三步:选择策略类型和具体操作(带着明确的探索目的)
  293. **策略类型(strategy_type):**
  294. **refine_current(微调当前query)**
  295. - 适用:推荐词方向对了,需要微调让它更精确
  296. - 探索目的:在正确方向上精细化
  297. - 动作:加词/减词/换词/调整顺序
  298. **use_recommendation(选推荐词作为新起点)** ⭐ 最重要策略
  299. - 适用:推荐词虽然knowledge_recognition=0或relevance_score低,但**揭示了系统在这个方向有内容**
  300. - 探索目的:利用推荐词这个客观信号,引导系统往目标方向
  301. - **核心思维**:推荐词是系统给你的提示,告诉你"我有这个"
  302. - 动作:
  303. - 选一个最有潜力的推荐词作为base_query
  304. - 在它基础上加目标方向的词
  305. - **这个新query可能不满足原需求,但目的是探索和引导**
  306. **change_approach(换完全不同的角度)**
  307. - 适用:当前方向是死路(多次尝试推荐词主题不变)
  308. - 探索目的:跳出当前框架,从另一个角度切入
  309. - 动作:换一种完全不同的表述方式
  310. **relax_constraints(放宽约束)**
  311. - 适用:query太复杂,系统不理解(返回空列表)
  312. - 探索目的:先让系统有响应,看它在最基础层面有什么
  313. - 动作:去掉限定词,保留核心概念
  314. ---
  315. **具体操作类型(operation_type):**
  316. **增加**
  317. - **判定标准**:
  318. * 推荐词的语义比当前query更具体,且词汇数量 > 当前query的词汇数量
  319. * 推荐词包含当前query的核心关键词,且添加了能将query具体化的新词
  320. * 推荐词中存在当前query中不存在的关键新词(如:特定平台名称、特定功能词、具体场景词)
  321. - **使用时机**:当推荐词整体趋势是添加更具体的限定词或场景描述时
  322. **删减**
  323. - **判定标准**(满足以下任一条件):
  324. * 推荐词的词汇数量明显少于当前query
  325. * 推荐词返回空列表(说明query过于复杂)
  326. * 推荐词词汇数量少于query,但核心搜索意图一致
  327. * 识别出query中1-2个词为"非核心冗余词",删除后不影响核心意图
  328. - **使用时机**:当原query过于冗长复杂,推荐词都倾向于使用更简洁的表达时
  329. **调序**
  330. - **判定标准**:
  331. * 推荐词与query拥有完全相同或极为相似的核心关键词集合,只是词汇排列顺序不同
  332. * 推荐词的词序更自然或更符合用户搜索习惯
  333. * 多个推荐词都倾向于使用与query不同但意思一致的词序
  334. - **使用时机**:当推荐词与原query关键词相同但顺序不同,且新顺序更符合用户习惯时
  335. **替换**
  336. - **判定标准**:
  337. * 推荐词与query仅有1-2个核心词不同,其他词均相同
  338. * 差异词是同义词、近义词或在该领域更流行/专业的替代词
  339. * 推荐词中的新词在推荐列表中出现频率更高
  340. - **使用时机**:当推荐词显示某个词的同义词或专业术语更受欢迎时
  341. ## 输出要求
  342. ### 1. reasoning(推理过程)
  343. 必须包含三部分,**重点写探索目的**:
  344. - **当前推荐词信号分析**:
  345. - 系统理解成什么主题了?(旅游?教程?素材?工具?品种?)
  346. - 推荐词揭示了什么信息?(系统在哪个方向有内容)
  347. - **不要只看knowledge_recognition和relevance_score**:
  348. - knowledge_recognition=0或relevance_score低不代表推荐词没用
  349. - 关键看推荐词的主题是否有助于引导
  350. - 哪个推荐词最有潜力作为下一步的桥梁?
  351. - **历史尝试与趋势**:
  352. - 系统理解的主题变化:从"品种介绍"→"旅游"→"摄影"
  353. - 是否在逐步接近目标?还是原地打转?
  354. - **下一步策略与探索目的**:
  355. - **这一步query的探索目的是什么?**
  356. - 验证系统对某个词的理解?
  357. - 往某个方向引导?
  358. - 利用推荐词作为桥梁?
  359. - 为什么选这个base_query?
  360. - 为什么选这个operation_type?
  361. - 为什么这样修改?
  362. - **重要**:不要纠结"这个query不满足原需求",关键是它能否达成探索目的
  363. ### 2. strategy_type
  364. 从4种策略中选择:refine_current, use_recommendation, change_approach, relax_constraints
  365. ### 3. operation_type
  366. 从4种操作中选择:增加、删减、调序、替换
  367. - **必须基于推荐词的特征选择**:看推荐词与当前query的差异模式
  368. - 参考上述"具体操作类型"的判定标准
  369. ### 4. base_query
  370. **关键**:可以选择历史中的query,也可以选择历史推荐词
  371. - 如果选历史query:base_query_source = "history_query"
  372. - 如果选历史推荐词:base_query_source = "history_recommendation"
  373. ### 5. base_query_source
  374. 说明base_query的来源
  375. ### 6. modification_actions
  376. 列出具体的修改动作,建议格式:
  377. - 每个动作以操作类型开头(增加/删减/调序/替换)
  378. - 清晰描述具体修改了什么内容
  379. ### 7. new_query
  380. 最终的新query
  381. ## 重要原则
  382. 1. **推荐词是最宝贵的反馈** - 充分利用推荐词这个客观信号
  383. - 即使essence=0的推荐词,也揭示了系统在这个方向有什么
  384. - **优先考虑use_recommendation策略** - 选一个推荐词作为起点
  385. 2. **中间query可以偏离原需求** - 每一步都有明确的探索目的
  386. - 不要纠结"这个query不满足原需求"
  387. - 关键是:这个query能不能帮你往正确方向引导系统
  388. 3. **识别死胡同,及时换方向**
  389. - 如果多次尝试推荐词主题不变 → 换方向
  390. - 如果推荐词越来越偏 → 回退到之前的某个好的起点
  391. 4. **保持推理简洁** - 抓住关键信息
  392. - 明确说出探索目的
  393. - 不要重复啰嗦
  394. """.strip()
  395. class ModificationStrategy(BaseModel):
  396. """修改策略模型 - 模拟人的搜索调整过程"""
  397. reasoning: str = Field(..., description="推理过程:1)当前推荐词分析:系统理解成什么了?2)历史尝试总结:哪些方向有效/无效?3)下一步策略:为什么这样调整?")
  398. strategy_type: Literal[
  399. "refine_current", # 微调当前query(加词/减词/换词/换顺序)
  400. "use_recommendation", # 选择推荐词作为新起点,在它基础上修改
  401. "change_approach", # 换完全不同的表述角度
  402. "relax_constraints" # 放宽约束,去掉部分限定词
  403. ] = Field(..., description="策略类型")
  404. operation_type: Literal[
  405. "增加", # 增加query语句,添加具体化的关键词
  406. "删减", # 删减query词,去除冗余词汇
  407. "调序", # 调整query词的顺序,更符合用户习惯的词序
  408. "替换", # 替换query中的某个词,使用同义词或专业术语
  409. ] = Field(..., description="具体操作类型:增加、删减、调序、替换")
  410. base_query: str = Field(..., description="基础query,可以是:1)历史中的query 2)历史推荐词中的某一个")
  411. base_query_source: Literal["history_query", "history_recommendation"] = Field(..., description="base_query的来源")
  412. modification_actions: list[str] = Field(..., description="具体修改动作的描述,如:['去掉\"如何获取\"', '保留核心词\"川西秋季\"', '把\"素材\"改为\"图片\"']")
  413. new_query: str = Field(..., description="修改后的新query")
  414. strategy_generator = Agent[None](
  415. name="策略生成专家",
  416. instructions=strategy_instructions,
  417. output_type=ModificationStrategy,
  418. )
  419. # ============================================================================
  420. # 核心函数
  421. # ============================================================================
  422. async def annotate_question(q_with_context: str) -> str:
  423. """标注问题(三层)"""
  424. print("\n正在标注问题...")
  425. result = await Runner.run(question_annotator, q_with_context)
  426. annotation = str(result.final_output)
  427. print(f"问题标注完成:{annotation}")
  428. return annotation
  429. async def get_suggestions_with_eval(query: str, annotation: str, context: RunContext) -> list[dict]:
  430. """获取推荐词并评估"""
  431. print(f"\n正在获取推荐词:{query}")
  432. # 1. 调用小红书API
  433. xiaohongshu_api = XiaohongshuSearchRecommendations()
  434. query_suggestions = xiaohongshu_api.get_recommendations(keyword=query)
  435. print(f"获取到 {len(query_suggestions) if query_suggestions else 0} 个推荐词:{query_suggestions}")
  436. if not query_suggestions:
  437. # 记录到历史
  438. context.operations_history.append({
  439. "operation_type": "get_query_suggestions",
  440. "timestamp": datetime.now().isoformat(),
  441. "query": query,
  442. "suggestions": [],
  443. "evaluations": "未返回任何推荐词",
  444. })
  445. return []
  446. # 2. 并发评估所有推荐词
  447. async def evaluate_single_query(q_sug: str):
  448. eval_input = f"""
  449. <需求上下文>
  450. {context.q_context}
  451. </需求上下文>
  452. <原始query问题>
  453. {context.q}
  454. </原始query问题>
  455. <平台sug词条>
  456. {q_sug}
  457. </平台sug词条>
  458. 请对该sug词条进行三层评估(一次性返回所有层级的评分):
  459. 第一层:判断sug词条是否为知识需求(knowledge_recognition: 0或1)
  460. 第二层:评估知识动机匹配度(motivation_score: 0-1,需>=0.9)
  461. 第三层:评估相关性得分(relevance_score: 0-1,>=0.9为高度满足)
  462. 重要:即使第一层=0或第二层<0.9,也要完整计算所有层级的得分。
  463. """
  464. evaluator_result = await Runner.run(evaluator, eval_input)
  465. result: EvaluationFeedback = evaluator_result.final_output
  466. return {
  467. "query": q_sug,
  468. "knowledge_recognition": result.knowledge_recognition,
  469. "knowledge_recognition_reason": result.knowledge_recognition_reason,
  470. "motivation_score": result.motivation_score,
  471. "motivation_breakdown": result.motivation_breakdown.model_dump(),
  472. "relevance_score": result.relevance_score,
  473. "relevance_breakdown": result.relevance_breakdown.model_dump(),
  474. "overall_reason": result.overall_reason,
  475. }
  476. evaluations = await asyncio.gather(*[evaluate_single_query(q_sug) for q_sug in query_suggestions])
  477. # 3. 记录到历史
  478. context.operations_history.append({
  479. "operation_type": "get_query_suggestions",
  480. "timestamp": datetime.now().isoformat(),
  481. "query": query,
  482. "suggestions": query_suggestions,
  483. "evaluations": evaluations,
  484. })
  485. return evaluations
  486. async def generate_modification_strategy(
  487. current_query: str,
  488. evaluations: list[dict],
  489. annotation: str,
  490. context: RunContext
  491. ) -> ModificationStrategy:
  492. """生成修改策略"""
  493. print("\n正在生成修改策略...")
  494. # 整理历史尝试记录 - 完整保留推荐词和评估结果
  495. history_records = []
  496. round_num = 0
  497. for op in context.operations_history:
  498. if op["operation_type"] == "get_query_suggestions":
  499. round_num += 1
  500. record = {
  501. "round": round_num,
  502. "query": op["query"],
  503. "suggestions": op["suggestions"],
  504. "evaluations": op["evaluations"]
  505. }
  506. history_records.append(record)
  507. elif op["operation_type"] == "modify_query":
  508. # 修改操作也记录,但不增加轮数
  509. history_records.append({
  510. "operation": "modify_query",
  511. "strategy_type": op.get("strategy_type", op.get("modification_type")), # 兼容旧字段
  512. "operation_type_detail": op.get("operation_type_detail"), # 新增:具体操作类型(增加、删减、调序、替换)
  513. "base_query": op.get("base_query"),
  514. "base_query_source": op.get("base_query_source"),
  515. "modification_actions": op.get("modification_actions", []),
  516. "original_query": op["original_query"],
  517. "new_query": op["new_query"],
  518. "reasoning": op["reasoning"]
  519. })
  520. # 格式化历史记录为JSON
  521. history_json = json.dumps(history_records, ensure_ascii=False, indent=2)
  522. strategy_input = f"""
  523. <原始问题标注(三层)>
  524. {annotation}
  525. </原始问题标注(三层)>
  526. <历史尝试记录(完整)>
  527. {history_json}
  528. </历史尝试记录(完整)>
  529. <当前query>
  530. {current_query}
  531. </当前query>
  532. <当前轮推荐词评估结果>
  533. {json.dumps(evaluations, ensure_ascii=False, indent=2) if evaluations else "空列表"}
  534. </当前轮推荐词评估结果>
  535. 请基于所有历史尝试和当前评估结果,生成下一步的query修改策略。
  536. 重点分析:
  537. 1. **当前推荐词的信号**:
  538. - 系统理解成什么主题了?(旅游?教程?素材?工具?品种?)
  539. - 推荐词揭示了什么信息?系统在哪个方向有内容?
  540. - **不要只看essence_score**:essence=0的推荐词也可能是好的探索起点
  541. - 哪个推荐词最有潜力作为下一步的桥梁?
  542. 2. **历史趋势分析**:
  543. - 推荐词的主题变化:从"品种介绍"→"旅游"→"摄影"?
  544. - 是否在逐步接近目标?还是原地打转(主题不变)?
  545. - 哪些query让系统理解方向改变了?
  546. 3. **确定探索目的**:
  547. - 下一步query的探索目的是什么?
  548. * 验证系统对某个词的理解?
  549. * 往某个方向引导系统?
  550. * 利用推荐词作为桥梁?
  551. - **记住**:中间query不需要满足原需求,关键是达成探索目的
  552. """
  553. result = await Runner.run(strategy_generator, strategy_input)
  554. strategy: ModificationStrategy = result.final_output
  555. return strategy
  556. def find_qualified_queries(evaluations: list[dict]) -> dict:
  557. """分级查找合格query
  558. Returns:
  559. {
  560. "highly_qualified": [...], # 高度满足:knowledge=1, motivation>=0.9, relevance>=0.9
  561. "moderately_qualified": [...], # 中高满足:knowledge=1, motivation>=0.9, relevance>=0.7
  562. "lower_qualified": [...], # 中低满足:knowledge=1, motivation>=0.9, relevance>=0.4
  563. }
  564. """
  565. # 高度满足:knowledge=1, motivation>=0.9, relevance>=0.9
  566. highly_qualified = [
  567. e for e in evaluations
  568. if e['knowledge_recognition'] == 1
  569. and e['motivation_score'] >= 0.9
  570. and e['relevance_score'] >= 0.9
  571. ]
  572. # 中高满足:knowledge=1, motivation>=0.9, 0.7<=relevance<0.9
  573. moderately_qualified = [
  574. e for e in evaluations
  575. if e['knowledge_recognition'] == 1
  576. and e['motivation_score'] >= 0.9
  577. and 0.7 <= e['relevance_score'] < 0.9
  578. ]
  579. # 中低满足:knowledge=1, motivation>=0.9, 0.4<=relevance<0.7
  580. lower_qualified = [
  581. e for e in evaluations
  582. if e['knowledge_recognition'] == 1
  583. and e['motivation_score'] >= 0.9
  584. and 0.4 <= e['relevance_score'] < 0.7
  585. ]
  586. return {
  587. "highly_qualified": sorted(highly_qualified, key=lambda x: x['relevance_score'], reverse=True),
  588. "moderately_qualified": sorted(moderately_qualified, key=lambda x: x['relevance_score'], reverse=True),
  589. "lower_qualified": sorted(lower_qualified, key=lambda x: x['relevance_score'], reverse=True),
  590. }
  591. # ============================================================================
  592. # 主流程(代码控制)
  593. # ============================================================================
  594. async def optimize_query(context: RunContext, max_rounds: int = 20) -> dict:
  595. """
  596. 主优化流程 - 由代码控制
  597. Args:
  598. context: 运行上下文
  599. max_rounds: 最大迭代轮数,默认20
  600. 返回格式:
  601. {
  602. "success": True/False,
  603. "result": {...} or None,
  604. "message": "..."
  605. }
  606. """
  607. # 1. 标注问题(仅一次)
  608. annotation = await annotate_question(context.q_with_context)
  609. context.question_annotation = annotation
  610. # 2. 迭代优化
  611. current_query = context.q
  612. for round_num in range(1, max_rounds + 1):
  613. print(f"\n{'='*60}")
  614. print(f"第 {round_num} 轮:{'使用原始问题' if round_num == 1 else '使用修改后的query'}")
  615. print(f"当前query: {current_query}")
  616. print(f"{'='*60}")
  617. # 获取推荐词并评估
  618. evaluations = await get_suggestions_with_eval(current_query, annotation, context)
  619. if evaluations:
  620. # 检查是否找到合格query(分级筛选)
  621. qualified = find_qualified_queries(evaluations)
  622. # 优先返回高度满足的query
  623. if qualified["highly_qualified"]:
  624. return {
  625. "success": True,
  626. "level": "highly_qualified",
  627. "results": qualified["highly_qualified"],
  628. "message": f"第{round_num}轮找到{len(qualified['highly_qualified'])}个高度满足的query(知识=1, 动机≥0.9, 相关性≥0.9)"
  629. }
  630. # 其次返回中高满足的query
  631. if qualified["moderately_qualified"]:
  632. return {
  633. "success": True,
  634. "level": "moderately_qualified",
  635. "results": qualified["moderately_qualified"],
  636. "message": f"第{round_num}轮找到{len(qualified['moderately_qualified'])}个中高满足的query(知识=1, 动机≥0.9, 相关性≥0.7)"
  637. }
  638. # 如果是最后一轮,不再生成策略
  639. if round_num == max_rounds:
  640. break
  641. # 生成修改策略
  642. print(f"\n--- 生成修改策略 ---")
  643. strategy = await generate_modification_strategy(current_query, evaluations, annotation, context)
  644. print(f"\n修改策略:")
  645. print(f" 推理过程:{strategy.reasoning}")
  646. print(f" 策略类型:{strategy.strategy_type}")
  647. print(f" 操作类型:{strategy.operation_type}")
  648. print(f" 基础query:{strategy.base_query} (来源: {strategy.base_query_source})")
  649. print(f" 修改动作:{', '.join(strategy.modification_actions)}")
  650. print(f" 新query:{strategy.new_query}")
  651. # 记录修改
  652. context.operations_history.append({
  653. "operation_type": "modify_query",
  654. "timestamp": datetime.now().isoformat(),
  655. "reasoning": strategy.reasoning,
  656. "strategy_type": strategy.strategy_type,
  657. "operation_type_detail": strategy.operation_type,
  658. "base_query": strategy.base_query,
  659. "base_query_source": strategy.base_query_source,
  660. "modification_actions": strategy.modification_actions,
  661. "original_query": current_query,
  662. "new_query": strategy.new_query,
  663. })
  664. # 更新当前query
  665. current_query = strategy.new_query
  666. # 所有轮次后仍未找到高度/中高满足的,降低标准查找
  667. print(f"\n{'='*60}")
  668. print(f"{max_rounds}轮后未找到高度/中高满足的query,降低标准(相关性 >= 0.4)")
  669. print(f"{'='*60}")
  670. qualified = find_qualified_queries(evaluations)
  671. if qualified["lower_qualified"]:
  672. return {
  673. "success": True,
  674. "level": "lower_qualified",
  675. "results": qualified["lower_qualified"],
  676. "message": f"{max_rounds}轮后找到{len(qualified['lower_qualified'])}个中低满足的query(知识=1, 动机≥0.9, 相关性≥0.4)"
  677. }
  678. # 完全失败:找出最接近的(只满足知识识别,但动机不够)
  679. knowledge_ok = [
  680. e for e in evaluations
  681. if e['knowledge_recognition'] == 1
  682. ]
  683. if knowledge_ok:
  684. # 返回所有满足knowledge的,按motivation_score降序
  685. closest_queries = sorted(knowledge_ok, key=lambda x: x['motivation_score'], reverse=True)
  686. return {
  687. "success": False,
  688. "level": "failed",
  689. "results": closest_queries[:5], # 只返回前5个
  690. "message": f"未找到合格query,但有{len(closest_queries)}个是知识需求(knowledge=1,但motivation<0.9)"
  691. }
  692. return {
  693. "success": False,
  694. "level": "failed",
  695. "results": [],
  696. "message": "未找到任何知识类推荐词(所有推荐词的knowledge_recognition均为0)"
  697. }
  698. # ============================================================================
  699. # 输出格式化
  700. # ============================================================================
  701. def format_output(optimization_result: dict, context: RunContext) -> str:
  702. """格式化输出结果"""
  703. results = optimization_result.get("results", [])
  704. level = optimization_result.get("level", "")
  705. # 满足程度映射
  706. level_map = {
  707. "highly_qualified": "高度满足 (90-100%)",
  708. "moderately_qualified": "中高满足 (70-89%)",
  709. "lower_qualified": "中低满足 (40-69%)",
  710. "failed": "未通过"
  711. }
  712. if optimization_result["success"] and results:
  713. output = f"原始问题:{context.q}\n"
  714. output += f"满足程度:{level_map.get(level, '未知')}\n"
  715. output += f"状态:{optimization_result['message']}\n\n"
  716. output += "推荐query(按相关性降序):\n"
  717. for i, result in enumerate(results, 1):
  718. output += f"\n{i}. {result['query']}\n"
  719. output += f" - 知识识别:{'是' if result['knowledge_recognition'] == 1 else '否'} ({result['knowledge_recognition_reason'][:50]}...)\n"
  720. output += f" - 动机匹配度:{result['motivation_score']:.2f} (≥0.9通过)\n"
  721. output += f" * 核心意图动词: {result['motivation_breakdown'].get('核心意图动词', 0):.2f}\n"
  722. output += f" * 目标对象: {result['motivation_breakdown'].get('目标对象', 0):.2f}\n"
  723. output += f" * 终极目的: {result['motivation_breakdown'].get('终极目的', 0):.2f}\n"
  724. output += f" - 相关性得分:{result['relevance_score']:.2f} (≥0.9高度满足)\n"
  725. output += f" * 核心动作: {result['relevance_breakdown'].get('核心动作', 0):.2f}\n"
  726. output += f" * 目标对象: {result['relevance_breakdown'].get('目标对象', 0):.2f}\n"
  727. output += f" * 使用场景: {result['relevance_breakdown'].get('使用场景', 0):.2f}\n"
  728. output += f" * 终极目的: {result['relevance_breakdown'].get('终极目的', 0):.2f}\n"
  729. output += f" - 综合评估:{result['overall_reason'][:100]}...\n"
  730. return output.strip()
  731. else:
  732. output = f"原始问题:{context.q}\n"
  733. output += f"结果:未找到合格推荐query\n"
  734. output += f"满足程度:{level_map.get(level, '未知')}\n"
  735. output += f"原因:{optimization_result['message']}\n"
  736. if results:
  737. output += "\n最接近的推荐词:\n"
  738. for i, result in enumerate(results[:3], 1): # 只显示前3个
  739. output += f"\n{i}. {result['query']}\n"
  740. output += f" - 知识识别:{'是' if result['knowledge_recognition'] == 1 else '否'}\n"
  741. output += f" - 动机匹配度:{result['motivation_score']:.2f}\n"
  742. output += f" - 相关性得分:{result['relevance_score']:.2f}\n"
  743. output += f" - 综合评估:{result['overall_reason'][:100]}...\n"
  744. output += "\n建议:尝试简化问题或调整需求描述"
  745. return output.strip()
  746. # ============================================================================
  747. # 主函数
  748. # ============================================================================
  749. async def main(input_dir: str, max_rounds: int = 20):
  750. current_time, log_url = set_trace()
  751. # 从目录中读取固定文件名
  752. input_context_file = os.path.join(input_dir, 'context.md')
  753. input_q_file = os.path.join(input_dir, 'q.md')
  754. q_context = read_file_as_string(input_context_file)
  755. q = read_file_as_string(input_q_file)
  756. q_with_context = f"""
  757. <需求上下文>
  758. {q_context}
  759. </需求上下文>
  760. <当前问题>
  761. {q}
  762. </当前问题>
  763. """.strip()
  764. # 获取当前文件名作为版本
  765. version = os.path.basename(__file__)
  766. version_name = os.path.splitext(version)[0]
  767. # 日志保存目录
  768. log_dir = os.path.join(input_dir, "output", version_name, current_time)
  769. run_context = RunContext(
  770. version=version,
  771. input_files={
  772. "input_dir": input_dir,
  773. "context_file": input_context_file,
  774. "q_file": input_q_file,
  775. },
  776. q_with_context=q_with_context,
  777. q_context=q_context,
  778. q=q,
  779. log_dir=log_dir,
  780. log_url=log_url,
  781. )
  782. # 执行优化流程(代码控制)
  783. optimization_result = await optimize_query(run_context, max_rounds=max_rounds)
  784. # 格式化输出
  785. final_output = format_output(optimization_result, run_context)
  786. print(f"\n{'='*60}")
  787. print("最终结果")
  788. print(f"{'='*60}")
  789. print(final_output)
  790. # 保存结果
  791. run_context.optimization_result = optimization_result
  792. run_context.final_output = final_output
  793. # 保存 RunContext 到 log_dir
  794. os.makedirs(run_context.log_dir, exist_ok=True)
  795. context_file_path = os.path.join(run_context.log_dir, "run_context.json")
  796. with open(context_file_path, "w", encoding="utf-8") as f:
  797. json.dump(run_context.model_dump(), f, ensure_ascii=False, indent=2)
  798. print(f"\nRunContext saved to: {context_file_path}")
  799. if __name__ == "__main__":
  800. parser = argparse.ArgumentParser(description="搜索query优化工具")
  801. parser.add_argument(
  802. "--input-dir",
  803. type=str,
  804. default="input/简单扣图",
  805. help="输入目录路径,默认: input/简单扣图"
  806. )
  807. parser.add_argument(
  808. "--max-rounds",
  809. type=int,
  810. default=20,
  811. help="最大迭代轮数,默认: 20"
  812. )
  813. args = parser.parse_args()
  814. asyncio.run(main(args.input_dir, max_rounds=args.max_rounds))