sug_v6_1_2_115.py 40 KB

12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455565758596061626364656667686970717273747576777879808182838485868788899091929394959697989910010110210310410510610710810911011111211311411511611711811912012112212312412512612712812913013113213313413513613713813914014114214314414514614714814915015115215315415515615715815916016116216316416516616716816917017117217317417517617717817918018118218318418518618718818919019119219319419519619719819920020120220320420520620720820921021121221321421521621721821922022122222322422522622722822923023123223323423523623723823924024124224324424524624724824925025125225325425525625725825926026126226326426526626726826927027127227327427527627727827928028128228328428528628728828929029129229329429529629729829930030130230330430530630730830931031131231331431531631731831932032132232332432532632732832933033133233333433533633733833934034134234334434534634734834935035135235335435535635735835936036136236336436536636736836937037137237337437537637737837938038138238338438538638738838939039139239339439539639739839940040140240340440540640740840941041141241341441541641741841942042142242342442542642742842943043143243343443543643743843944044144244344444544644744844945045145245345445545645745845946046146246346446546646746846947047147247347447547647747847948048148248348448548648748848949049149249349449549649749849950050150250350450550650750850951051151251351451551651751851952052152252352452552652752852953053153253353453553653753853954054154254354454554654754854955055155255355455555655755855956056156256356456556656756856957057157257357457557657757857958058158258358458558658758858959059159259359459559659759859960060160260360460560660760860961061161261361461561661761861962062162262362462562662762862963063163263363463563663763863964064164264364464564664764864965065165265365465565665765865966066166266366466566666766866967067167267367467567667767867968068168268368468568668768868969069169269369469569669769869970070170270370470570670770870971071171271371471571671771871972072172272372472572672772872973073173273373473573673773873974074174274374474574674774874975075175275375475575675775875976076176276376476576676776876977077177277377477577677777877978078178278378478578678778878979079179279379479579679779879980080180280380480580680780880981081181281381481581681781881982082182282382482582682782882983083183283383483583683783883984084184284384484584684784884985085185285385485585685785885986086186286386486586686786886987087187287387487587687787887988088188288388488588688788888989089189289389489589689789889990090190290390490590690790890991091191291391491591691791891992092192292392492592692792892993093193293393493593693793893994094194294394494594694794894995095195295395495595695795895996096196296396496596696796896997097197297397497597697797897998098198298398498598698798898999099199299399499599699799899910001001100210031004100510061007100810091010101110121013101410151016101710181019102010211022102310241025102610271028102910301031103210331034103510361037103810391040104110421043104410451046104710481049105010511052105310541055105610571058105910601061106210631064106510661067106810691070107110721073107410751076107710781079108010811082108310841085108610871088108910901091109210931094109510961097109810991100110111021103110411051106110711081109111011111112111311141115111611171118111911201121112211231124112511261127112811291130113111321133113411351136113711381139114011411142114311441145114611471148114911501151115211531154115511561157115811591160116111621163116411651166116711681169117011711172
  1. import asyncio
  2. import json
  3. import os
  4. import sys
  5. import argparse
  6. from datetime import datetime
  7. from typing import Literal
  8. from agents import Agent, Runner
  9. from lib.my_trace import set_trace
  10. from pydantic import BaseModel, Field
  11. from lib.utils import read_file_as_string
  12. from lib.client import get_model
  13. MODEL_NAME = "google/gemini-2.5-flash"
  14. from script.search_recommendations.xiaohongshu_search_recommendations import XiaohongshuSearchRecommendations
  15. from script.search.xiaohongshu_search import XiaohongshuSearch
  16. # ============================================================================
  17. # 数据模型
  18. # ============================================================================
  19. class Seg(BaseModel):
  20. """分词"""
  21. text: str
  22. score_with_o: float = 0.0 # 与原始问题的评分
  23. reason: str = "" # 评分理由
  24. from_o: str = "" # 原始问题
  25. class Word(BaseModel):
  26. """词"""
  27. text: str
  28. score_with_o: float = 0.0 # 与原始问题的评分
  29. from_o: str = "" # 原始问题
  30. class QFromQ(BaseModel):
  31. """Q来源信息(用于Sug中记录)"""
  32. text: str
  33. score_with_o: float = 0.0
  34. class Q(BaseModel):
  35. """查询"""
  36. text: str
  37. score_with_o: float = 0.0 # 与原始问题的评分
  38. reason: str = "" # 评分理由
  39. from_source: str = "" # seg/sug/add(加词)
  40. class Sug(BaseModel):
  41. """建议词"""
  42. text: str
  43. score_with_o: float = 0.0 # 与原始问题的评分
  44. reason: str = "" # 评分理由
  45. from_q: QFromQ | None = None # 来自的q
  46. class Seed(BaseModel):
  47. """种子"""
  48. text: str
  49. added_words: list[str] = Field(default_factory=list) # 已经增加的words
  50. from_type: str = "" # seg/sug/add
  51. score_with_o: float = 0.0 # 与原始问题的评分
  52. class Post(BaseModel):
  53. """帖子"""
  54. title: str = ""
  55. body_text: str = ""
  56. type: str = "normal" # video/normal
  57. images: list[str] = Field(default_factory=list) # 图片url列表,第一张为封面
  58. video: str = "" # 视频url
  59. interact_info: dict = Field(default_factory=dict) # 互动信息
  60. note_id: str = ""
  61. note_url: str = ""
  62. class Search(Sug):
  63. """搜索结果(继承Sug)"""
  64. post_list: list[Post] = Field(default_factory=list) # 搜索得到的帖子列表
  65. class RunContext(BaseModel):
  66. """运行上下文"""
  67. version: str
  68. input_files: dict[str, str]
  69. c: str # 原始需求
  70. o: str # 原始问题
  71. log_url: str
  72. log_dir: str
  73. # 每轮的数据
  74. rounds: list[dict] = Field(default_factory=list) # 每轮的详细数据
  75. # 最终结果
  76. final_output: str | None = None
  77. # ============================================================================
  78. # Agent 定义
  79. # ============================================================================
  80. # Agent 1: 分词专家
  81. class WordSegmentation(BaseModel):
  82. """分词结果"""
  83. words: list[str] = Field(..., description="分词结果列表")
  84. reasoning: str = Field(..., description="分词理由")
  85. word_segmentation_instructions = """
  86. 你是分词专家。给定一个query,将其拆分成有意义的最小单元。
  87. ## 分词原则
  88. 1. 保留有搜索意义的词汇
  89. 2. 拆分成独立的概念
  90. 3. 保留专业术语的完整性
  91. 4. 去除虚词(的、吗、呢等)
  92. ## 输出要求
  93. 返回分词列表和分词理由。
  94. """.strip()
  95. word_segmenter = Agent[None](
  96. name="分词专家",
  97. instructions=word_segmentation_instructions,
  98. model=get_model(MODEL_NAME),
  99. output_type=WordSegmentation,
  100. )
  101. # Agent 2: 相关度评估专家
  102. class RelevanceEvaluation(BaseModel):
  103. """相关度评估"""
  104. reason: str = Field(..., description="评估理由")
  105. relevance_score: float = Field(..., description="相关性分数 -1~1")
  106. relevance_evaluation_instructions = """
  107. # 角色定义
  108. 你是一个 **专业的语言专家和语义相关性评判专家**。你的任务是:判断我给你的 <平台sug词条> 与 <原始问题> 的相关度满足度,给出 **-1 到 1 之间** 的数值评分。
  109. ---
  110. # 核心概念与方法论
  111. ## 两大评估维度
  112. 本评估系统始终围绕 **两个核心维度** 进行:
  113. ### 1. 动机维度(权重70%)
  114. **定义:** 用户"想要做什么",即原始问题的行为意图和目的
  115. - 核心是 **动词**:获取、学习、拍摄、制作、寻找等
  116. - 包括:核心动作 + 使用场景 + 最终目的
  117. ### 2. 品类维度(权重30%)
  118. **定义:** 用户"关于什么内容",即原始问题的主题对象和限定词
  119. - 核心是 **名词+限定词**:川西秋季风光摄影素材
  120. - 包括:核心主体 + 地域限定 + 时间限定 + 质量限定等
  121. ---
  122. ## 如何识别原始问题的核心动机
  123. **核心动机必须是动词**,识别方法如下:
  124. ### 方法1: 显性动词直接提取
  125. 当原始问题明确包含动词时,直接提取
  126. 示例:
  127. "如何获取素材" → 核心动机 = "获取"
  128. "寻找拍摄技巧" → 核心动机 = "寻找"(或"学习")
  129. "制作视频教程" → 核心动机 = "制作"
  130. ### 方法2: 隐性动词语义推理
  131. 当原始问题没有显性动词时,需要结合上下文推理
  132. 示例:
  133. 例: "川西秋天风光摄影" → 隐含动作="拍摄"
  134. → 需结合上下文判断
  135. 如果原始问题是纯名词短语,无任何动作线索:
  136. → 核心动机 = 无法识别
  137. → 初始权重 = 0
  138. → 相关度评估以品类匹配为主
  139. 示例:
  140. "摄影" → 无法识别动机,初始权重=0
  141. "川西风光" → 无法识别动机,初始权重=0
  142. # 输入信息
  143. 你将接收到以下输入:
  144. - **<原始问题>**:用户的初始查询问题,代表用户的真实需求意图。
  145. - **<平台sug词条>**:平台推荐的词条列表,每个词条需要单独评估。
  146. #判定流程
  147. #评估架构
  148. 输入: <原始问题> + <平台sug词条>
  149. 【综合相关性判定】
  150. ├→ 步骤1: 评估<sug词条>与<原始问题>的相关度
  151. └→ 输出: -1到1之间的数值 + 分维度得分 + 判定依据
  152. 相关度评估维度详解
  153. 维度1: 动机维度评估(权重70%)
  154. 评估对象: <平台sug词条> 与 <原始问题> 的需求动机匹配度
  155. 说明: 核心动作是用户需求的第一优先级,决定了推荐的基本有效性
  156. 评分标准:
  157. 【正向匹配】
  158. +1.0: 核心动作完全一致
  159. - 例: 原始问题"如何获取素材" vs sug词"素材获取方法"
  160. - 特殊规则: 如果sug词的核心动作是原始问题动作的**具体化子集**,也判定为完全一致
  161. · 例: 原始问题"扣除猫咪主体的方法" vs sug词"扣除猫咪眼睛的方法"(子集但目的一致)
  162. +0.8~0.95: 核心动作语义相近或为同义表达
  163. - 例: 原始问题"如何获取素材" vs sug词"素材下载教程"
  164. - 同义词对: 获取≈下载≈寻找, 技巧≈方法≈教程≈攻略
  165. +0.5~0.75: 核心动作相关但非直接对应(相关实现路径)
  166. - 例: 原始问题"如何获取素材" vs sug词"素材管理整理"
  167. +0.2~0.45: 核心动作弱相关(同领域不同动作)
  168. - 例: 原始问题"如何拍摄风光" vs sug词"风光摄影欣赏"
  169. 【中性/无关】
  170. 0: 没有明确目的,动作意图无明确关联
  171. - 例: 原始问题"如何获取素材" vs sug词"摄影器材推荐"
  172. - 例: 原始问题无法识别动机 且 sug词也无明确动作 → 0
  173. 【负向偏离】
  174. -0.2~-0.05: 动作意图轻度冲突或误导
  175. - 例: 原始问题"如何获取素材" vs sug词"素材版权保护须知"
  176. -0.5~-0.25: 动作意图明显对立
  177. - 例: 原始问题"如何获取免费素材" vs sug词"如何售卖素材"
  178. -1.0~-0.55: 动作意图完全相反或产生严重负面引导
  179. - 例: 原始问题"免费素材获取" vs sug词"付费素材强制推销"
  180. 维度2: 品类维度评估(权重30%)
  181. 评估对象: <平台sug词条> 与 <原始问题> 的内容主体和限定词匹配度
  182. 评分标准:
  183. 【正向匹配】
  184. +1.0: 核心主体+所有关键限定词完全匹配
  185. - 例: 原始问题"川西秋季风光摄影素材" vs sug词"川西秋季风光摄影作品"
  186. +0.75~0.95: 核心主体匹配,大部分限定词匹配
  187. - 例: 原始问题"川西秋季风光摄影素材" vs sug词"川西风光摄影素材"(缺失"秋季")
  188. +0.5~0.7: 核心主体匹配,少量限定词匹配或合理泛化
  189. - 例: 原始问题"川西秋季风光摄影素材" vs sug词"四川风光摄影"
  190. +0.2~0.45: 仅主体词匹配,限定词全部缺失或错位
  191. - 例: 原始问题"川西秋季风光摄影素材" vs sug词"风光摄影入门"
  192. +0.05~0.15: 主题领域相关但品类不同
  193. - 例: 原始问题"风光摄影素材" vs sug词"人文摄影素材"
  194. 【中性/无关】
  195. 0: 主体词部分相关但类别明显不同
  196. - 例: 原始问题"川西秋季风光摄影素材" vs sug词"人像摄影素材"
  197. 【负向偏离】
  198. -0.2~-0.05: 主体词或限定词存在误导性
  199. - 例: 原始问题"免费摄影素材" vs sug词"付费摄影素材库"
  200. -0.5~-0.25: 主体词明显错位或品类冲突
  201. - 例: 原始问题"风光摄影素材" vs sug词"人像修图教程"
  202. -1.0~-0.55: 完全错误的品类或有害引导
  203. - 例: 原始问题"正版素材获取" vs sug词"盗版素材下载"
  204. 综合得分计算与规则调整
  205. 步骤1: 应用依存性规则
  206. 规则A: 动机高分保护机制
  207. 如果 动机维度得分 ≥ 0.8:
  208. → 品类得分即使为0或轻微负向(-0.2~0)
  209. → 最终得分 = max(初步得分, 0.55)
  210. 解释: 当目的高度一致时,品类的泛化不应导致"弱相关"
  211. 规则B: 动机低分限制机制
  212. 如果 动机维度得分 ≤ 0.2:
  213. → 无论品类得分多高
  214. → 最终得分 = min(初步得分, 0.4)
  215. 解释: 目的不符时,品类匹配的价值有限
  216. 规则C: 动机负向决定机制
  217. 如果 动机维度得分 < 0:
  218. → 最终得分 = min(初步得分, 0)
  219. 解释: 动作意图冲突时,推荐具有误导性,不应为正相关
  220. 步骤3: 输出最终得分
  221. #基础加权计算
  222. 应用规则后的调整得分 = 目的动机维度得分 × 0.7 + 品类维度得分 × 0.3
  223. 取值范围: -1.0 ~ +1.0
  224. ---
  225. # 得分档位解释
  226. 高度相关】+0.8 ~ +1.0
  227. 相关性高度契合,用户可直接使用
  228. 动机和品类均高度匹配
  229. 典型场景: 动机≥0.85 且 品类≥0.7
  230. 【中高相关】+0.6 ~ +0.79
  231. 相关性较好,用户基本满意
  232. 动机匹配但品类有泛化,或反之
  233. 典型场景: 动机≥0.8 且 品类≥0.3
  234. 【中度相关】+0.3 ~ +0.59
  235. 部分相关,用户需要调整搜索策略
  236. 动机或品类存在一定偏差
  237. 典型场景: 动机0.4-0.7 且 品类0.3-0.7
  238. 【弱相关】+0.01 ~ +0.29
  239. 关联微弱,参考价值有限
  240. 仅有表层词汇重叠
  241. 【无关】0
  242. 无明确关联
  243. 原始问题无法识别动机 且 sug词无明确动作
  244. 没有目的性且没有品类匹配
  245. 【轻度负向】-0.29 ~ -0.01
  246. 产生轻微误导或干扰
  247. 【中度负向】-0.69 ~ -0.3
  248. 存在明显冲突或误导
  249. 【严重负向】-1.0 ~ -0.7
  250. 完全违背意图或产生有害引导
  251. ---
  252. # 输出要求
  253. 输出结果必须为一个 **JSON 格式**,包含以下内容:
  254. #注意事项:
  255. 始终围绕两个核心维度:所有评估都基于"动机"和"品类"两个维度,不偏离
  256. 核心动机必须是动词:在评估前,必须先提取原始问题的核心动机(动词),这是整个评估的基础
  257. 严格标准一致性:对所有用例使用相同的评估标准,避免评分飘移
  258. 负分使用原则:仅当sug词条对原始问题产生误导、冲突或有害引导时给予负分
  259. 零分使用原则:当sug词条与原始问题无明确关联,既不相关也不冲突时给予零分
  260. 分维度独立评分:
  261. 先提取原始问题核心动机
  262. 分别计算动机维度(含两个子维度)和品类维度得分
  263. 按70:30加权得到初步得分
  264. 应用规则调整得到最终得分
  265. 动机优先原则:当动机高度一致时,品类的合理泛化或具体化不应导致低评分
  266. 技巧类需求特殊对待:包含"技巧/方法/教程"等词的需求,对动作一致性要求更严格
  267. ## 输出格式(严格遵守)
  268. 必须输出标准 JSON 格式,包含以下两个字段:
  269. ```json
  270. {
  271. "reason": "详细的评估理由说明",
  272. "relevance_score": 0.85
  273. }
  274. ```
  275. ### 字段说明
  276. - **reason** (string): 详细的评估理由,说明动机维度和品类维度的匹配情况
  277. - **relevance_score** (number): -1.0 到 1.0 之间的数值,保留2位小数
  278. ### 重要约束
  279. 1. **reason 字段内容规则**:
  280. - 禁止使用英文双引号 `"`,必须使用替代符号
  281. - 推荐使用中文书名号:《》或【】
  282. - 或使用中文引号:「」或『』
  283. - 示例:使用"核心动机是《制作攻略图》"而不是"核心动机是"制作攻略图""
  284. 2. **JSON 格式要求**:
  285. - 必须是合法的 JSON 格式
  286. - relevance_score 必须是数字类型,不能是字符串
  287. - 字段名必须用双引号包裹
  288. ### 输出示例
  289. ✅ **正确示例**:
  290. ```json
  291. {
  292. "reason": "原始问题的核心动机是《制作攻略图》,包含【拼接】图片等操作。sug词条【拼接】与原始问题中的具体操作完全一致,动机维度匹配度为中等。品类维度相关性较弱。",
  293. "relevance_score": 0.22
  294. }
  295. ```
  296. ❌ **错误示例**(会导致解析失败):
  297. ```json
  298. {
  299. "reason": "原始问题的核心动机是"制作攻略图",包含"拼接"图片",
  300. "relevance_score": "0.22"
  301. }
  302. ```
  303. 错误原因:reason 中使用了未转义的英文双引号,relevance_score 是字符串而非数字
  304. ## 关键要求(务必遵守)
  305. **无论reason多长,必须确保输出完整的JSON格式:**
  306. 1. reason字段必须有结束的双引号 `"`
  307. 2. 必须包含 `relevance_score` 字段
  308. 3. JSON必须有完整的闭合大括号 `}`
  309. 4. 不能中途截断输出
  310. **示例:即使reason很长也要完整输出**
  311. ```json
  312. {
  313. "reason": "这里可以写很长的详细推理过程,包括动机维度的详细分析、品类维度的详细分析、规则应用过程等等...",
  314. "relevance_score": 0.45
  315. }
  316. ```
  317. """.strip()
  318. relevance_evaluator = Agent[None](
  319. name="相关度评估专家",
  320. instructions=relevance_evaluation_instructions,
  321. model=get_model(MODEL_NAME),
  322. output_type=RelevanceEvaluation,
  323. )
  324. # Agent 3: 加词选择专家
  325. class WordCombination(BaseModel):
  326. """单个词组合"""
  327. selected_word: str = Field(..., description="选择的词")
  328. combined_query: str = Field(..., description="组合后的新query")
  329. reasoning: str = Field(..., description="选择理由")
  330. class WordSelectionTop5(BaseModel):
  331. """加词选择结果(Top 5)"""
  332. combinations: list[WordCombination] = Field(
  333. ...,
  334. description="选择的Top 5组合(不足5个则返回所有)",
  335. min_items=1,
  336. max_items=5
  337. )
  338. overall_reasoning: str = Field(..., description="整体选择思路")
  339. word_selection_instructions = """
  340. 你是加词组合专家。
  341. ## 任务
  342. 从候选词列表中选择5个最合适的词,分别与当前seed组合成新的query。如果候选词不足5个,则返回所有。
  343. ## 选择原则
  344. 1. **相关性**:选择与当前seed最相关的词
  345. 2. **语义通顺**:组合后的query要符合搜索习惯
  346. 3. **扩展范围**:优先选择能扩展搜索范围的词
  347. 4. **多样性**:5个词应该覆盖不同的方面(如:时间、地点、类型、用途等)
  348. ## 组合约束
  349. 1. **只能使用seed和word的原始文本**
  350. 2. **不能添加任何连接词**(如"的"、"和"、"与"、"在"等)
  351. 3. **不能添加任何额外的词**
  352. 4. **组合方式**:seed+word 或 word+seed,选择更符合搜索习惯的顺序
  353. 5. **简单拼接**:直接将两个词拼接,不做任何修饰
  354. ## 错误示例
  355. ✗ "川西" + "秋季" → "川西的秋季"(加了"的")
  356. ✗ "川西" + "秋季" → "川西秋季风光"(加了额外的"风光")
  357. ✗ "摄影" + "技巧" → "摄影拍摄技巧"(加了"拍摄")
  358. ## 输出要求
  359. - 最多返回5个组合(如果候选词不足5个,返回所有)
  360. - 每个组合包含:
  361. * selected_word: 选择的词(必须在候选词列表中)
  362. * combined_query: 组合后的新query(只包含seed和word的原始文本)
  363. * reasoning: 选择理由(说明为什么选这个词)
  364. - overall_reasoning: 整体选择思路(说明这5个词的选择逻辑)
  365. """.strip()
  366. word_selector = Agent[None](
  367. name="加词组合专家",
  368. instructions=word_selection_instructions,
  369. model=get_model(MODEL_NAME),
  370. output_type=WordSelectionTop5,
  371. )
  372. # ============================================================================
  373. # 辅助函数
  374. # ============================================================================
  375. def process_note_data(note: dict) -> Post:
  376. """处理搜索接口返回的帖子数据"""
  377. note_card = note.get("note_card", {})
  378. image_list = note_card.get("image_list", [])
  379. interact_info = note_card.get("interact_info", {})
  380. user_info = note_card.get("user", {})
  381. # 提取图片URL - 使用新的字段名 image_url
  382. images = []
  383. for img in image_list:
  384. if isinstance(img, dict):
  385. # 尝试新字段名 image_url,如果不存在则尝试旧字段名 url_default
  386. img_url = img.get("image_url") or img.get("url_default")
  387. if img_url:
  388. images.append(img_url)
  389. # 判断类型
  390. note_type = note_card.get("type", "normal")
  391. video_url = ""
  392. if note_type == "video":
  393. video_info = note_card.get("video", {})
  394. if isinstance(video_info, dict):
  395. # 尝试获取视频URL
  396. video_url = video_info.get("media", {}).get("stream", {}).get("h264", [{}])[0].get("master_url", "")
  397. return Post(
  398. note_id=note.get("id", ""),
  399. title=note_card.get("display_title", ""),
  400. body_text=note_card.get("desc", ""),
  401. type=note_type,
  402. images=images,
  403. video=video_url,
  404. interact_info={
  405. "liked_count": interact_info.get("liked_count", 0),
  406. "collected_count": interact_info.get("collected_count", 0),
  407. "comment_count": interact_info.get("comment_count", 0),
  408. "shared_count": interact_info.get("shared_count", 0)
  409. },
  410. note_url=f"https://www.xiaohongshu.com/explore/{note.get('id', '')}"
  411. )
  412. async def evaluate_with_o(text: str, o: str) -> tuple[float, str]:
  413. """评估文本与原始问题o的相关度
  414. Returns:
  415. tuple[float, str]: (相关度分数, 评估理由)
  416. """
  417. eval_input = f"""
  418. <原始问题>
  419. {o}
  420. </原始问题>
  421. <当前文本>
  422. {text}
  423. </当前文本>
  424. 请评估当前文本与原始问题的相关度。
  425. """
  426. result = await Runner.run(relevance_evaluator, eval_input)
  427. evaluation: RelevanceEvaluation = result.final_output
  428. return evaluation.relevance_score, evaluation.reason
  429. # ============================================================================
  430. # 核心流程函数
  431. # ============================================================================
  432. async def initialize(o: str, context: RunContext) -> tuple[list[Seg], list[Word], list[Q], list[Seed]]:
  433. """
  434. 初始化阶段
  435. Returns:
  436. (seg_list, word_list_1, q_list_1, seed_list)
  437. """
  438. print(f"\n{'='*60}")
  439. print(f"初始化阶段")
  440. print(f"{'='*60}")
  441. # 1. 分词:原始问题(o) ->分词-> seg_list
  442. print(f"\n[步骤1] 分词...")
  443. result = await Runner.run(word_segmenter, o)
  444. segmentation: WordSegmentation = result.final_output
  445. seg_list = []
  446. for word in segmentation.words:
  447. seg_list.append(Seg(text=word, from_o=o))
  448. print(f"分词结果: {[s.text for s in seg_list]}")
  449. print(f"分词理由: {segmentation.reasoning}")
  450. # 2. 分词评估:seg_list -> 每个seg与o进行评分(并发)
  451. print(f"\n[步骤2] 评估每个分词与原始问题的相关度...")
  452. async def evaluate_seg(seg: Seg) -> Seg:
  453. seg.score_with_o, seg.reason = await evaluate_with_o(seg.text, o)
  454. return seg
  455. if seg_list:
  456. eval_tasks = [evaluate_seg(seg) for seg in seg_list]
  457. await asyncio.gather(*eval_tasks)
  458. for seg in seg_list:
  459. print(f" {seg.text}: {seg.score_with_o:.2f}")
  460. # 3. 构建word_list_1: seg_list -> word_list_1(固定词库)
  461. print(f"\n[步骤3] 构建word_list_1(固定词库)...")
  462. word_list_1 = []
  463. for seg in seg_list:
  464. word_list_1.append(Word(
  465. text=seg.text,
  466. score_with_o=seg.score_with_o,
  467. from_o=o
  468. ))
  469. print(f"word_list_1(固定): {[w.text for w in word_list_1]}")
  470. # 4. 构建q_list_1:seg_list 作为 q_list_1
  471. print(f"\n[步骤4] 构建q_list_1...")
  472. q_list_1 = []
  473. for seg in seg_list:
  474. q_list_1.append(Q(
  475. text=seg.text,
  476. score_with_o=seg.score_with_o,
  477. reason=seg.reason,
  478. from_source="seg"
  479. ))
  480. print(f"q_list_1: {[q.text for q in q_list_1]}")
  481. # 5. 构建seed_list: seg_list -> seed_list
  482. print(f"\n[步骤5] 构建seed_list...")
  483. seed_list = []
  484. for seg in seg_list:
  485. seed_list.append(Seed(
  486. text=seg.text,
  487. added_words=[],
  488. from_type="seg",
  489. score_with_o=seg.score_with_o
  490. ))
  491. print(f"seed_list: {[s.text for s in seed_list]}")
  492. return seg_list, word_list_1, q_list_1, seed_list
  493. async def run_round(
  494. round_num: int,
  495. q_list: list[Q],
  496. word_list_1: list[Word],
  497. seed_list: list[Seed],
  498. o: str,
  499. context: RunContext,
  500. xiaohongshu_api: XiaohongshuSearchRecommendations,
  501. xiaohongshu_search: XiaohongshuSearch,
  502. sug_threshold: float = 0.7
  503. ) -> tuple[list[Q], list[Seed], list[Search]]:
  504. """
  505. 运行一轮
  506. Args:
  507. round_num: 轮次编号
  508. q_list: 当前轮的q列表
  509. word_list_1: 固定的词库(第0轮分词结果)
  510. seed_list: 当前的seed列表
  511. o: 原始问题
  512. context: 运行上下文
  513. xiaohongshu_api: 建议词API
  514. xiaohongshu_search: 搜索API
  515. sug_threshold: suggestion的阈值
  516. Returns:
  517. (q_list_next, seed_list_next, search_list)
  518. """
  519. print(f"\n{'='*60}")
  520. print(f"第{round_num}轮")
  521. print(f"{'='*60}")
  522. round_data = {
  523. "round_num": round_num,
  524. "input_q_list": [{"text": q.text, "score": q.score_with_o} for q in q_list],
  525. "input_word_list_1_size": len(word_list_1),
  526. "input_seed_list_size": len(seed_list)
  527. }
  528. # 1. 请求sug:q_list -> 每个q请求sug接口 -> sug_list_list
  529. print(f"\n[步骤1] 为每个q请求建议词...")
  530. sug_list_list = [] # list of list
  531. for q in q_list:
  532. print(f"\n 处理q: {q.text}")
  533. suggestions = xiaohongshu_api.get_recommendations(keyword=q.text)
  534. q_sug_list = []
  535. if suggestions:
  536. print(f" 获取到 {len(suggestions)} 个建议词")
  537. for sug_text in suggestions:
  538. sug = Sug(
  539. text=sug_text,
  540. from_q=QFromQ(text=q.text, score_with_o=q.score_with_o)
  541. )
  542. q_sug_list.append(sug)
  543. else:
  544. print(f" 未获取到建议词")
  545. sug_list_list.append(q_sug_list)
  546. # 2. sug评估:sug_list_list -> 每个sug与o进行评分(并发)
  547. print(f"\n[步骤2] 评估每个建议词与原始问题的相关度...")
  548. # 2.1 收集所有需要评估的sug,并记录它们所属的q
  549. all_sugs = []
  550. sug_to_q_map = {} # 记录每个sug属于哪个q
  551. for i, q_sug_list in enumerate(sug_list_list):
  552. if q_sug_list:
  553. q_text = q_list[i].text
  554. for sug in q_sug_list:
  555. all_sugs.append(sug)
  556. sug_to_q_map[id(sug)] = q_text
  557. # 2.2 并发评估所有sug
  558. async def evaluate_sug(sug: Sug) -> Sug:
  559. sug.score_with_o, sug.reason = await evaluate_with_o(sug.text, o)
  560. return sug
  561. if all_sugs:
  562. eval_tasks = [evaluate_sug(sug) for sug in all_sugs]
  563. await asyncio.gather(*eval_tasks)
  564. # 2.3 打印结果并组织到sug_details
  565. sug_details = {} # 保存每个Q对应的sug列表
  566. for i, q_sug_list in enumerate(sug_list_list):
  567. if q_sug_list:
  568. q_text = q_list[i].text
  569. print(f"\n 来自q '{q_text}' 的建议词:")
  570. sug_details[q_text] = []
  571. for sug in q_sug_list:
  572. print(f" {sug.text}: {sug.score_with_o:.2f}")
  573. # 保存到sug_details
  574. sug_details[q_text].append({
  575. "text": sug.text,
  576. "score": sug.score_with_o,
  577. "reason": sug.reason
  578. })
  579. # 3. search_list构建
  580. print(f"\n[步骤3] 构建search_list(阈值>{sug_threshold})...")
  581. search_list = []
  582. high_score_sugs = [sug for sug in all_sugs if sug.score_with_o > sug_threshold]
  583. if high_score_sugs:
  584. print(f" 找到 {len(high_score_sugs)} 个高分建议词")
  585. # 并发搜索
  586. async def search_for_sug(sug: Sug) -> Search:
  587. print(f" 搜索: {sug.text}")
  588. try:
  589. search_result = xiaohongshu_search.search(keyword=sug.text)
  590. result_str = search_result.get("result", "{}")
  591. if isinstance(result_str, str):
  592. result_data = json.loads(result_str)
  593. else:
  594. result_data = result_str
  595. notes = result_data.get("data", {}).get("data", [])
  596. post_list = []
  597. for note in notes[:10]: # 只取前10个
  598. post = process_note_data(note)
  599. post_list.append(post)
  600. print(f" → 找到 {len(post_list)} 个帖子")
  601. return Search(
  602. text=sug.text,
  603. score_with_o=sug.score_with_o,
  604. from_q=sug.from_q,
  605. post_list=post_list
  606. )
  607. except Exception as e:
  608. print(f" ✗ 搜索失败: {e}")
  609. return Search(
  610. text=sug.text,
  611. score_with_o=sug.score_with_o,
  612. from_q=sug.from_q,
  613. post_list=[]
  614. )
  615. search_tasks = [search_for_sug(sug) for sug in high_score_sugs]
  616. search_list = await asyncio.gather(*search_tasks)
  617. else:
  618. print(f" 没有高分建议词,search_list为空")
  619. # 4. 构建q_list_next
  620. print(f"\n[步骤4] 构建q_list_next...")
  621. q_list_next = []
  622. add_word_details = {} # 保存每个seed对应的组合词列表
  623. all_seed_combinations = [] # 保存本轮所有seed的组合词(用于后续构建seed_list_next)
  624. # 4.1 对于seed_list中的每个seed,从word_list_1中选词组合,产生Top 5
  625. print(f"\n 4.1 为每个seed加词(产生Top 5组合)...")
  626. for seed in seed_list:
  627. print(f"\n 处理seed: {seed.text}")
  628. # 从固定词库word_list_1筛选候选词
  629. candidate_words = []
  630. for word in word_list_1:
  631. # 检查词是否已在seed中
  632. if word.text in seed.text:
  633. continue
  634. # 检查词是否已被添加过
  635. if word.text in seed.added_words:
  636. continue
  637. candidate_words.append(word)
  638. if not candidate_words:
  639. print(f" 没有可用的候选词")
  640. continue
  641. print(f" 候选词数量: {len(candidate_words)}")
  642. # 调用Agent一次性选择并组合Top 5
  643. candidate_words_text = ', '.join([w.text for w in candidate_words])
  644. selection_input = f"""
  645. <原始问题>
  646. {o}
  647. </原始问题>
  648. <当前Seed>
  649. {seed.text}
  650. </当前Seed>
  651. <候选词列表>
  652. {candidate_words_text}
  653. </候选词列表>
  654. 请从候选词列表中选择最多5个最合适的词,分别与当前seed组合成新的query。
  655. """
  656. result = await Runner.run(word_selector, selection_input)
  657. selection_result: WordSelectionTop5 = result.final_output
  658. print(f" Agent选择了 {len(selection_result.combinations)} 个组合")
  659. print(f" 整体选择思路: {selection_result.overall_reasoning}")
  660. # 并发评估所有组合的相关度
  661. async def evaluate_combination(comb: WordCombination) -> dict:
  662. score, reason = await evaluate_with_o(comb.combined_query, o)
  663. return {
  664. 'word': comb.selected_word,
  665. 'query': comb.combined_query,
  666. 'score': score,
  667. 'reason': reason,
  668. 'reasoning': comb.reasoning
  669. }
  670. eval_tasks = [evaluate_combination(comb) for comb in selection_result.combinations]
  671. top_5 = await asyncio.gather(*eval_tasks)
  672. print(f" 评估完成,得到 {len(top_5)} 个组合")
  673. # 将Top 5全部加入q_list_next
  674. for comb in top_5:
  675. print(f" ✓ {comb['query']} (分数: {comb['score']:.2f})")
  676. new_q = Q(
  677. text=comb['query'],
  678. score_with_o=comb['score'],
  679. reason=comb['reason'],
  680. from_source="add"
  681. )
  682. q_list_next.append(new_q)
  683. # 记录已添加的词
  684. seed.added_words.append(comb['word'])
  685. # 保存到add_word_details
  686. add_word_details[seed.text] = [
  687. {
  688. "text": comb['query'],
  689. "score": comb['score'],
  690. "reason": comb['reason'],
  691. "selected_word": comb['word']
  692. }
  693. for comb in top_5
  694. ]
  695. # 保存到all_seed_combinations(用于构建seed_list_next)
  696. all_seed_combinations.extend(top_5)
  697. # 4.2 对于sug_list_list中,每个sug大于来自的query分数,加到q_list_next
  698. print(f"\n 4.2 将高分sug加入q_list_next...")
  699. for sug in all_sugs:
  700. if sug.from_q and sug.score_with_o > sug.from_q.score_with_o:
  701. new_q = Q(
  702. text=sug.text,
  703. score_with_o=sug.score_with_o,
  704. reason=sug.reason,
  705. from_source="sug"
  706. )
  707. q_list_next.append(new_q)
  708. print(f" ✓ {sug.text} (分数: {sug.score_with_o:.2f} > {sug.from_q.score_with_o:.2f})")
  709. # 5. 构建seed_list_next(关键修改:不保留上一轮的seed)
  710. print(f"\n[步骤5] 构建seed_list_next(不保留上轮seed)...")
  711. seed_list_next = []
  712. existing_seed_texts = set()
  713. # 5.1 加入本轮所有组合词
  714. print(f" 5.1 加入本轮所有组合词...")
  715. for comb in all_seed_combinations:
  716. if comb['query'] not in existing_seed_texts:
  717. new_seed = Seed(
  718. text=comb['query'],
  719. added_words=[], # 新seed的added_words清空
  720. from_type="add",
  721. score_with_o=comb['score']
  722. )
  723. seed_list_next.append(new_seed)
  724. existing_seed_texts.add(comb['query'])
  725. print(f" ✓ {comb['query']} (分数: {comb['score']:.2f})")
  726. # 5.2 加入高分sug
  727. print(f" 5.2 加入高分sug...")
  728. for sug in all_sugs:
  729. # sug分数 > 对应query分数
  730. if sug.from_q and sug.score_with_o > sug.from_q.score_with_o and sug.text not in existing_seed_texts:
  731. new_seed = Seed(
  732. text=sug.text,
  733. added_words=[],
  734. from_type="sug",
  735. score_with_o=sug.score_with_o
  736. )
  737. seed_list_next.append(new_seed)
  738. existing_seed_texts.add(sug.text)
  739. print(f" ✓ {sug.text} (分数: {sug.score_with_o:.2f} > 来源query: {sug.from_q.score_with_o:.2f})")
  740. # 序列化搜索结果数据(包含帖子详情)
  741. search_results_data = []
  742. for search in search_list:
  743. search_results_data.append({
  744. "text": search.text,
  745. "score_with_o": search.score_with_o,
  746. "post_list": [
  747. {
  748. "note_id": post.note_id,
  749. "note_url": post.note_url,
  750. "title": post.title,
  751. "body_text": post.body_text,
  752. "images": post.images,
  753. "interact_info": post.interact_info
  754. }
  755. for post in search.post_list
  756. ]
  757. })
  758. # 记录本轮数据
  759. round_data.update({
  760. "sug_count": len(all_sugs),
  761. "high_score_sug_count": len(high_score_sugs),
  762. "search_count": len(search_list),
  763. "total_posts": sum(len(s.post_list) for s in search_list),
  764. "q_list_next_size": len(q_list_next),
  765. "seed_list_next_size": len(seed_list_next),
  766. "total_combinations": len(all_seed_combinations),
  767. "output_q_list": [{"text": q.text, "score": q.score_with_o, "reason": q.reason, "from": q.from_source} for q in q_list_next],
  768. "seed_list_next": [{"text": seed.text, "from": seed.from_type, "score": seed.score_with_o} for seed in seed_list_next],
  769. "sug_details": sug_details,
  770. "add_word_details": add_word_details,
  771. "search_results": search_results_data
  772. })
  773. context.rounds.append(round_data)
  774. print(f"\n本轮总结:")
  775. print(f" 建议词数量: {len(all_sugs)}")
  776. print(f" 高分建议词: {len(high_score_sugs)}")
  777. print(f" 搜索数量: {len(search_list)}")
  778. print(f" 帖子总数: {sum(len(s.post_list) for s in search_list)}")
  779. print(f" 组合词数量: {len(all_seed_combinations)}")
  780. print(f" 下轮q数量: {len(q_list_next)}")
  781. print(f" 下轮seed数量: {len(seed_list_next)}")
  782. return q_list_next, seed_list_next, search_list
  783. async def iterative_loop(
  784. context: RunContext,
  785. max_rounds: int = 2,
  786. sug_threshold: float = 0.7
  787. ):
  788. """主迭代循环"""
  789. print(f"\n{'='*60}")
  790. print(f"开始迭代循环")
  791. print(f"最大轮数: {max_rounds}")
  792. print(f"sug阈值: {sug_threshold}")
  793. print(f"{'='*60}")
  794. # 初始化
  795. seg_list, word_list_1, q_list, seed_list = await initialize(context.o, context)
  796. # API实例
  797. xiaohongshu_api = XiaohongshuSearchRecommendations()
  798. xiaohongshu_search = XiaohongshuSearch()
  799. # 保存初始化数据
  800. context.rounds.append({
  801. "round_num": 0,
  802. "type": "initialization",
  803. "seg_list": [{"text": s.text, "score": s.score_with_o, "reason": s.reason} for s in seg_list],
  804. "word_list_1": [{"text": w.text, "score": w.score_with_o} for w in word_list_1],
  805. "q_list_1": [{"text": q.text, "score": q.score_with_o, "reason": q.reason} for q in q_list],
  806. "seed_list": [{"text": s.text, "from_type": s.from_type, "score": s.score_with_o} for s in seed_list]
  807. })
  808. # 收集所有搜索结果
  809. all_search_list = []
  810. # 迭代
  811. round_num = 1
  812. while q_list and round_num <= max_rounds:
  813. q_list, seed_list, search_list = await run_round(
  814. round_num=round_num,
  815. q_list=q_list,
  816. word_list_1=word_list_1, # 传递固定词库
  817. seed_list=seed_list,
  818. o=context.o,
  819. context=context,
  820. xiaohongshu_api=xiaohongshu_api,
  821. xiaohongshu_search=xiaohongshu_search,
  822. sug_threshold=sug_threshold
  823. )
  824. all_search_list.extend(search_list)
  825. round_num += 1
  826. print(f"\n{'='*60}")
  827. print(f"迭代完成")
  828. print(f" 总轮数: {round_num - 1}")
  829. print(f" 总搜索次数: {len(all_search_list)}")
  830. print(f" 总帖子数: {sum(len(s.post_list) for s in all_search_list)}")
  831. print(f"{'='*60}")
  832. return all_search_list
  833. # ============================================================================
  834. # 主函数
  835. # ============================================================================
  836. async def main(input_dir: str, max_rounds: int = 2, sug_threshold: float = 0.7, visualize: bool = False):
  837. """主函数"""
  838. current_time, log_url = set_trace()
  839. # 读取输入
  840. input_context_file = os.path.join(input_dir, 'context.md')
  841. input_q_file = os.path.join(input_dir, 'q.md')
  842. c = read_file_as_string(input_context_file) # 原始需求
  843. o = read_file_as_string(input_q_file) # 原始问题
  844. # 版本信息
  845. version = os.path.basename(__file__)
  846. version_name = os.path.splitext(version)[0]
  847. # 日志目录
  848. log_dir = os.path.join(input_dir, "output", version_name, current_time)
  849. # 创建运行上下文
  850. run_context = RunContext(
  851. version=version,
  852. input_files={
  853. "input_dir": input_dir,
  854. "context_file": input_context_file,
  855. "q_file": input_q_file,
  856. },
  857. c=c,
  858. o=o,
  859. log_dir=log_dir,
  860. log_url=log_url,
  861. )
  862. # 执行迭代
  863. all_search_list = await iterative_loop(
  864. run_context,
  865. max_rounds=max_rounds,
  866. sug_threshold=sug_threshold
  867. )
  868. # 格式化输出
  869. output = f"原始需求:{run_context.c}\n"
  870. output += f"原始问题:{run_context.o}\n"
  871. output += f"总搜索次数:{len(all_search_list)}\n"
  872. output += f"总帖子数:{sum(len(s.post_list) for s in all_search_list)}\n"
  873. output += "\n" + "="*60 + "\n"
  874. if all_search_list:
  875. output += "【搜索结果】\n\n"
  876. for idx, search in enumerate(all_search_list, 1):
  877. output += f"{idx}. 搜索词: {search.text} (分数: {search.score_with_o:.2f})\n"
  878. output += f" 帖子数: {len(search.post_list)}\n"
  879. if search.post_list:
  880. for post_idx, post in enumerate(search.post_list[:3], 1): # 只显示前3个
  881. output += f" {post_idx}) {post.title}\n"
  882. output += f" URL: {post.note_url}\n"
  883. output += "\n"
  884. else:
  885. output += "未找到搜索结果\n"
  886. run_context.final_output = output
  887. print(f"\n{'='*60}")
  888. print("最终结果")
  889. print(f"{'='*60}")
  890. print(output)
  891. # 保存日志
  892. os.makedirs(run_context.log_dir, exist_ok=True)
  893. context_file_path = os.path.join(run_context.log_dir, "run_context.json")
  894. context_dict = run_context.model_dump()
  895. with open(context_file_path, "w", encoding="utf-8") as f:
  896. json.dump(context_dict, f, ensure_ascii=False, indent=2)
  897. print(f"\nRunContext saved to: {context_file_path}")
  898. # 保存详细的搜索结果
  899. search_results_path = os.path.join(run_context.log_dir, "search_results.json")
  900. search_results_data = [s.model_dump() for s in all_search_list]
  901. with open(search_results_path, "w", encoding="utf-8") as f:
  902. json.dump(search_results_data, f, ensure_ascii=False, indent=2)
  903. print(f"Search results saved to: {search_results_path}")
  904. # 可视化
  905. if visualize:
  906. import subprocess
  907. output_html = os.path.join(run_context.log_dir, "visualization.html")
  908. print(f"\n🎨 生成可视化HTML...")
  909. # 获取绝对路径
  910. abs_context_file = os.path.abspath(context_file_path)
  911. abs_output_html = os.path.abspath(output_html)
  912. # 运行可视化脚本
  913. result = subprocess.run([
  914. "node",
  915. "visualization/sug_v6_1_2_8/index.js",
  916. abs_context_file,
  917. abs_output_html
  918. ])
  919. if result.returncode == 0:
  920. print(f"✅ 可视化已生成: {output_html}")
  921. else:
  922. print(f"❌ 可视化生成失败")
  923. if __name__ == "__main__":
  924. parser = argparse.ArgumentParser(description="搜索query优化工具 - v6.1.2.115 广度遍历版")
  925. parser.add_argument(
  926. "--input-dir",
  927. type=str,
  928. default="input/旅游-逸趣玩旅行/如何获取能体现川西秋季特色的高质量风光摄影素材?",
  929. help="输入目录路径,默认: input/旅游-逸趣玩旅行/如何获取能体现川西秋季特色的高质量风光摄影素材?"
  930. )
  931. parser.add_argument(
  932. "--max-rounds",
  933. type=int,
  934. default=4,
  935. help="最大轮数,默认: 4"
  936. )
  937. parser.add_argument(
  938. "--sug-threshold",
  939. type=float,
  940. default=0.7,
  941. help="suggestion阈值,默认: 0.7"
  942. )
  943. parser.add_argument(
  944. "--visualize",
  945. action="store_true",
  946. default=True,
  947. help="运行完成后自动生成可视化HTML"
  948. )
  949. args = parser.parse_args()
  950. asyncio.run(main(args.input_dir, max_rounds=args.max_rounds, sug_threshold=args.sug_threshold, visualize=args.visualize))