title_rewrite_task.py 12 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270
  1. """
  2. @author: luojunhui
  3. """
  4. import time
  5. import traceback
  6. from pymysql.cursors import DictCursor
  7. from tqdm import tqdm
  8. from applications import log
  9. from applications.api import fetch_deepseek_response
  10. from applications.const import TitleRewriteTaskConst
  11. from applications.db import DatabaseConnector
  12. from config import long_articles_config
  13. const = TitleRewriteTaskConst()
  14. def generate_prompt(ori_title):
  15. """
  16. 生成prompt
  17. """
  18. prompt = f"""
  19. 请将以下标题改写成适合公众号中小程序点击和传播的文章标题,文章标题的写作规范如下,请学习后进行文章标题的编写。直接输出最终的文章标题,文章标题撰写规范如下:
  20. 1. 标题结构:要点前置,信息明确
  21. 核心信息前置:标题开头直接点出文章的核心内容或亮点,吸引读者注意。例如:
  22. “我国存款最安全的五大银行,永远都不会倒闭,你知道是哪五家吗?”
  23. “亩产7000斤,被误认成萝卜却曾是‘救命粮’,如今成我国出口名蔬”。
  24. 简洁明了:标题通常在20字以内,信息集中且易于理解。
  25. 悬念前置结构:前半句设置反常/冲突场景(如"刑满释放蹬三轮")+后半句用结果反转制造悬念("政府领导登门分配工作")
  26. 多要素拼接:通过冒号/逗号分隔不同叙事主体(地域+人物冲突+权威评价),如"辽宁女子住高档小区被敲门,法院判决意外"
  27. 2. 情绪表达:激发共鸣,引发好奇
  28. 情感共鸣:通过情感化的语言触动读者,泪崩/守护/抱头痛哭等情感冲击词,配合家庭伦理场景
  29. 例如:
  30. “老母亲分家产,给亲闺女30万,给养女一筐青菜,养女意外摔倒,看到筐子里的东西,瞬间愣住了”。
  31. “儿子卖车卖房给母亲治病,母亲去世后儿媳收拾房间,打开床底柜,儿子突然痛哭”。
  32. 悬念与好奇心:通过提问或制造悬念,激发读者点击欲望。例如:
  33. “你知道是哪五家吗?”
  34. “打开床底柜,儿子突然痛哭”。
  35. 冲突性情绪词:拍桌大骂/气愤不已/眼红不已/算计等强对抗性词汇
  36. 结果反差刺激:用"风光善终/价值过亿/判决意外"等违反预期的结果
  37. 3. 语言风格:口语化、接地气
  38. 口语化表达:使用通俗易懂的语言,贴近读者生活。
  39. 刻意使用"赶都赶不走/各吃各的/我就知道你在家"等市井化用语。
  40. 例如:
  41. “狗屎运?江西男子钓鱼时发现青鱼尸骸,扒开后捡到鸡蛋大小的青鱼石”。
  42. “聪明的女人,不会帮婆家3种忙,而蠢女人才一再插手”。
  43. 接地气的词汇:使用“狗屎运”“蠢女人”等口语化词汇,增强亲切感。
  44. 身份反差构建:突出人物命运转折(老农→亿万富翁/囚犯→政府帮扶对象)
  45. 权威背书暗示:"专家气愤/法院判决/网友评价"等第三方视角增强可信度
  46. 4. 标点运用:增强语气,突出重点
  47. 问号与感叹号:通过问号制造悬念,感叹号强化情感。
  48. 在关键转折点使用("太气人了!/赔不了!")
  49. 问号制造互动:如"容嬷嬷是校花?"激发读者验证心理
  50. 例如:
  51. “你知道是哪五家吗?”
  52. “太无耻了!湖南,一名厨师被公司派到云南‘出差’被拒……”
  53. 引号与冒号:用于突出关键词或转折点。
  54. 破折号递进:用"——"引导关键信息("吃不完最好扔掉——")
  55. 例如:
  56. “被误认成萝卜却曾是‘救命粮’”。
  57. “女子归还后,失主拒绝支付报酬,还说:要有格局”。
  58. 5. 热点与话题性:结合社会热点或争议
  59. 社会热点:结合当前热点事件或争议话题,吸引关注。例如:
  60. “上海:男子超市连续购买46枚过期咸鸭蛋,2天分46次交易,向厂家索赔金14万,法院判了!”
  61. 争议性话题:通过争议性内容引发讨论。例如:
  62. “李玉成终于说出实话,公开吐槽马玉琴年纪太大,结婚28年疑似后悔”。
  63. 6. 数字与具体细节:增强可信度与吸引力
  64. 数字的运用:通过具体数字增强标题的可信度和吸引力。例如:
  65. “亩产7000斤”。
  66. “22年河南男子跳河救人,体力耗尽留遗言”。
  67. 细节描述:通过细节让标题更具画面感。例如:
  68. “打开床底柜,儿子突然痛哭”。
  69. “扒开后捡到鸡蛋大小的青鱼石”。
  70. 7. 价值诉求:传递实用信息或情感价值
  71. 实用信息:提供对读者有价值的信息。例如:
  72. “我国存款最安全的五大银行,永远都不会倒闭”。
  73. “72岁老人每天一个蒸苹果,半年后体检,看到指标变化让他乐开了花”。
  74. 情感价值:通过情感故事或人生哲理打动读者。例如:
  75. “父母越老越能暴露家庭最真实的一面:当父母70岁,子女不该抱有这三种期待”。
  76. 8. 名人效应与历史情怀:增强吸引力
  77. 名人效应:提及名人或历史事件,吸引关注。例如:
  78. “难怪王扶林说陈晓旭不够漂亮,看看他选的原黛玉候选人,那才叫美”。
  79. “1975年‘下馆子’的老照片,2元能吃些什么,勾起那段最难忘的时光”。
  80. 9.隐藏传播逻辑:通过标题中暗含的、能触发人性弱点(如猎奇、贪婪、同情)或社会痛点的心理机制,通过潜意识刺激读者点击欲望
  81. 人性弱点触发:贪婪(200万保单)、猎奇(林彪密件)、窥私(家庭算计)
  82. 生存焦虑关联:医疗(脑瘫儿)、养老(子女不孝)、食品安全(二次加热)
  83. 身份代入设计:选择"老太太/外甥女/退休母亲"等易引发群体共鸣的角色
  84. 输入的标题是: '{ori_title}'
  85. """
  86. return prompt
  87. class TitleRewriteTask:
  88. """
  89. 标题重写任务
  90. """
  91. def __init__(self):
  92. self.db = DatabaseConnector(db_config=long_articles_config)
  93. self.db.connect()
  94. def roll_back_blocked_tasks(self):
  95. """
  96. rollback blocked tasks
  97. """
  98. sql = f"""
  99. select id, title_rewrite_status_update_timestamp
  100. from publish_single_video_source
  101. where title_rewrite_status = {const.TITLE_REWRITE_LOCK_STATUS};
  102. """
  103. article_list = self.db.fetch(query=sql, cursor_type=DictCursor)
  104. if article_list:
  105. blocked_id_list = [
  106. i["id"]
  107. for i in article_list
  108. if (
  109. int(time.time())
  110. - i["title_rewrite_status_update_timestamp"]
  111. )
  112. > const.TITLE_REWRITE_LOCK_TIME
  113. ]
  114. if blocked_id_list:
  115. update_sql = f"""
  116. update publish_single_video_source
  117. set title_rewrite_status = %s
  118. where id in %s and title_rewrite_status = %s;
  119. """
  120. self.db.save(
  121. query=update_sql,
  122. params=(
  123. const.TITLE_REWRITE_INIT_STATUS,
  124. tuple(blocked_id_list),
  125. const.TITLE_REWRITE_LOCK_STATUS,
  126. )
  127. )
  128. def get_articles_batch(self, batch_size=1000):
  129. """
  130. 从数据库中获取文章
  131. """
  132. sql = f"""
  133. select content_trace_id, article_title
  134. from publish_single_video_source
  135. where bad_status = {const.ARTICLE_POSITIVE_STATUS}
  136. and audit_status = {const.ARTICLE_AUDIT_PASSED_STATUS}
  137. and title_rewrite_status = {const.TITLE_REWRITE_INIT_STATUS}
  138. and platform in ('hksp', 'sph')
  139. limit {batch_size};
  140. """
  141. res = self.db.fetch(query=sql, cursor_type=DictCursor)
  142. return res
  143. def update_title_rewrite_status(self, content_trace_id, ori_status, new_status):
  144. """
  145. 更新标题重写状态
  146. """
  147. sql = f"""
  148. update publish_single_video_source
  149. set title_rewrite_status = %s, title_rewrite_status_update_timestamp = %s
  150. where content_trace_id = %s and title_rewrite_status= %s;
  151. """
  152. affected_rows = self.db.save(
  153. query=sql, params=(new_status, int(time.time()), content_trace_id, ori_status)
  154. )
  155. return affected_rows
  156. def insert_into_rewrite_table(self, content_trace_id, new_title):
  157. """
  158. insert into rewrite_table
  159. """
  160. insert_sql = f"""
  161. insert into video_title_rewrite
  162. (content_trace_id, new_title, status, prompt_version)
  163. values (%s, %s, %s, %s);
  164. """
  165. self.db.save(
  166. query=insert_sql,
  167. params=(
  168. content_trace_id,
  169. new_title,
  170. const.TITLE_USEFUL_STATUS,
  171. const.PROMPT_VERSION
  172. ),
  173. )
  174. def rewrite_each_article(self, article):
  175. """
  176. rewrite each article
  177. """
  178. content_trace_id = article["content_trace_id"]
  179. article_title = article["article_title"]
  180. # lock each task
  181. affected_rows = self.update_title_rewrite_status(
  182. content_trace_id=content_trace_id,
  183. ori_status=const.TITLE_REWRITE_INIT_STATUS,
  184. new_status=const.TITLE_REWRITE_LOCK_STATUS,
  185. )
  186. if not affected_rows:
  187. return
  188. try:
  189. prompt = generate_prompt(article_title)
  190. new_title = fetch_deepseek_response(model="default", prompt=prompt)
  191. # insert into rewrite table
  192. self.insert_into_rewrite_table(
  193. content_trace_id=content_trace_id, new_title=new_title
  194. )
  195. # unlock
  196. self.update_title_rewrite_status(
  197. content_trace_id=content_trace_id,
  198. ori_status=const.TITLE_REWRITE_LOCK_STATUS,
  199. new_status=const.TITLE_REWRITE_SUCCESS_STATUS,
  200. )
  201. except Exception as e:
  202. log(
  203. task="title rewrite task",
  204. function="rewrite_each_article",
  205. message=content_trace_id,
  206. status="fail",
  207. data={
  208. "error_message": str(e),
  209. "error_type": type(e).__name__,
  210. "traceback": traceback.format_exc(),
  211. },
  212. )
  213. self.update_title_rewrite_status(
  214. content_trace_id=content_trace_id,
  215. ori_status=const.TITLE_REWRITE_LOCK_STATUS,
  216. new_status=const.TITLE_REWRITE_FAIL_STATUS,
  217. )
  218. def deal(self):
  219. """
  220. get tasks && deal tasks
  221. """
  222. # rollback blocked tasks
  223. try:
  224. self.roll_back_blocked_tasks()
  225. except Exception as e:
  226. log(
  227. task="title rewrite task",
  228. function="roll_back_blocked_tasks",
  229. message="roll back blocked tasks fail",
  230. status="fail",
  231. data={
  232. "error_message": str(e),
  233. "error_type": type(e).__name__,
  234. "traceback": traceback.format_exc()
  235. }
  236. )
  237. # process tasks
  238. articles = self.get_articles_batch()
  239. bar = tqdm(articles, desc="title rewrite task")
  240. for article in bar:
  241. self.rewrite_each_article(article)
  242. bar.set_postfix({"content_trace_id": article["content_trace_id"]})