run_xigua_search.py 1.6 KB

123456789101112131415161718192021222324252627282930313233343536373839404142
  1. # -*- coding: utf-8 -*-
  2. # @Author: lierqiang
  3. # @Time: 2023/3/13
  4. import argparse
  5. import os
  6. import sys
  7. import time
  8. sys.path.append(os.getcwd())
  9. from common.common import Common
  10. from xigua.xigua_search.xigua_search import XiguaSearch
  11. from common.feishu import Feishu
  12. def main(log_type, crawler, strategy, oss_endpoint, env, machine):
  13. try:
  14. Common.logger(log_type, crawler).info('开始抓取 西瓜视频 搜索\n')
  15. XiguaSearch.get_search_videos(log_type, crawler, strategy, oss_endpoint, env, machine)
  16. Common.del_logs(log_type, crawler)
  17. Common.logger(log_type, crawler).info('抓取完一轮,休眠 1 分钟\n')
  18. except Exception as e:
  19. Common.logger(log_type, crawler).info(f"西瓜视频异常,触发报警:{e}\n")
  20. Feishu.bot(log_type, crawler, f"{e}")
  21. if __name__ == "__main__":
  22. parser = argparse.ArgumentParser() ## 新建参数解释器对象
  23. parser.add_argument('--log_type', type=str) ## 添加参数,注明参数类型
  24. parser.add_argument('--crawler') ## 添加参数
  25. parser.add_argument('--strategy') ## 添加参数
  26. parser.add_argument('--our_uid') ## 添加参数
  27. parser.add_argument('--oss_endpoint') ## 添加参数
  28. parser.add_argument('--env') ## 添加参数
  29. parser.add_argument('--machine') ## 添加参数
  30. args = parser.parse_args() ### 参数赋值,也可以通过终端赋值
  31. # print(args)
  32. main(log_type=args.log_type,
  33. crawler=args.crawler,
  34. strategy=args.strategy,
  35. oss_endpoint=args.oss_endpoint,
  36. env=args.env,
  37. machine=args.machine)