run_kuaishou_follow.py 1.9 KB

12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849
  1. # -*- coding: utf-8 -*-
  2. # @Author: wangkun
  3. # @Time: 2023/2/27
  4. import argparse
  5. import os
  6. import sys
  7. # import time
  8. sys.path.append(os.getcwd())
  9. from common.common import Common
  10. # from common.feishu import Feishu
  11. from kuaishou.kuaishou_follow.kuaishou_follow import Follow
  12. def main(log_type, crawler, strategy, oss_endpoint, env, machine):
  13. while True:
  14. try:
  15. Common.logger(log_type, crawler).info('开始抓取 快手 定向榜\n')
  16. Follow.get_follow_videos(log_type=log_type,
  17. crawler=crawler,
  18. strategy=strategy,
  19. oss_endpoint=oss_endpoint,
  20. env=env,
  21. machine=machine)
  22. Common.del_logs(log_type, crawler)
  23. Common.logger(log_type, crawler).info('抓取完一轮\n')
  24. break
  25. except Exception as e:
  26. Common.logger(log_type, crawler).info(f"快手定向榜异常,触发报警:{e}\n")
  27. # Feishu.bot(log_type, crawler, f"快手定向榜异常,触发报警:{e}")
  28. if __name__ == "__main__":
  29. parser = argparse.ArgumentParser() ## 新建参数解释器对象
  30. parser.add_argument('--log_type', type=str) ## 添加参数,注明参数类型
  31. parser.add_argument('--crawler') ## 添加参数
  32. parser.add_argument('--strategy') ## 添加参数
  33. parser.add_argument('--our_uid') ## 添加参数
  34. parser.add_argument('--oss_endpoint') ## 添加参数
  35. parser.add_argument('--env') ## 添加参数
  36. parser.add_argument('--machine') ## 添加参数
  37. args = parser.parse_args() ### 参数赋值,也可以通过终端赋值
  38. # print(args)
  39. main(log_type=args.log_type,
  40. crawler=args.crawler,
  41. strategy=args.strategy,
  42. oss_endpoint=args.oss_endpoint,
  43. env=args.env,
  44. machine=args.machine)