run_douyin_follow.py 1.7 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445
  1. # -*- coding: utf-8 -*-
  2. # @Author: lierqiang
  3. # @Time: 2023/4/07
  4. import argparse
  5. import os
  6. import sys
  7. sys.path.append(os.getcwd())
  8. from common.common import Common
  9. from douyin.douyin_follow.follow_dy import DyFollow
  10. def main(log_type, crawler, strategy, oss_endpoint, env, machine):
  11. try:
  12. Common.logger(log_type, crawler).info('开始抓取 抖音 作者\n')
  13. DyFollow.get_follow_videos(
  14. log_type=log_type,
  15. crawler=crawler,
  16. strategy=strategy,
  17. oss_endpoint=oss_endpoint,
  18. env=env,
  19. machine=machine)
  20. Common.del_logs(log_type, crawler)
  21. Common.logger(log_type, crawler).info('抓取完一轮\n')
  22. except Exception as e:
  23. Common.logger(log_type, crawler).info(f"抖音作者异常,触发报警:{e}\n")
  24. # Feishu.bot(log_type, crawler, f"快手定向榜异常,触发报警:{e}")
  25. if __name__ == "__main__":
  26. parser = argparse.ArgumentParser() ## 新建参数解释器对象
  27. parser.add_argument('--log_type', default='author', type=str) ## 添加参数,注明参数类型
  28. parser.add_argument('--crawler', default='douyin') ## 添加参数
  29. parser.add_argument('--strategy', default='定向抓取策略') ## 添加参数
  30. parser.add_argument('--oss_endpoint', default='inner') ## 添加参数
  31. parser.add_argument('--env', default='prod') ## 添加参数
  32. parser.add_argument('--machine', default='aliyun') ## 添加参数
  33. args = parser.parse_args() ### 参数赋值,也可以通过终端赋值
  34. # print(args)
  35. main(log_type=args.log_type,
  36. crawler=args.crawler,
  37. strategy=args.strategy,
  38. oss_endpoint=args.oss_endpoint,
  39. env=args.env,
  40. machine=args.machine)