run_douyin_recommend.py 1.6 KB

12345678910111213141516171819202122232425262728293031323334353637383940414243444546
  1. # -*- coding: utf-8 -*-
  2. # @Author: lierqiang
  3. # @Time: 2023/4/07
  4. import argparse
  5. import os
  6. import sys
  7. # import time
  8. sys.path.append(os.getcwd())
  9. from common.common import Common
  10. # from common.feishu import Feishu
  11. from douyin.douyin_recommend.recommend_dy import DyRecommend
  12. def main(log_type, crawler, strategy, oss_endpoint, env, machine):
  13. our_id = 55252589
  14. Common.logger(log_type, crawler).info('开始抓取 抖音 推荐\n')
  15. DyRecommend.get_videolist(
  16. log_type=log_type,
  17. crawler=crawler,
  18. strategy=strategy,
  19. our_id=our_id,
  20. oss_endpoint=oss_endpoint,
  21. env=env,
  22. machine=machine)
  23. Common.del_logs(log_type, crawler)
  24. Common.logger(log_type, crawler).info('抓取完一轮\n')
  25. if __name__ == "__main__":
  26. parser = argparse.ArgumentParser() ## 新建参数解释器对象
  27. parser.add_argument('--log_type', default='recommend', type=str) ## 添加参数,注明参数类型
  28. parser.add_argument('--crawler', default='douyin') ## 添加参数
  29. parser.add_argument('--strategy', default='推荐') ## 添加参数
  30. parser.add_argument('--oss_endpoint', default='inner') ## 添加参数
  31. parser.add_argument('--env', default='prod') ## 添加参数
  32. parser.add_argument('--machine', default='aliyun') ## 添加参数
  33. args = parser.parse_args() ### 参数赋值,也可以通过终端赋值
  34. # print(args)
  35. main(log_type=args.log_type,
  36. crawler=args.crawler,
  37. strategy=args.strategy,
  38. oss_endpoint=args.oss_endpoint,
  39. env=args.env,
  40. machine=args.machine)