crawler_weishi/main/run_recommend.py

# -*- coding: utf-8 -*-
# @Author: wangkun
# @Time: 2022/3/30
import datetime
import os
import random
import sys
import time
from apscheduler.schedulers.blocking import BlockingScheduler
sys.path.append(os.getcwd())
from main.common import Common
from main.download_recommend import DownloadRecommend


def weishi_dev_job():
    """
    执行测试环境微视脚本
    """
    while True:
        weishi_dev_time = datetime.datetime.now()
        if weishi_dev_time.hour >= 20 or weishi_dev_time.hour <= 10:
            # 抓取符合规则的视频，写入 weishi_feeds.txt
            DownloadRecommend.get_weishi_recommend()
            # 下载视频，并上传
            DownloadRecommend.download_weishi_play_video("dev")
            # 随机睡眠1-3s
            time.sleep(random.randint(1, 3))
        else:
            Common.crawler_log().info("结束抓取及上传任务")
            break

    # 删除冗余日志
    Common.del_logs()
    # 统计下载视频数
    Common.weishi_download_count()


def main_dev():
    """
    测试环境主函数
    """
    while True:
        # Common.crawler_log().info("开始抓取微视视频")
        weishi_dev_job()


def weishi_prod_job():
    """
    执行正式环境微视脚本
    """
    while True:
        if 20 >= Common.now.hour >= 5:
            Common.crawler_log().info("结束抓取微视视频任务")
            break
        else:
            # 抓取符合规则的视频，写入 weishi_feeds.txt
            DownloadRecommend.get_weishi_recommend()
            # 下载视频，并上传
            DownloadRecommend.download_weishi_play_video("prod")
            # 随机睡眠1-3s
            time.sleep(random.randint(1, 3))

    # 删除冗余日志
    Common.del_logs()
    # 统计下载视频数
    Common.weishi_download_count()


def main_prod():
    """
    正式环境主函数
    """
    while True:
        weishi_prod_job()


if __name__ == "__main__":
    main_dev()
    # main_prod()