python+appium+chromedriver 模拟人类行为采集爬虫

supeng aa673f8089 zhufuquanzi view update il y a 1 jour
app b9c9bcc9d1 增加日志 il y a 1 semaine
application 4b04e8df06 祝福圈子推荐流 增加曝光 il y a 1 jour
scheduler d46fd6ebc9 update il y a 3 semaines
spider aa673f8089 zhufuquanzi view update il y a 1 jour
.gitignore 2806693c91 新增超级票圈、绚烂祝福、新春祝福和朝朝欢喜祝福语四个小程序 il y a 1 mois
LICENSE e1c84e77eb Initial commit il y a 1 an
README.md ff1245352c test il y a 1 an
docker-compose.yml 0229748068 初始化项目 il y a 1 an
requirements.txt 2806693c91 新增超级票圈、绚烂祝福、新春祝福和朝朝欢喜祝福语四个小程序 il y a 1 mois
xng_zh_job.py 6b391b2bce 调试 il y a 5 mois

README.md

automatic_crawler

python+appium+chromedriver 模拟人类行为采集爬虫

common

通用功能

aliyun 阿里云api
mysql mysql api
proxies 代理

config

配置文件

functions

特殊功能方法

items

规范化item,保证送往ETL的消息格式正确

pipeline

管道,所有视频信息在发送之前需要过管道的规则判断

spider

爬虫代码

scheduler

调度中心

##