python+appium+chromedriver 模拟人类行为采集爬虫

luojunhui 30e651ec2b Merge remote-tracking branch 'origin/master' пре 11 месеци
app ce941a81c1 增加小年糕账号线下抓取 пре 1 година
application 9ace6eea0a init 文件配置 пре 11 месеци
scheduler ce941a81c1 增加小年糕账号线下抓取 пре 1 година
spider 30e651ec2b Merge remote-tracking branch 'origin/master' пре 11 месеци
.gitignore e1c84e77eb Initial commit пре 1 година
LICENSE e1c84e77eb Initial commit пре 1 година
README.md ff1245352c test пре 1 година
docker-compose.yml 0229748068 初始化项目 пре 1 година
requirements.txt a0c04c0f3a 自动入池方法上线 пре 1 година

README.md

automatic_crawler

python+appium+chromedriver 模拟人类行为采集爬虫

common

通用功能

aliyun 阿里云api
mysql mysql api
proxies 代理

config

配置文件

functions

特殊功能方法

items

规范化item,保证送往ETL的消息格式正确

pipeline

管道,所有视频信息在发送之前需要过管道的规则判断

spider

爬虫代码

scheduler

调度中心

##