python+appium+chromedriver 模拟人类行为采集爬虫

罗俊辉 2286d34b45 修改main il y a 1 an
application 2286d34b45 修改main il y a 1 an
scheduler 2286d34b45 修改main il y a 1 an
.gitignore e1c84e77eb Initial commit il y a 1 an
LICENSE e1c84e77eb Initial commit il y a 1 an
README.md ff1245352c test il y a 1 an
docker-compose.yml 0229748068 初始化项目 il y a 1 an
main.py 2286d34b45 修改main il y a 1 an
off_line_controler.py 0e0054d6c2 线下爬虫,视频刷刷——上线 il y a 1 an
requirements.txt c06144c3f7 自动生成requirement il y a 1 an
tt.py 845c8e2c48 main函数v1【待优化】 il y a 1 an

README.md

automatic_crawler

python+appium+chromedriver 模拟人类行为采集爬虫

common

通用功能

aliyun 阿里云api
mysql mysql api
proxies 代理

config

配置文件

functions

特殊功能方法

items

规范化item,保证送往ETL的消息格式正确

pipeline

管道,所有视频信息在发送之前需要过管道的规则判断

spider

爬虫代码

scheduler

调度中心

##