python+appium+chromedriver 模拟人类行为采集爬虫

罗俊辉 bc3e41396d 最好的送你,愿你福气常在上线当日推荐流不去重操作; 1 سال پیش
app 4294ab0e61 mq.py 代码格式化 1 سال پیش
application bc3e41396d 最好的送你,愿你福气常在上线当日推荐流不去重操作; 1 سال پیش
scheduler 02ea01fa18 增加 祝福好运暴富线下爬虫 1 سال پیش
spider 67def8d139 Merge branch 'master' of https://git.yishihui.com/Server/automatic_crawler 1 سال پیش
.gitignore e1c84e77eb Initial commit 1 سال پیش
LICENSE e1c84e77eb Initial commit 1 سال پیش
README.md ff1245352c test 1 سال پیش
docker-compose.yml 0229748068 初始化项目 1 سال پیش
requirements.txt a0c04c0f3a 自动入池方法上线 1 سال پیش

README.md

automatic_crawler

python+appium+chromedriver 模拟人类行为采集爬虫

common

通用功能

aliyun 阿里云api
mysql mysql api
proxies 代理

config

配置文件

functions

特殊功能方法

items

规范化item,保证送往ETL的消息格式正确

pipeline

管道,所有视频信息在发送之前需要过管道的规则判断

spider

爬虫代码

scheduler

调度中心

##