Server/automatic_crawler: python+appium+chromedriver 模拟人类行为采集爬虫 @ 04a7a7255a9bb18a9050f64aff9fb5a9b3c6c5b6

python+appium+chromedriver 模拟人类行为采集爬虫

11 Ramos

zhangyong 04a7a7255a Merge branch 'master' of https://git.yishihui.com/Server/automatic_crawler		há 1 ano atrás
app	7a80634bdf festival_reminder.py增加四龙日	há 1 ano atrás
application	6f5ff74697 吉祥幸福代码优化	há 1 ano atrás
scheduler	02ea01fa18 增加祝福好运暴富线下爬虫	há 1 ano atrás
spider	04a7a7255a Merge branch 'master' of https://git.yishihui.com/Server/automatic_crawler	há 1 ano atrás
.gitignore	e1c84e77eb Initial commit	há 1 ano atrás
LICENSE	e1c84e77eb Initial commit	há 1 ano atrás
README.md	ff1245352c test	há 1 ano atrás
docker-compose.yml	0229748068 初始化项目	há 1 ano atrás
requirements.txt	a0c04c0f3a 自动入池方法上线	há 1 ano atrás

automatic_crawler

通用功能

配置文件

特殊功能方法

规范化item，保证送往ETL的消息格式正确

管道，所有视频信息在发送之前需要过管道的规则判断

爬虫代码

调度中心