python+appium+chromedriver 模拟人类行为采集爬虫

罗俊辉 42152fda4f 新框架 bug 暂停 hace 1 año
app 42152fda4f 新框架 bug 暂停 hace 1 año
application 134ce0f8b8 新框架 bug 再次测试 hace 1 año
scheduler b415c1693f 用户增加nick_name参数 hace 1 año
spider d9e1097faf 祝好事多磨上线 hace 1 año
.gitignore e1c84e77eb Initial commit hace 1 año
LICENSE e1c84e77eb Initial commit hace 1 año
README.md ff1245352c test hace 1 año
docker-compose.yml 0229748068 初始化项目 hace 1 año
requirements.txt 7b447ee91b 福小顺上线(异步), hace 1 año

README.md

automatic_crawler

python+appium+chromedriver 模拟人类行为采集爬虫

common

通用功能

aliyun 阿里云api
mysql mysql api
proxies 代理

config

配置文件

functions

特殊功能方法

items

规范化item,保证送往ETL的消息格式正确

pipeline

管道,所有视频信息在发送之前需要过管道的规则判断

spider

爬虫代码

scheduler

调度中心

##