Server/automatic_crawler: python+appium+chromedriver 模拟人类行为采集爬虫 @ 3771763d73bfe31c51a3fecce033e251e627a58f - Gogs

python+appium+chromedriver 模拟人类行为采集爬虫

50 Комити

11 Гране

罗俊辉 3771763d73 新框架 bug 暂停		пре 1 година
app	3771763d73 新框架 bug 暂停	пре 1 година
application	8609c39746 祝好事多磨上线	пре 1 година
scheduler	b415c1693f 用户增加nick_name参数	пре 1 година
spider	d9e1097faf 祝好事多磨上线	пре 1 година
.gitignore	e1c84e77eb Initial commit	пре 1 година
LICENSE	e1c84e77eb Initial commit	пре 1 година
README.md	ff1245352c test	пре 1 година
docker-compose.yml	0229748068 初始化项目	пре 1 година
requirements.txt	7b447ee91b 福小顺上线（异步），	пре 1 година

automatic_crawler

python+appium+chromedriver 模拟人类行为采集爬虫

common

通用功能

aliyun 阿里云api

mysql mysql api

proxies 代理

config

配置文件

functions

特殊功能方法

items

规范化item，保证送往ETL的消息格式正确

pipeline

管道，所有视频信息在发送之前需要过管道的规则判断

spider

爬虫代码

scheduler

调度中心

##