Server/automatic_crawler: python+appium+chromedriver 模拟人类行为采集爬虫 @ d9e1097faf4521e394a2798eed099544cd05447c - Gogs

python+appium+chromedriver 模拟人类行为采集爬虫

45 Commits

11 Branches

0 Releases

罗俊辉 d9e1097faf 祝好事多磨上线		vor 1 Jahr
app	d2a5fc1638 gzh	vor 1 Jahr
application	e2b5e1654c 福小顺修改异步处理	vor 1 Jahr
scheduler	b415c1693f 用户增加nick_name参数	vor 1 Jahr
spider	d9e1097faf 祝好事多磨上线	vor 1 Jahr
.gitignore	e1c84e77eb Initial commit	vor 1 Jahr
LICENSE	e1c84e77eb Initial commit	vor 1 Jahr
README.md	ff1245352c test	vor 1 Jahr
docker-compose.yml	0229748068 初始化项目	vor 1 Jahr
requirements.txt	7b447ee91b 福小顺上线（异步），	vor 1 Jahr

automatic_crawler

python+appium+chromedriver 模拟人类行为采集爬虫

common

通用功能

aliyun 阿里云api

mysql mysql api

proxies 代理

config

配置文件

functions

特殊功能方法

items

规范化item，保证送往ETL的消息格式正确

pipeline

管道，所有视频信息在发送之前需要过管道的规则判断

spider

爬虫代码

scheduler

调度中心

##