Server/automatic_crawler: python+appium+chromedriver 模拟人类行为采集爬虫 @ 8b2edb4562d8db075d515171f322f5a8dd667ef2 - Gogs

python+appium+chromedriver 模拟人类行为采集爬虫

48 Achegas

11 Branches

罗俊辉 8b2edb4562 新框架 bug 暂停		hai 1 ano
app	8b2edb4562 新框架 bug 暂停	hai 1 ano
application	8609c39746 祝好事多磨上线	hai 1 ano
scheduler	b415c1693f 用户增加nick_name参数	hai 1 ano
spider	d9e1097faf 祝好事多磨上线	hai 1 ano
.gitignore	e1c84e77eb Initial commit	hai 1 ano
LICENSE	e1c84e77eb Initial commit	hai 1 ano
README.md	ff1245352c test	hai 1 ano
docker-compose.yml	0229748068 初始化项目	hai 1 ano
requirements.txt	7b447ee91b 福小顺上线（异步），	hai 1 ano

automatic_crawler

python+appium+chromedriver 模拟人类行为采集爬虫

common

通用功能

aliyun 阿里云api

mysql mysql api

proxies 代理

config

配置文件

functions

特殊功能方法

items

规范化item，保证送往ETL的消息格式正确

pipeline

管道，所有视频信息在发送之前需要过管道的规则判断

spider

爬虫代码

scheduler

调度中心

##