Server/automatic_crawler: python+appium+chromedriver 模拟人类行为采集爬虫 @ 950fae0438a3f7a8a7746436fa2d0cd7b966b90b - Gogs

python+appium+chromedriver 模拟人类行为采集爬虫

78 Ревизии

11 Клонове

罗俊辉 950fae0438 xng快速扫描		преди 1 година
app	7af4a65824 小年糕+ 日志分析	преди 1 година
application	8249c4f76a 增加祝万物复苏——推荐流不过	преди 1 година
scheduler	7af4a65824 小年糕+ 日志分析	преди 1 година
spider	950fae0438 xng快速扫描	преди 1 година
.gitignore	e1c84e77eb Initial commit	преди 1 година
LICENSE	e1c84e77eb Initial commit	преди 1 година
README.md	ff1245352c test	преди 1 година
docker-compose.yml	0229748068 初始化项目	преди 1 година
requirements.txt	7b447ee91b 福小顺上线（异步），	преди 1 година

automatic_crawler

python+appium+chromedriver 模拟人类行为采集爬虫

common

通用功能

aliyun 阿里云api

mysql mysql api

proxies 代理

config

配置文件

functions

特殊功能方法

items

规范化item，保证送往ETL的消息格式正确

pipeline

管道，所有视频信息在发送之前需要过管道的规则判断

spider

爬虫代码

scheduler

调度中心

##