Server/automatic_crawler: python+appium+chromedriver 模拟人类行为采集爬虫 @ 3771763d73bfe31c51a3fecce033e251e627a58f - Gogs

python+appium+chromedriver 模拟人类行为采集爬虫

11 Bölümler

0 Sürümler

罗俊辉 3771763d73 新框架 bug 暂停		1 yıl önce
app	3771763d73 新框架 bug 暂停	1 yıl önce
application	8609c39746 祝好事多磨上线	1 yıl önce
scheduler	b415c1693f 用户增加nick_name参数	1 yıl önce
spider	d9e1097faf 祝好事多磨上线	1 yıl önce
.gitignore	e1c84e77eb Initial commit	1 yıl önce
LICENSE	e1c84e77eb Initial commit	1 yıl önce
README.md	ff1245352c test	1 yıl önce
docker-compose.yml	0229748068 初始化项目	1 yıl önce
requirements.txt	7b447ee91b 福小顺上线（异步），	1 yıl önce

automatic_crawler

python+appium+chromedriver 模拟人类行为采集爬虫

common

通用功能

aliyun 阿里云api

mysql mysql api

proxies 代理

config

配置文件

functions

特殊功能方法

items

规范化item，保证送往ETL的消息格式正确

pipeline

管道，所有视频信息在发送之前需要过管道的规则判断

spider

爬虫代码

scheduler

调度中心

##