Server/automatic_crawler: python+appium+chromedriver 模拟人类行为采集爬虫 @ b0e8bea70f075b24fa120417cad938c90ce061e8 - Gogs

python+appium+chromedriver 模拟人类行为采集爬虫

210 Commits

11 Branches

zhangliang b0e8bea70f 中青看点		il y a 1 mois
app	b9c9bcc9d1 增加日志	il y a 1 mois
application	5ab3c4f547 增加日志	il y a 1 mois
scheduler	d46fd6ebc9 update	il y a 2 mois
spider	b0e8bea70f 中青看点	il y a 1 mois
.gitignore	2806693c91 新增超级票圈、绚烂祝福、新春祝福和朝朝欢喜祝福语四个小程序	il y a 3 mois
LICENSE	e1c84e77eb Initial commit	il y a 1 an
README.md	ff1245352c test	il y a 1 an
docker-compose.yml	0229748068 初始化项目	il y a 1 an
requirements.txt	2806693c91 新增超级票圈、绚烂祝福、新春祝福和朝朝欢喜祝福语四个小程序	il y a 3 mois
xng_zh_job.py	6b391b2bce 调试	il y a 7 mois

automatic_crawler

python+appium+chromedriver 模拟人类行为采集爬虫

common

通用功能

aliyun 阿里云api

mysql mysql api

proxies 代理

config

配置文件

functions

特殊功能方法

items

规范化item，保证送往ETL的消息格式正确

pipeline

管道，所有视频信息在发送之前需要过管道的规则判断

spider

爬虫代码

scheduler

调度中心

##