Server/automatic_crawler: python+appium+chromedriver 模拟人类行为采集爬虫 @ 6bdb6bb62eeca74b9df42614bc8ec4e5f057db27 - Gogs

python+appium+chromedriver 模拟人类行为采集爬虫

28 Ревизии

11 Клонове

罗俊辉 6bdb6bb62e main.py 修改部分日志；		преди 1 година
app	6bdb6bb62e main.py 修改部分日志；	преди 1 година
application	9948edc4f5 mysql_helper.py 增加默认值	преди 1 година
scheduler	6bdb6bb62e main.py 修改部分日志；	преди 1 година
spider	4e4c76e9ee 增加视频刷刷获取用户id代码	преди 1 година
.gitignore	e1c84e77eb Initial commit	преди 1 година
LICENSE	e1c84e77eb Initial commit	преди 1 година
README.md	ff1245352c test	преди 1 година
docker-compose.yml	0229748068 初始化项目	преди 1 година
requirements.txt	c06144c3f7 自动生成requirement	преди 1 година

automatic_crawler

python+appium+chromedriver 模拟人类行为采集爬虫

common

通用功能

aliyun 阿里云api

mysql mysql api

proxies 代理

config

配置文件

functions

特殊功能方法

items

规范化item，保证送往ETL的消息格式正确

pipeline

管道，所有视频信息在发送之前需要过管道的规则判断

spider

爬虫代码

scheduler

调度中心

##