Server/automatic_crawler: python+appium+chromedriver 模拟人类行为采集爬虫 @ 5b45e47256aa65c799593cee3fe8b2edba3faed2 - Gogs

python+appium+chromedriver 模拟人类行为采集爬虫

127 Commits

11 Ramas

0 Releases

罗俊辉 5b45e47256 搜索爬虫-微信体系内搜索功能增加 trace_id		hace 1 año
app	e7ab37b107 搜索接口上线	hace 1 año
application	6f5ff74697 吉祥幸福代码优化	hace 1 año
scheduler	e7ab37b107 搜索接口上线	hace 1 año
spider	5b45e47256 搜索爬虫-微信体系内搜索功能增加 trace_id	hace 1 año
.gitignore	e1c84e77eb Initial commit	hace 1 año
LICENSE	e1c84e77eb Initial commit	hace 1 año
README.md	ff1245352c test	hace 1 año
docker-compose.yml	0229748068 初始化项目	hace 1 año
requirements.txt	a0c04c0f3a 自动入池方法上线	hace 1 año

automatic_crawler

python+appium+chromedriver 模拟人类行为采集爬虫

common

通用功能

aliyun 阿里云api

mysql mysql api

proxies 代理

config

配置文件

functions

特殊功能方法

items

规范化item，保证送往ETL的消息格式正确

pipeline

管道，所有视频信息在发送之前需要过管道的规则判断

spider

爬虫代码

scheduler

调度中心

##