python+appium+chromedriver 模拟人类行为采集爬虫

罗俊辉 3fa8b89240 piaopiaoquan há 1 ano atrás
application 3fa8b89240 piaopiaoquan há 1 ano atrás
scheduler e4d40fc73c 2023-12-19: MySQL和MQ相关代码编写 há 1 ano atrás
.gitignore e1c84e77eb Initial commit há 1 ano atrás
LICENSE e1c84e77eb Initial commit há 1 ano atrás
README.md e988284282 修改readme há 1 ano atrás
docker-compose.yml 0229748068 初始化项目 há 1 ano atrás
main.py d0cdf733aa 修改schedule代码 há 1 ano atrás
requirements.txt c06144c3f7 自动生成requirement há 1 ano atrás

README.md

automatic_crawler

python+appium+chromedriver 模拟人类行为采集爬虫

common

通用功能

aliyun 阿里云api
mysql mysql api
proxies 代理

config

配置文件

functions

特殊功能方法

items

规范化item,保证送往ETL的消息格式正确

pipeline

管道,所有视频信息在发送之前需要过管道的规则判断

spider

爬虫代码

scheduler

调度中心