python+appium+chromedriver 模拟人类行为采集爬虫

罗俊辉 657d1c811e 初始化项目 1 rok temu
application 657d1c811e 初始化项目 1 rok temu
scheduler 657d1c811e 初始化项目 1 rok temu
.gitignore e1c84e77eb Initial commit 1 rok temu
LICENSE e1c84e77eb Initial commit 1 rok temu
README.md 657d1c811e 初始化项目 1 rok temu
docker-compose.yml 657d1c811e 初始化项目 1 rok temu

README.md

automatic_crawler

python+appium+chromedriver 模拟人类新闻采集爬虫

common

通用功能

aliyun 阿里云api
mysql mysql api
proxies 代理

config

配置文件

functions

特殊功能方法

items

规范化item,保证送往ETL的消息格式正确

pipeline

管道,所有视频信息在发生之前需要过管道的规则判断

spider

爬虫代码