spider_error.py 780 B

1234567891011121314151617181920212223242526272829
  1. """
  2. @author: luojunhui
  3. """
  4. import json
  5. from applications import log
  6. class SpiderError(Exception):
  7. """数据库查询异常"""
  8. def __init__(self, platform=None, error=None, spider=None, url=None):
  9. """
  10. :param error: 异常对象,可选,用于提供更详细的错误信息。
  11. :param spider: 爬虫任务
  12. """
  13. error_obj = {
  14. "error": str(error),
  15. "spider": spider,
  16. "message": "爬虫接口请求失败",
  17. "url": url
  18. }
  19. log(
  20. task="spider_task",
  21. function="{}".format(platform),
  22. message="{} 抓取失败".format(spider),
  23. data=error_obj
  24. )
  25. super().__init__(json.dumps(error_obj, ensure_ascii=False, indent=4))