码迷,mamicode.com
首页 > 其他好文 > 详细

Scrapy-自定制scrapy命令

时间:2018-07-22 00:19:03      阅读:152      评论:0      收藏:0      [点我收藏+]

标签:crawler   项目目录   spider   自定义   options   set   dict   settings   文件   

  • 在spiders同级创建任意目录,如:commands
  • 在其中创建 crawlall.py 文件 (此处文件名就是自定义的命令)
from scrapy.commands import ScrapyCommand
    from scrapy.utils.project import get_project_settings


    class Command(ScrapyCommand):

        requires_project = True

        def syntax(self):
            return [options]

        def short_desc(self):
            return Runs all of the spiders

        def run(self, args, opts):
            spider_list = self.crawler_process.spiders.list()
            for name in spider_list:
                self.crawler_process.crawl(name, **opts.__dict__)
            self.crawler_process.start()

crawlall.py
  • 在settings.py 中添加配置 COMMANDS_MODULE = ‘项目名称.目录名称‘
  • 在项目目录执行命令:scrapy crawlall

Scrapy-自定制scrapy命令

标签:crawler   项目目录   spider   自定义   options   set   dict   settings   文件   

原文地址:https://www.cnblogs.com/benchdog/p/9348353.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!