http://www.quartz-scheduler.org/ 项目中导入quartz包 新建2个job类 spring xml配置 启动运行项目即可看到每隔一段时间执行了方法。 ...
分类:
其他好文 时间:
2019-02-15 21:18:55
阅读次数:
214
这个定时任务插件精确的时间可以到秒,使用方面跟jfinal-scheduler插件的使用方式差不多 Dreampie/jfinal-quartz Dreampie/jfinal-quartz https://github.com/Dreampie/jfinal-quartz/blob/master/ ...
分类:
其他好文 时间:
2019-02-13 20:43:40
阅读次数:
549
#启用Redis调度存储请求队列 SCHEDULER = "scrapy_redis.scheduler.Scheduler" #确保所有的爬虫通过Redis去重 DUPEFILTER_CLASS = "scrapy_redis.dupefilter.RFPDupeFilter" #默认请求序列化使... ...
分类:
其他好文 时间:
2019-02-12 23:16:14
阅读次数:
269
打开服务 找到Task Scheduler 打开即可 若无法启动Task Scheduler 服务的通用解决方案 【方法】: Ctrl+R->cmd->然后选中cmd ,点击右键,以管理员权限运行: 输入:netsh winsock reset 重启电脑后,cmd - services.msc 进去 ...
镜像下载: docker pull mirrorgooglecontainers/kube-apiserver-amd64:v1.11.2 ; \ docker tag mirrorgooglecontainers/kube-apiserver-amd64:v1.11.2 k8s.gcr.io/ku... ...
分类:
其他好文 时间:
2019-02-09 15:08:38
阅读次数:
997
由于工作项目中使用LTS作为消息队列,这几天有空正好研究一下。 1. 先去GitHub上下载源码:https://github.com/ltsopensource/light-task-scheduler 2. 根据需要,下载mysql、zookeeper,jdk使用Java8,Java11都行 启 ...
分类:
其他好文 时间:
2019-02-06 12:04:20
阅读次数:
233
1. 增加去重容器类配置,DUPEFILTER_CLASS = “scrapy_redis.dupefilter.RFPDupeFilter” 2. 增加调度配置,SCHEDULER = “scrapy_redis.scheduler.Scheduler” 3. 配置调度器持久化, 爬虫结束, 要不 ...
分类:
其他好文 时间:
2019-02-03 12:28:00
阅读次数:
187
安装sudo easy_install pip 列出已安装的包pip freeze or pip list 导出requirements.txtpip freeze > <目录>/requirements.txt 安装包在线安装pip install <包名> 或 pip install -r re ...
分类:
编程语言 时间:
2019-02-02 23:18:18
阅读次数:
249
概览 在具体的学习scrapy之前,我们先对scrapy的架构做一个简单的了解,之后所有的内容都是基于此架构实现的,在初学阶段只需要简单的了解即可,之后的学习中,你会对此架构有更深的理解。下面是scrapy官网给出的最新的架构图示。 基本组件 引擎(Engine) 引擎负责控制数据流在系统中所有组件 ...
分类:
其他好文 时间:
2019-02-01 14:20:21
阅读次数:
157
一、查看event是否开启 二、 -- 设置时区并设置计划事件调度器开启,也可以 event_scheduler = ONset time_zone = '+8:00';set GLOBAL event_scheduler = 1; -- 设置该事件使用或所属的数据库base数据库use test; ...
分类:
数据库 时间:
2019-01-31 17:03:28
阅读次数:
168