1.scrapy+redis使用 (1)应用 这里redis与scrapy一起,scrapy作为crawler,而redis作为scrapy的调度器。如架构图中的②所示。图1 架构图 (2)为什么选择redis redis作为调度器的实现仍然和其特性相关,可见《一淘搜索之网页抓取系统分析与实现(1) ...
分类:
Web程序 时间:
2017-03-05 12:33:33
阅读次数:
228
2017-03-03 很遗憾之前在介绍进程调度的文章中,虽然涉及到了内核抢占,但是却没有对其进行深入介绍,今天就稍微总结下内核抢占。 内核抢占在一定程度上减少了对某种事件的响应延迟,这也是内核抢占被引入的目的。之前的内核中,除了显示调用系统调度器的某些点,内核其他地方是不允许中断的,如果内核在做一些 ...
分类:
系统相关 时间:
2017-03-03 19:02:19
阅读次数:
255
前言在有心课堂《RxJava之旅》中有学员留言:map和doOnSubscribe默认调度器是IO调度器,这里说错了吧?下面我们分析下。在前面讲 Subscriber 的时候,提到过 Subscrib...
分类:
编程语言 时间:
2017-03-02 11:28:36
阅读次数:
1726
需要实现Solr定时导入功能的话,我们可以通过使用Solr自身所集成的dataimportscheduler调度器实现 下载对应的jar包,下载地址https://code.google.com/archive/p/solr-dataimport-scheduler/downloads 通过WinR ...
分类:
其他好文 时间:
2017-02-26 18:37:50
阅读次数:
158
采用NAT模式时,由于请求和响应的报文必须通过调度器地址重写,当客户请求越来越多时,调度器处理能力将成为瓶颈。为了解决这个问题,调度器把请求的报文通过IP隧道转发到真实的服务器。真实的服务器将响应处理后的数据直接返回给客户端。这样调度器就只处理请求入站报文,由于..
分类:
其他好文 时间:
2017-02-22 15:32:24
阅读次数:
427
LVS+Keepalived配置我们通过LVS-DR-MASTER,LVS-DR-BACKUP作为LVS负载均衡调度器,并且两者之间通过keepalived来两者之间的HA。keepalived本身就是为了LVS为开发的,所以说我们通过keepalived来进行LVS的配置就显得十分的方便。而且keepalived是直接操作ip_vs不用通过ipvsadm,..
分类:
其他好文 时间:
2017-02-22 15:30:21
阅读次数:
240
负载均衡LVS三种(应该是四种)负载均衡技术:不具备抗攻击能力VS/NAT(通过NAT实现虚拟服务器)压力都在调度器上调度器输入内网的数据包会源路返回到外网对后端的realserver没有要求只要提供服务就行了VS/TUN(隧道模式在原有的模式下继续做封装缺点:数据包过大)(通过IP隧道..
分类:
其他好文 时间:
2017-02-22 00:33:36
阅读次数:
370
KVM 虚拟机简介:Kernel-based Virtual Machine的简称,是一个开源的系统虚拟化模块,自Linux 2.6.20之后集成在Linux的各个主要发行版本中。它使用Linux自身的调度器进行管理,所以相对于Xen,其核心源码很少。KVM目前已成为学术界的主流VMM之一。KVM的 ...
分类:
其他好文 时间:
2017-02-19 21:14:22
阅读次数:
195
Keepalived是一款优秀的、可实现高可用的开源软件,它运行在LVS之上,为LVS应运而生。在生产环境中也可以将其应用于Haproxy/Nginx中,提供简单稳定的高可用解决方案。现将其配置文件作如下说明(以Haproxy为前端调度器):!ConfigurationFileforkeepalivedglobal_defs{notifica..
分类:
其他好文 时间:
2017-02-15 22:43:33
阅读次数:
178
#################################################################
director为调度器
rs1及rs2位realserver
vip为虚拟ip
director:192.168.108.18
rs1:192.168.108.19
rs2:192.168.108.10
vip:192.168.108.17
###########################################################..
分类:
其他好文 时间:
2017-02-15 12:51:01
阅读次数:
224