scrapy-redis 简介 scrapy-redis 是 scrapy 框架基于 redis 数据库的组件,用于 scraoy 项目的分布式开发和部署。 有如下特征: 分布式爬取: 你可以启动多个 spider 工程,相互之间共享单个的 requests 队列,最适合广泛的多个域名的内容的抓取。 ...
分类:
其他好文 时间:
2019-10-02 16:43:30
阅读次数:
106
scrapy-redis简介 scrapy-redis是scrapy框架基于redis数据库的组件,用于scrapy项目的分布式开发和部署。 有如下特征: ? 分布式爬取 您可以启动多个spider工程,相互之间共享单个redis的requests队列。最适合广泛的多个域名网站的内容爬取。 ? 分布 ...
分类:
其他好文 时间:
2019-08-27 00:57:04
阅读次数:
85
以下为5.0.5版本实践 1、下载压缩包,下载地址:https://redis.io/ 2、安装redis (1)解压~/Downloads/redis-5.0.5.tar.gz为~/Downloads/redis-5.0.5 (2)将解压后的包移动到/usr/local下: (3)安装redis: ...
分类:
系统相关 时间:
2019-07-02 20:52:21
阅读次数:
137
前言:redis作为一款高效的NOSQL数据库已经深入贯彻和落实到我们的日常开发代码中,作为缓存、时间控制、数据仓库、队列等使用方法层出不穷,简直是开写代码、居家旅行之必备良药。曾经,我们的项目都是单体的,直到后来逐渐演变为微服务—— 一个将我们的工程解耦成多个工程的体系。然后随着我们项目的访问量越 ...
分类:
其他好文 时间:
2019-02-16 18:17:41
阅读次数:
358
在进行搭建redis3M 集群之前,首先要明白如何在单节点上完成redis的搭建。 单节点单实例搭建可以参看这个网:https://www.cnblogs.com/butterflies/p/9628207.html 完成单节点的redis搭建之后,修改配置文件,开启集群模式,修改配置文件生成的目录 ...
分类:
其他好文 时间:
2018-12-24 13:22:46
阅读次数:
142
https://blog.csdn.net/linzhefeng89/article/details/78752658 基于springboot+bootstrap+mysql+redis搭建一套完整的权限架构【六】【引入bootstrap前端框架】 2017年12月11日 10:19:24 笨_鸟 ...
分类:
数据库 时间:
2018-12-14 12:41:47
阅读次数:
214
话不多说先上效果图演示 项目:http://112.74.164.107:9990/ 1、安装组建 redis: yum install redis/apt install redis 2、创建虚拟化环境并进入 python3/python -m venv venv source venv\bin\ ...
分类:
Web程序 时间:
2018-12-11 14:37:16
阅读次数:
484
主从概念 ?个master可以拥有多个slave,?个slave?可以拥有多个slave,如此下去,形成了强?的多级服务器集群架构 master用来写数据,slave用来读数据,经统计:网站的读写比率是10:1 通过主从配置可以实现读写分离 master和slave都是一个redis实例(redis ...
分类:
其他好文 时间:
2018-08-24 14:49:09
阅读次数:
144
官方学习资料 搭建空MVC框架 1.创建一个空模板 2.创建文件夹 Controllers、Models、Views 3.在Controllers文件夹下创建HomeController.cs 选择Controllers文件夹,右键-添加-新建项,选择MVC控制器类,添加HomeController ...
分类:
Web程序 时间:
2018-08-03 16:33:34
阅读次数:
1903
elk+redis 搭建nginx日志分析平台 logstash,elasticsearch,kibana 怎么进行nginx的日志分析呢?首先,架构方面,nginx是有日志文件的,它的每个请求的状态等都有日志文件进行记录。其次,需要有个队列,redis的list结构正好可以作为队列使用。然后分析使 ...
分类:
其他好文 时间:
2018-06-26 22:31:55
阅读次数:
196