码迷,mamicode.com
首页 >  
搜索关键字:spark streaming redis    ( 30354个结果
Celery 快速入门
# Celery 快速入门## 任务队列任务队列用于分发工作给不同线程或机器。Celery通过消息传递支持多个workers和brokers。提供高可用和水平扩展性。用Python写的## 优点* 简单* 高可用* 快* 易扩展## 支持* Brokers * RabbitMQ, Redis ...
分类:其他好文   时间:2014-07-07 11:23:15    阅读次数:566
redis持久化配置
一. rdb快照持久化1. 配置,在redis.conf中配置save 900 1 # 刷新快照到硬盘中,必须满足两者要求才会触发,即900秒之后至少1个关键字发生变化。save 300 10 # 必须是300秒之后至少10个关键字发生变化。save 60 10000 # ...
分类:其他好文   时间:2014-07-05 17:53:08    阅读次数:471
使用topshelf包装redis为windows服务
Redis服务端目前用的是控制台程序运行,部署的时候能作为windows服务后台运行感觉更好。找到一篇文章Running Redis as a Windows Service,利用windows installer实现的。如果使用topshelf,岂不是可以兼容mono,于是自己动手写了,实现很简单...
分类:Windows程序   时间:2014-07-05 17:52:26    阅读次数:359
使用gulp构建nodejs,你只需要记住5个函数
gulp是一个nodejs的streaming构建工具,所谓的streaming大致意思就是把构建流程想成一个个链接的管道(pipe)。 为什么要这样做呢? 要解释原因,就不得不提到unix。unix本身只提供了数量相对较少的命令,但是你可以命令的组合完成很强大的功能。命令和命令之间的衔接通常就用的是pipe。 类似,使用gulp,你仅仅只需要记住5个命令。这5个命令就是gulp提供给我们的一套streaming构建的架子,也就相当于提供了unix中的pipe功能。至于说pipe中每个命令的功能,则可以使...
分类:Web程序   时间:2014-07-03 18:29:11    阅读次数:277
Spark on Yarn部署
Spark on Yarn 集群部署...
分类:其他好文   时间:2014-07-03 18:26:02    阅读次数:264
Spark SQL 初探
早在Spark Submit 2013里就有介绍到Spark SQL,不过更多的是介绍Catalyst查询优化框架。经过一年的开发,在今年Spark Submit 2014上,Databricks宣布放弃Shark 的开发,而转投Spark SQL,理由是Shark继承了Hive太多,优化出现了瓶颈,如图:          今天把Spark最新的代码签了下来,测试了一下: 1、编译Spar...
分类:数据库   时间:2014-07-03 16:06:04    阅读次数:534
构建高性能数据库缓存之redis主从复制
一、什么是redis主从复制?主从复制,当用户往Master端写入数据时,通过RedisSync机制将数据文件发送至Slave,Slave也会执行相同的操作确保数据一致;且实现Redis的主从复制非常简单。二、redis主从复制特点1、同一个Master可以拥有多个Slaves。2、Master下的Slave还可以接受同..
分类:数据库   时间:2014-07-03 14:26:26    阅读次数:333
NoSQL初探之人人都爱Redis:(1)Redis简介与简单安装
一、NoSQL的风生水起 1.1 后Web2.0时代的发展要求 随着互联网Web2.0网站的兴起,传统的关系数据库在应付Web2.0网站,特别是超大规模和高并发的SNS类型的Web2.0纯动态网站已经显得力不从心,暴露了很多难以克服的问题: (1)对数据库高并发读写的需求 网站要根据用户个性化...
分类:数据库   时间:2014-07-03 12:55:05    阅读次数:442
Spark源码系列(五)RDD是如何被分布式缓存?
这一章想讲一下Spark的缓存是如何实现的。这个persist方法是在RDD里面的,所以我们直接打开RDD这个类。 def persist(newLevel: StorageLevel): this.type = { // StorageLevel不能随意更改 if (storageL...
分类:其他好文   时间:2014-07-03 12:53:15    阅读次数:314
基于redis AE的异步网络框架
最近一直在研究redis的源码,redis的高效率令人佩服。 在我们的linux机器上,cpu型号为,  Intel(R) Pentium(R) CPU G630 @ 2.70GHz  Intel(R) Pentium(R) CPU G630 @ 2.70GHz 上 set,get 都能达到每秒钟15W的请求处理量,真是佩服这代码的效率。 前几篇文章,主要是介绍了基本的代码,比如...
分类:其他好文   时间:2014-07-02 16:55:41    阅读次数:673
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!