码迷,mamicode.com
首页 >  
搜索关键字:spark streaming redis    ( 30354个结果
Redis源码解析之ziplist
Ziplist是用字符串来实现的双向链表,对于容量较小的键值对,为其创建一个结构复杂的哈希表太浪费内存,所以redis 创建了ziplist来存放这些键值对,这可以减少存放节点指针的空间,因此它被用来作为哈希表初始化时的底层实现。
分类:其他好文   时间:2014-06-25 19:06:54    阅读次数:187
memcache和redis区别
memcache和redis区别2014年4月27日mood暂无评论memcache官方定义Free & open source, high-performance, distributed memory object caching system, generic in nature, but i...
分类:其他好文   时间:2014-06-25 14:59:31    阅读次数:190
redis 初探
2014年6月24日 17:50:57解压redis后进入源码目录,只用执行make命令就可以完成安装了安装完成后到src目录里,将 redis-server redis-cli redis.conf redis-benchmark redis-check-aof redis-check-dump ...
分类:其他好文   时间:2014-06-25 14:34:54    阅读次数:182
redis 配置文件翻译
2014年6月24日 17:29:11如果有其它配置文件,可以使用 include 指令默认的redis不会以守护进程运行,需要这样的话可以 daemonize yes进程信息放在/var/run/redis.pid中,可以用指令 pidfile 指定端口默认为6397 设为0的话 redis不会监...
分类:其他好文   时间:2014-06-25 14:22:02    阅读次数:223
redis源码解析之内存管理
这是redis的内存管理接口。zmalloc,zcalloc,zrealloc和zfree分别对应c库中的malloc,calloc,realloc和free。zstrdup用于生成一个字符串的拷贝。后面的几个函数用于获取内存使用信息,后面会详细介绍。
分类:其他好文   时间:2014-06-25 13:10:03    阅读次数:295
spark开发环境配置
以后spark,mapreduce,mpi可能三者集于同一平台,各自的侧重点有所不用,相当于云计算与高性能计算的集合,互补,把spark的基础看了看,现在把开发环境看看,主要是看源码,最近Apache Spark源码走读系列挺好的,看了些。具体环境配置不是太复杂,具体可以看https://githu...
分类:其他好文   时间:2014-06-25 11:44:47    阅读次数:185
Spark源码系列(四)图解作业生命周期
这一章我们探索了Spark作业的运行过程,但是没把整个过程描绘出来,好,跟着我走吧,let you know!我们先回顾一下这个图,Driver Program是我们写的那个程序,它的核心是SparkContext,回想一下,从api的使用角度,RDD都必须通过它来获得。下面讲一讲它所不为认知的一面...
分类:其他好文   时间:2014-06-25 11:13:39    阅读次数:288
Spark技术内幕:Master基于ZooKeeper的High Availability(HA)源码实现
本文详细讲解了Spark在Standalone模式下的Master的HA的源码分析。 为了解决Standalone模式下的Master的SPOF,Spark采用了ZooKeeper提供的选举功能。Spark并没有采用ZooKeeper原生的Java API,而是采用了Curator,一个对ZooKeeper进行了封装的框架。采用了Curator后,Spark不用管理与ZooKeeper的连接,这些对于Spark来说都是透明的。Spark仅仅使用了100行代码,就实现了Master的HA。当然了,Spark是...
分类:其他好文   时间:2014-06-25 07:59:09    阅读次数:183
Spark MLlib之线性回归源码分析
线性回归(Linear Regression)问题属于监督学习(Supervised Learning)范畴,又称分类(Classification)或归纳学习(Inductive Learning);这类分析中训练数据集中给出的数据类标是确定的;机器学习的目标是,对于给定的一个训练数据集,通过不断的分析和学习产生一个联系属性集合和类标集合的分类函数(Classification Function)或预测函数(Prediction Function),这个函数称为分类模型(Classification Mo...
分类:其他好文   时间:2014-06-24 22:58:23    阅读次数:585
CDH5上安装Hive,HBase,Impala,Spark等服务
Apache Hadoop的服务的部署比较繁琐,需要手工处理配置文件、下载依赖包等。Cloudera Manager以GUI的方式的管理CDH集群,提供向导式的安装步骤。由于需要对Hive,HBase,Impala,Spark进行功能测试,就采用了Cloudera Manager方式进行安装。本文讲解的是parcel安装方式。...
分类:其他好文   时间:2014-06-24 22:44:17    阅读次数:501
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!