基于zookeeper写了个Leader选举类库demo，场景如下：上图中的Program1..4可以部署在1台server上，也可以部署在多台server上，也可以是一个进程中的多个线程。运行效果：初始化时（4个全开）把第四个（也就是此时的Leader） 关闭后把某个Follower角色的进程关闭...
分类：
其他好文 时间：
2014-07-03 12:34:31
阅读次数：
137
Spark目前支持多种分布式部署方式：一、Standalone Deploy Mode；二Amazon EC2、；三、Apache Mesos；四、Hadoop YARN。第一种方式是单独部署，不需要有依赖的资源管理器，其它三种都需要将spark部署到对应的资源管理器上。 除了部署的多种方式之...
分类：
其他好文 时间：
2014-07-02 13:48:43
阅读次数：
299
在Kafka中，LogManager负责管理broker上所有的Log（每一个topic-partition为一个Log）。通过阅读源代码可知其具体完成的功能如下：
1. 按照预设规则对消息队列进行清理。
2. 按照预设规则对消息队列进行持久化（flush操作）。
3. 连接ZooKeeper进行broker、topic、partition相关的ZooKeeper操作。
4. 管理brok...
分类：
其他好文 时间：
2014-06-28 08:25:21
阅读次数：
208
http://www.zlovezl.cn/articles/40/简介： Zookeeper 分布式服务框架是 Apache Hadoop 的一个子项目，它主要是用来解决分布式应用中经常遇到的一些数据管理问题，如：统一命名服务、状态同步服务、集群管理、分布式应用配置项的管理等。具体简介可以参照这....
分类：
编程语言 时间：
2014-06-26 18:43:35
阅读次数：
281
zookeeper java调用 及 权限管理...
分类：
编程语言 时间：
2014-06-26 10:30:19
阅读次数：
206
Hbase是一个分布式,版本化(versioned)，构建在 Apache Hadoop和 Apache ZooKeeper上的列数据库.本文使用默认的Zookeeper，构造HDFS基础上的分布式Hbase。1 安装环境操作系统：Ubuntu-12.04 JDK版本：jdk1.7.0_51 计算....
分类：
其他好文 时间：
2014-06-26 00:31:04
阅读次数：
302
本文详细讲解了Spark在Standalone模式下的Master的HA的源码分析。
为了解决Standalone模式下的Master的SPOF，Spark采用了ZooKeeper提供的选举功能。Spark并没有采用ZooKeeper原生的Java API，而是采用了Curator，一个对ZooKeeper进行了封装的框架。采用了Curator后，Spark不用管理与ZooKeeper的连接，这些对于Spark来说都是透明的。Spark仅仅使用了100行代码，就实现了Master的HA。当然了，Spark是...
分类：
其他好文 时间：
2014-06-25 07:59:09
阅读次数：
183
1.Zookeeper是什么？
ZooKeeper是一个分布式的，开放源码的分布式应用程序协调服务。ZooKeeper的设计非常易于编程，它使用的是类似于文件系统那样的树形数据结构。他的数据都存在内存中，所以速度非常快，当然为了避免内存数据的丢失，所以数据也可以同时保存在硬盘上。
2.Zookeeper能做什么？
场景一：有一组服务器向客户端提供某种服务（例如：我前面做的分布式网...
分类：
其他好文 时间：
2014-06-22 16:55:46
阅读次数：
216
背景：最近在新产品的开发任务完成后一直在为寻找好的IDC和优质的托管服务忙碌。需求源自于我们重点要解决之前老版产品面临的国内外用户访问速度慢甚至连接不上的问题。除去架构技术上使用高性能、可扩展的方案，针对目前的并发量和数据量而言只要能保证网络质量的优质就可以达到较好的用户体验。
首先我们的产品平台数据需要较强的一致性、高可用性，而且很多是动态数据。根据CAP理论，我们首先否决了分布式部署...
分类：
其他好文 时间：
2014-06-22 09:30:17
阅读次数：
234
