参考文档:zookeeper中文网 一、介绍安装 zookeeper 是一个高效的分布式协调服务,它暴露了一些公用服务,比如命名/配置/同步控制/群组服务等。我们可以使用ZK来实现一些功能,例如:达成共识/集群管理/leader选举等,也是一个高可用的分布式管理与协调框架,基于ZAB算法(原子消息广 ...
分类:
其他好文 时间:
2016-11-22 20:28:50
阅读次数:
457
一、前言 上一篇博文讲解了Zookeeper的典型应用场景,在大数据时代,各种分布式系统层出不穷,其中,有很多系统都直接或间接使用了Zookeeper,用来解决诸如配置管理、分布式通知/协调、集群管理和Master选举等一系列分布式问题。 二、 Hadoop Hadoop的核心是HDFS(Hadoo ...
分类:
其他好文 时间:
2016-11-17 00:36:10
阅读次数:
178
摘要 1.num-executors 2.executor-memory 3.executor-cores 4.driver-memory 5.spark.default.parallelism 6.spark.storage.memoryFraction 7... ...
分类:
其他好文 时间:
2016-11-04 01:13:27
阅读次数:
443
Zookeeper 分布式服务框架是 Apache Hadoop 的一个子项目,它主要是用来解决分布式应用中经常遇到的一些数据管理问题,如:统一命名服务、状态同步服务、集群管理、分布式应用配置项的管理等。本文将从使用者角度详细介绍 Zookeeper 的安装和配置文件中各个配置项的意义,以及分析 Z ...
分类:
其他好文 时间:
2016-10-26 06:53:21
阅读次数:
217
RHCS套件搭建与配置RHCS(RedHatClusterSuite)提供了多种集群配置和管理工具,常用的有基于GUI的system-config-cluster,conga等,也提供了基于命令行的管理工具.system-config-cluster是一个用于创建集群和配置集群节点的图形化管理工具,它由集群节点配置和集群管理两个部分组成,..
分类:
其他好文 时间:
2016-10-25 03:26:22
阅读次数:
520
Session共享有多种解决方法,常用的有四种:客户端Cookie保存、服务器间Session同步、使用集群管理Session、把Session持久化到数据库。 1.客户端Cookie保存 以cookie加密的方式保存在客户端,每次session信息被写在客户端,然后经浏览器再次提交到服务器,即使两 ...
分类:
其他好文 时间:
2016-10-25 02:04:48
阅读次数:
238
图1nagios改造后的整体架构图图2为nagios增加的监控按组出图图3底层调用saltstack实现服务器的集群管理
分类:
移动开发 时间:
2016-10-14 01:02:04
阅读次数:
301
docker k8s + flannel kubernetes 是谷歌开源的 docker 集群管理解决方案。 项目地址: http://kubernetes.io/ 测试环境: node-1: 10.6.0.140node-2: 10.6.0.187node-3: 10.6.0.188 kuber ...
分类:
其他好文 时间:
2016-10-09 14:28:30
阅读次数:
393
集群原理集群的原理实际上是基于共享存储。物理主机间通过集群通信口维持集群通信,更新主机状态。虚拟机运行在物理机上,虚拟机连接到虚拟交换机上,虚拟机通过虚拟交换机桥接到物理机的物理网口上连接外网。启动集群虚拟机时会做一些检测,过滤出不满足虚拟机运行要求的主机..
分类:
其他好文 时间:
2016-09-26 21:47:11
阅读次数:
277
在hadoop生态圈里,很多地方都需zookeeper。 启动的时候,都是普通的server,但在启动过程中,通过一个特定的选举机制,选出一个leader。 只运行在一台服务器上,适合测试环境;Zookeeper 的启动脚本在 bin 目录下;在启动脚本之前,还有几个基本的配置项需要配置一下, ti ...