HDFS数据管理1、设置元数据与数据的存储路径,通过
dfs.name.dir,dfs.data.dir,fs.checkpoint.dir(hadoop1.x)、
hadoop.tmp.dir,dfs.namenode.name.dir,dfs.namenode.edits.dir,dfs.datanode.data.dir(hadoop2.x)等属性来设置;2、经常执行HDFS文件系统检查工...
分类:
其他好文 时间:
2015-06-16 23:03:33
阅读次数:
329
原文:http://dockone.io/article/423文章总结的非常好, 算是科普类文章, 不过一直有一个疑问, immutable servers如何解决频繁的本地小文件更新的问题?Docker很火很红,简直到了没有道理的地步了。Docker为什么这么红?因为它是一种可以用来掀桌子的技术...
分类:
其他好文 时间:
2015-06-14 10:56:58
阅读次数:
212
源地址:http://www.open-open.com/lib/view/open1415453633887.htmlzookeeper简介阅读目录1、 文件系统2、 通知机制1、 命名服务2、 配置管理3、 集群管理分布式与数据复制数据一致性与paxos算法2.3.1 Leader工作流程2.3...
分类:
其他好文 时间:
2015-06-09 19:03:56
阅读次数:
115
前言因heartbeatv1内置的资源管理器haresource功能比较简单,且不支持图形化管理,所以heartbeatv2不再支持haresource,转而使用更加强大的资源管理器crm进行集群管理。本文将讲解如何基于heartbeatv2crm实现基于nfs的mysql高可用集群。高可用实现实验拓扑实验环境node1:172.16..
分类:
数据库 时间:
2015-06-09 14:00:43
阅读次数:
383
【编者的话】本篇文章是介绍Docker生态系统的第一篇,不仅从概念上介绍了容器化、服务发现和全局配置存储、网络工具、调度、集群管理和编排这几部分内容,而且配以清晰易懂的例子进行讲解说明,非常值得读者称赞。Docker是现在使用最多的容器化软件。与其它已经存在的容器化系统相比,Docker可以更加简单的创建和管理容器,并与其它开源软件集成。
简介
容器化是一个以可移植和可预测...
分类:
其他好文 时间:
2015-06-01 20:34:54
阅读次数:
155
1、管理集群服务(1)创建或修改ipvsadm-A|E-t|u|fservice-address[-sscheduler]-A添加-E修改-t承载的应用层协议为基于TCP协议提供服务的协议,其server-address的格式为”VIP:PORT“,如172.16.100.6:80-u承载的应用层协议为基于UDP协议提供服务的协议,其server-address的格..
分类:
Web程序 时间:
2015-05-24 19:08:38
阅读次数:
334
Zookeeper应用场景:
分布式队列
FIFO(先进先出)
Barrier(同步队列)
共享锁
集群管理
leader选举
命名服务
分布式应用配置项的管理等
FIFO设计思路
1.在/queue-fifo的目录下创建 SEQUENTIAL 类型的子目录 /x(i),这样就能保证所有成员加入队列时都是有编号的。
2.出队列时通过 getChildr...
分类:
其他好文 时间:
2015-05-23 00:03:00
阅读次数:
219
Zookeeper 作为一个分布式的服务框架,主要用来解决分布式集群中应用系统的一致性问题,它能提供基于类似于文件系统的目录节点树方式的数据存储,但是 Zookeeper 并不是用来专门存储数据的,它的作用主要是用来维护和监控你存储的数据的状态变化。通过监控这些数据状态的变化,从而可以达到基于数据的集群管理
1. ZooKeeper是否对ZNode有大小限制
如果你仔细看过ZooKeepe...
分类:
其他好文 时间:
2015-05-21 19:41:23
阅读次数:
157
Matrix是国内业界第一个成功构建、并且大规模应用的基于轻量虚拟化技术的、可以实现机器共享的集群管理系统,是百度内部架构、业务平台的基石。类似的系统目前除了Google Borg/Omega外,在国内整个业界还没有成功案例。 目前Matrix已经托管了百度所有离线计算(包括代理计算)和分布式存储,以及搜索、广告系统、社区的大部分核心系统,目前规模超过30%的服务器。 在Matrix上已经实现了机器...
分类:
其他好文 时间:
2015-05-10 09:44:49
阅读次数:
154
1.集群管理 在我们的业务场景中,服务间通信的url是通过zookeeper来管理的。我们服务间,当A和B服务需要建立连接时,服务启动时,首先回去建立和ZK的连接,然后在事先定义好的节点获取url列表,并且注册事件,zk节...
分类:
其他好文 时间:
2015-04-30 16:22:45
阅读次数:
164