Hadoop下HDFS文件系统在这里我们对Hadoop的基本概念,历史功能就不做过多的阐述,重点在对于他的文件系统做一些了解和阐述。HDFS(Hadoopdistributedfilesystem)是一个分布式文件系统。具有高容错性(fault-tolerant),使得他能够部署在低廉的硬件上。他可以提供高吞吐率来访..
分类:
其他好文 时间:
2014-12-09 02:03:50
阅读次数:
269
1.HDFS的定义与特色以文件为基本存储单位的劣势:难以实现负载均衡——文件大小不同,负载均衡难实现;用户自己控制文件大小; 难以实现并行化处理——只能利用一个节点资源处理一个文件,无法动用集群资源;HDFS的定义:易于扩展的分布式文件系统;运行在大量廉价机器上,提供容错...
分类:
其他好文 时间:
2014-12-08 21:12:24
阅读次数:
268
启用EnhancedvMotionCompatibility(EVC)功能,可以将vSphereFaultTolerance与vSphereDistributedResourceScheduler(DRS)配合使用。此过程不但可使容错虚拟机受益于更好的初始放置位置,还可以将其纳入群集的负载平衡计算中。当群集启用了EVC时,DRS将为容错虚拟机提出初始..
分类:
其他好文 时间:
2014-12-07 15:08:17
阅读次数:
283
转至元数据起始
Apache Sqoop是用来实现结构型数据(如关系数据库)和Hadoop之间进行数据迁移的工具。它充分利用了MapReduce的并行特点以批处理的方式加快数据的传输,同时也借助MapReduce实现了容错。
项目地址:http://sqoop.apache.org/
目前为止,已经演化出了2个版本:sqoop1和sqoop2。
sqoop1的最新版本是1.4....
分类:
其他好文 时间:
2014-12-05 14:21:44
阅读次数:
335
《世界是数字的》是世界顶尖计算机科学家Brian W.Kernighan写的一本计算机科普类读物,简明扼要但又深入全面地解释了计算机和通信系统背后的秘密,适合计算机初学者和非计算机专业的人读。这真的是一本好书,借Google常务董事长的话:对计算机、互联网及其背后的奥秘充满好奇的人们,这绝对是一本不容错过的好书。对于一个计算机已经学了N年的专业人士来说,这本书也许简单了点,不过我还是认真过了一遍,...
分类:
其他好文 时间:
2014-12-04 21:39:02
阅读次数:
265
学习Erlang的时候在书的留白处随手记录了一些东西,还有一些记录在了demo的注释里面,今天抽时间整理出来了一部分,分享一下.Erlang的设计哲学是为每一个独立的事件创建一个新进程.Erlang的容错处理:如果不能完成一个任务就死掉 让其它正常的进程来善后。link函数就是用来建立这种进程间的双...
分类:
其他好文 时间:
2014-12-04 13:36:47
阅读次数:
300
本文翻译自:?https://github.com/nathanmarz/storm/wiki/Tutorial Storm是一个分布式的、高容错的实时计算系统。 Storm对于实时计算的的意义相当于Hadoop对于批处理的意义。Hadoop为...
分类:
其他好文 时间:
2014-12-04 01:13:02
阅读次数:
467
Dubbo作为一个分布式的服务治理框架,提供了集群部署,路由,软负载均衡及容错机制
下图描述了dubbo调用过程中的对于集群,负载等的调用关系。
Cluster
将Directory中的多个Invoker伪装成一个Invoker, 对上层透明,包含集群的容错机制
Cluster接口定义
@SPI(FailoverCluster.NAME)
public
interf...
分类:
其他好文 时间:
2014-12-03 21:33:00
阅读次数:
122
集群目录服务Directory, 代表多个Invoker, 可以看成List,它的值可能是动态变化的比如注册中心推送变更。集群选择调用服务时通过目录服务找到所有服务
Directory的接口定义
public
interfaceDirectory extends Node {
//服务类型
ClassgetInterface();
//列出所有服务的可执行对象
List>l...
分类:
其他好文 时间:
2014-12-03 21:31:29
阅读次数:
149
Router服务路由, 根据路由规则从多个Invoker中选出一个子集AbstractDirectory是所有目录服务实现的上层抽象, 它在list列举出所有invokers后,会在通过Router服务进行路由过滤。
Router接口定义
public
interface Router extendsComparable {
URL getUrl();
List> route...
分类:
其他好文 时间:
2014-12-03 21:30:29
阅读次数:
151