最近我在做流式实时分布式计算系统的架构设计,而正好又要参见CSDN博文大赛的决赛。本来想就写Spark源码分析的文章吧。但是又想毕竟是决赛,要拿出一些自己的干货出来,仅仅是源码分析貌似分量不够。因此,我将最近一直在做的系统架构的思路整理出来,形成此文。为什么要参考Storm和Spark,因为没有参照效果可能不会太好,尤其是对于Storm和Spark由了解的同学来说,可能通过对比,更能体会到每个具体实现背后的意义。
本文对流式系统出现的背景,特点,数据HA,服务HA,节点间和计算逻辑间的消息传递,存储模型,...
分类:
其他好文 时间:
2014-08-02 18:25:23
阅读次数:
489
HDFS2.0之HA主备NameNode: 1、主NameNode对外提供服务,备NameNode同步主NameNode元数据,以待切换; 2、主NameNode的信息发生变化后,会将信息写到共享数据存储系统中让备NameNode合并到自己的内存中; 3、所有DataNode同时向两个Name...
分类:
其他好文 时间:
2014-08-02 17:53:53
阅读次数:
383
作为个人学习笔记分享,有任何问题欢迎交流!
Fuel HA组成
OpenStack生产环境推荐使用HA,以避免单点故障,下图为Fuel HA设计图,HA要求有3个控制节点。
1)Pacemaker Cluster :Pacemaker Cluster 由Pacemaker和Corosync组成,Pacemaker是一个集群资源管理器。它利用你喜欢的集群基础构件(O...
分类:
其他好文 时间:
2014-08-02 12:49:53
阅读次数:
373