hop_to_compute_node利用hop_to_compute_node对互联网络中得节点进行粗粒度分类: 0 计算节点 1 边缘路由 >=2 核心路由这个值描述了相应节点与计算节点的距离,可以以此为依据,从仅仅给出邻接关系的topo结构中发现“树”(fat-tree, e.g.)结构...
分类:
其他好文 时间:
2015-03-30 11:14:40
阅读次数:
129
【原】storm源码之storm代码结构【译】说明:本文翻译自Storm在GitHub上的官方Wiki中提供的Storm代码结构描述一节Structure of the codebase,希望对正在基于Storm进行源码级学习和研究的朋友有所帮助。Storm的源码共分为三个不同的层次。首先,Stor...
分类:
其他好文 时间:
2015-03-28 23:11:22
阅读次数:
218
【原】storm源码之理解Storm中Worker、Executor、Task关系Storm在集群上运行一个Topology时,主要通过以下3个实体来完成Topology的执行工作:1. Worker(进程)2. Executor(线程)3. Task下图简要描述了这3者之间的关系: ...
分类:
其他好文 时间:
2015-03-28 23:08:08
阅读次数:
171
【原】storm源码之一个class解决nimbus单点问题一、storm nimbus 单节点问题概述1、storm集群在生产环境部署之后,通常会是如下的结构: 从图中可以看出zookeeper和supervisor都是多节点,任意1个zookeeper节点宕...
分类:
其他好文 时间:
2015-03-28 22:59:02
阅读次数:
181
来自:http://blog.csdn.net/jmppok/article/details/17244599在创建Storm的Topology时,我们通常使用如下代码:builder.setBolt("cpp",newCppBolt(),3).setNumTasks(5).noneGrouping...
分类:
其他好文 时间:
2015-03-20 16:15:33
阅读次数:
111
安装前说明: 必须先安装zookeeper集群 该Storm集群由三台机器构成,主机名分别为chenx01,chenx02,chenx03,对应的IP分别为192.168.1.110,192.168.1.111,192.168.1.112,其中chenx01为MAST 1、修改主机名 vim /et...
分类:
其他好文 时间:
2015-03-19 23:24:56
阅读次数:
114
机房断电,所有服务器的重启了,在重新启动storm,nimbus和ui都成功启动了,supervisor总是启动失败,报什么EOF的错误,百度了很久,说在conf/storm.yaml文件中,删除配置的storm.local.dir目录下的所有文件,我认为nimbus和ui都启动成功,就只删除了supervisor的文件夹,结果..
分类:
其他好文 时间:
2015-03-19 16:31:48
阅读次数:
2886
微软向Linux用户提供Hadoop on Azure服务 目前HDInsight支持的唯一Linux版本是Ubuntu(在虚拟机中),是由Canonical提供支持的。微软现在已经开始提供Storm for Azure HDInsight。Storm是一种开源的流分析平台,已经从2014年10...
分类:
其他好文 时间:
2015-03-17 10:12:00
阅读次数:
196
topology在服务端提交过程中,会经过一系列的验证和初始化:TP结构校验、创建本地目录并拷贝序列化文件jar包、生成znode用于存放TP和task等信息,最后一步才进行任务分配,如下图:
提交主函数位于ServiceHandler.java中
private void makeAssignment(String topologyName, String topologyId,
...
分类:
Web程序 时间:
2015-03-16 19:21:04
阅读次数:
176
1.topology: 1 #include 2 #include 3 #include 4 #include 5 #include 6 #include 7 #include 8 9 using namespace std;10 11 #define EPS 1e-612 #def...
分类:
其他好文 时间:
2015-03-15 02:02:38
阅读次数:
245