supervisor是storm集群重要组成部分，supervisor主要负责管理各个"工作节点"。supervisor与zookeeper进行通信，通过zookeeper的"watch机制"可以感知到是否有新的任务需要认领或哪些任务被重新分配。我们可以通用执行bin/storm superviso...
分类：
其他好文 时间：
2014-09-24 23:03:27
阅读次数：
383
Next,packagethesourceintoajar,whichissentwhenyouruntheStormClientcommandtosubmitthetopology.BecauseyouusedMaven,theonlythingyouneedtodoisgotothesourcefolderandrunthefollowing:mvnpackageOnceyouhavethegeneratedjar,usethestormjarcommandtosubmitthetopology(yous..
分类：
其他好文 时间：
2014-09-24 18:31:28
阅读次数：
191
今天有个storm的topology被人kill掉了，但是找不到是谁做的，storm的ui有killtopology的功能，但是没有权限验证，这样就导致知道ui地址的任何人都可以kill掉topology，比较危险，考虑把这个actiondisable掉。有两种方法：1.前端增加nginx，做location分析ui页面，对应kill的but..
分类：
其他好文 时间：
2014-09-24 04:41:26
阅读次数：
212
package storm.starter;import backtype.storm.Config;import backtype.storm.LocalCluster;import backtype.storm.LocalDRPC;import backtype.storm.StormSubmi...
分类：
其他好文 时间：
2014-09-23 21:33:45
阅读次数：
245
最近在使用storm做了一下数据处理性能测试。 ? ? Topology结构：spout输出80万数据（csv格式）；bolt1解析csv，拆分各信息段；bolt2按bolt1中某个字段汇总，累加记数后入库（入库触发频率：60s）。 ? ?...
分类：
其他好文 时间：
2014-09-23 17:43:35
阅读次数：
179
Storm是一个分布式的、可靠的、容错的数据流处理系统（流式计算框架，可以和mapreduce的离线计算框架对比理解）。 整个任务被委派给不同的组件，每个组件负责一个简单的特定的处理任务。Storm集群的输入流是一个叫...
分类：
其他好文 时间：
2014-09-23 13:10:17
阅读次数：
348
本文一个简单的示例演示LVS的配置(DR模式)和测试。使用的配置环境如下:Director server: 192.168.8.4Real server1: 192.18.8.5Real server2: 192.168.8.6VIP: 192.168.8.200网络topology图如下:图2中的VIP指的是虚拟IP地址，还可以叫做LVS集群的服务IP，在DR、TUN模式中，数据包是直接返回给用...
分类：
系统相关 时间：
2014-09-21 18:13:11
阅读次数：
349
计算topNwords的topology,用于比如trendingtopicsortrendingimagesonTwitter.实现了滑动窗口计数和TopN排序,比较有意思,具体分析一下代码Topology这是一个稍微复杂些的topology,主要体现在使用不同的grouping方式,fields...
分类：
其他好文 时间：
2014-09-19 21:05:06
阅读次数：
274
nimbus是storm集群的"控制器"，是storm集群的重要组成部分。我们可以通用执行bin/storm nimbus >/dev/null 2>&1 &来启动nimbus。bin/storm是一个python脚本，在这个脚本中定义了一个nimbus函数：nimbus函数def nimbus(k...
分类：
其他好文 时间：
2014-09-15 22:33:00
阅读次数：
594
1、当一个worker死掉会发生什么？ 当一个worker死掉，那么supervisor会重新启动这个worker。如果它总是启动失败将不能发送心跳到nimbus，那么nimbus将把这个worker分配到另一台机器上。2、当一个节点死掉将会发生什么？ 分配给这台机器的任务将会超时，那么nimb.....
分类：
其他好文 时间：
2014-09-15 15:50:49
阅读次数：
173
