storm 测试集群上一个supervisor 挂掉,查看日志发现:java.io.FileNotFoundException: File '/home/q/storm/storm-data/supervisor/stormdist/Track_NotFind-66-1372059953/storm...
分类:
其他好文 时间:
2015-05-04 11:28:44
阅读次数:
129
在上一次单词计数的基础上做如下改动: 使用 自定义 ?分组策略,将首字母相同的单词发送给同一个task计数 自定义?CustomStreamGrouping package com.zhch.v4;
import backtype.storm.generated.GlobalStreamId...
分类:
其他好文 时间:
2015-05-03 23:58:03
阅读次数:
344
在上一次单词计数的基础上做如下改动: 使用?Direct Grouping 分组策略,将首字母相同的单词发送给同一个task计数 数据源spout package com.zhch.v3;
import backtype.storm.spout.SpoutOutputCollector;
impor...
分类:
其他好文 时间:
2015-05-03 22:10:54
阅读次数:
311
在上一次单词计数的基础上做如下改动: 1. 使用可靠的消息处理机制 2. 配置?worker 、executor、task 数量 3. 使用集群模式提交 数据源spout package com.zhch.v2;
import backtype.storm.spout.SpoutOutputCo...
分类:
其他好文 时间:
2015-05-03 19:12:59
阅读次数:
173
概念: Workers (JVMs): 在一个节点上可以运行一个或多个独立的JVM 进程。一个Topology可以包含一个或多个worker(并行的跑在不同的machine上), 所以worker process就是执行一个topology的子集, 并且worker只能对应...
分类:
其他好文 时间:
2015-05-03 14:45:11
阅读次数:
114
Flume-ngFlume是一个分布式、可靠、和高可用的海量日志采集、聚合和传输的系统。 Flume的文档可以看http://flume.apache.org/FlumeUserGuide.html官方的英文文档 介绍的比较全面。 不过这里写写自己的见解这个是flume的架构图从上图可以看到几个名词...
分类:
Web程序 时间:
2015-05-02 01:01:18
阅读次数:
348
1.启动storm的各个进程:nohupstormnimbus&nohupstormsupervisor&nohupstormui&2.启动storm的topology:stormjarstormtopology10.jarcom.hc360.storm.BusinessTopologybusinessTopology1;3.杀掉storm进程:storm的进程可以通过jps列出所有进程,直接kill掉进程杀掉..
分类:
其他好文 时间:
2015-04-29 10:13:40
阅读次数:
116
storm问题总结(持续更新)1.yaml跟我们一般用的属性配置文件有所不同,它的要求更严格一些,因此在往conf/storm.yaml中添加配置的时候必须注意.比如必须注意开始位置和冒号后面的空格,否则配置不会生效.关于yaml相关的资料,网上有很多资料可以参考如何检查配置是否生效,可以使用命..
分类:
其他好文 时间:
2015-04-28 12:07:14
阅读次数:
249
Strom的结构 Storm与传统关系型数据库 ??? 传统关系型数据库是先存后计算,而storm则是先算后存,甚至不存 ??? 传统关系型数据库很难部署实时计算,只能部署定时任务统计分析窗口数据 ??? 关系型数据库重...
分类:
其他好文 时间:
2015-04-27 00:49:40
阅读次数:
171
Storm Starter例子RollingTopWords代码学习...
分类:
其他好文 时间:
2015-04-26 21:14:51
阅读次数:
825