storm事件管理器定义在event.clj中,主要功能就是通过独立线程执行"事件处理函数"。我们可以将"事件处理函数"添加到EventManager的阻塞队列中,EventManager的事件处理线程不断地从阻塞队列中获取"事件处理函数"并执行。EventManager协议协议就是一组函数定义的集...
分类:
其他好文 时间:
2014-08-31 14:21:21
阅读次数:
219
关于流处理框架,在先前的文章汇总已经介绍过Strom,今天学习的是来自阿里的的流处理框架JStorm。简单的概述Storm就是:JStorm 比Storm更稳定,更强大,更快,Storm上跑的程序,一行代码不变可以运行在JStorm上。...
分类:
Web程序 时间:
2014-08-31 00:34:50
阅读次数:
333
storm操作zookeeper的主要函数都定义在命名空间backtype.storm.cluster中(即cluster.clj文件中)。 backtype.storm.cluster定义了两个重要protocol:ClusterState和StormClusterState。clojure中的p...
分类:
其他好文 时间:
2014-08-30 13:48:29
阅读次数:
154
近期遇到一些同学询问Storm-0.9.2-incubating源代码编译打包的问题,现将编译步骤说明例如以下:1、凝视掉project各pom文件里关于maven插件(maven-gpg-plugin)的内容,目的是规避错误:当然,该错误也能够忽略,即能够不进行上述凝视操作2、在project根文...
分类:
其他好文 时间:
2014-08-29 22:34:08
阅读次数:
300
安装Kafka集群
假设我们有集群中,需要配置4个broker,形成下面图表的Kafka集群。
2.1 配置文件
配置所有的Kafka的Producer文件,其中,brokerpid的值是独一无二的数字值。几个核心属性如下:
# The id of the broker.This must be set to a unique integer for each broke...
分类:
其他好文 时间:
2014-08-29 11:05:47
阅读次数:
293
编程
Producer是一个应用程序,它创建消息并发送它们到Kafka broker中。这些producer在本质上是不同。比如,前端应用程序,后端服务,代理服务,适配器对于潜在的系统,Hadoop对于的Producer。这些不同的Producer能够使用不同的语言实现,比如java、C和Python。下面的这部图表解释了消息producer的Kafka API.
下面将详...
分类:
其他好文 时间:
2014-08-29 11:03:57
阅读次数:
277
Apache Kafka是一个开源、分布式发布订阅消息系统,主要设计了下面这些特性:
l 持久化消息:从大数据中提取真正的数据值,任何类型的数据丢失都不能够再获取。Apache Kafka提供了持续时间存储大容量消息,其容量按顺心可以达到TB。
l 高吞吐量:为大数据而生,Kafka就是运行在商业硬件上而设计的,它支持每秒百万消息量。
l 分布式:A...
分类:
其他好文 时间:
2014-08-29 11:03:47
阅读次数:
235
storm操作zookeeper的主要函数都定义在命名空间backtype.storm.cluster中(即cluster.clj文件中)。backtype.storm.cluster定义了两个重要protocol:ClusterState和StormClusterState。clojure中的pr...
分类:
其他好文 时间:
2014-08-26 22:38:32
阅读次数:
354
在nimbus 节点上执行 “nohup jstorm nimbus &”, 查看$JSTORM_HOME/logs/nimbus.log检查有无错误 在supervisor节点上执行 “nohup jstorm supervisor &”, 查看$JSTORM_HOME/logs/supervisor.log检查有无错误...
分类:
Web程序 时间:
2014-08-26 11:59:36
阅读次数:
427
storm定时器timer源码分析-timer.clj
分类:
其他好文 时间:
2014-08-24 16:34:22
阅读次数:
265