基础http://os.51cto.com/art/201308/408739.htm模型http://www.cnblogs.com/linjiqin/archive/2013/05/28/3104016.html一、Storm基本概念在运行一个Storm任务之前,需要了解一些概念:Topolog...
分类:
其他好文 时间:
2015-05-25 18:20:10
阅读次数:
374
Storm几个重要的优化isusse,含有升级讨论的详细细节,供开发者和使用者参考。...
分类:
其他好文 时间:
2015-05-25 16:37:21
阅读次数:
114
美团的日志收集系统负责美团的所有业务日志的收集,并分别给Hadoop平台提供离线数据和Storm平台提供实时数据流。美团的日志收集系统基于Flume设计和搭建而成。《基于Flume的美团日志收集系统》将分两部分给读者呈现美团日志收集系统的架构设计和实战经验。第一部分架构和设计,将主要着眼于日志收集系...
分类:
Web程序 时间:
2015-05-25 16:33:38
阅读次数:
173
从现有的CEP(Complex Event Processing)框架,像强大得Esper,我们学到很多工作完全可以通过写sql来完成的,不需要编写任何的代码。所以对于流处理我认为也需要这样的类似sql查询语言。目前像Storm这样的流处理平台框架强迫使用者去实现像silding window,一些query pattern的操作。我认为并不是每一个案例开发者都喜欢重写这些东西。所以我们需要high...
分类:
数据库 时间:
2015-05-25 13:05:31
阅读次数:
200
前言
什么是storm,storm是做什么的,一个简单的描述,你可以理解为是一个“准实时”的Hadoop,Hadoop是专门做的是离线数据处理,而storm则弥补了Hadoop在这方面的不足,他是一个实时数据处理的平台。至于Storm的各种由来,就不一一在这里废话了,之前我写的某篇文章讲述了部分的Storm的代码结构,详情点击这里。
Storm的总体架构
先来了解一下Storm的整体结构,S...
分类:
其他好文 时间:
2015-05-25 10:10:20
阅读次数:
128
1、实验环境:centos6.4jdk1.8.0CDH-5.3.2-1storm0.9.32、准备条件yuminstalllibtoolyuminstallgcc-c++yuminstalluuid-develyuminstalllibuuid-devel安装ZeroMQgitclonehttps://github.com/zeromq/zeromq2-x.git./autogen.sh./configuremake&&makeinstall安装jzmqgitcl..
分类:
其他好文 时间:
2015-05-25 06:18:23
阅读次数:
136
上篇博客比较了目前流行的计算框架特性,如果你是 Java 开发者,那么根据业务场景选择即可;但是如果你是 .Net 开发者,那么三者都不能拿来即用,至少在这篇文章出现之前是如此。基于上篇文章的比较发现,Storm 应该是对多语言支持比较好的框架了,但即便如此,官方也没有提供 .Net 的适配器,网上...
分类:
Web程序 时间:
2015-05-24 17:11:08
阅读次数:
151
SimpleTopology.javapackagecom.zgl.helloword;
importbacktype.storm.Config;
importbacktype.storm.LocalCluster;
importbacktype.storm.StormSubmitter;
importbacktype.storm.topology.TopologyBuilder;
/**
*定义了一个简单的topology,包括一个数据喷发节点spout和一个..
分类:
其他好文 时间:
2015-05-22 19:40:14
阅读次数:
130
Storm的并行度是非常重要的,通过提高并行度可以提高storm程序的计算能力。那strom是如何提高并行度的呢?Strom程序的执行是由多个supervisor共同执行的。supervisor运行的是topology中的spout/bolttasktask是storm中进行计算的最小的运行单位,表示是spout或者bolt的运行实例..
分类:
其他好文 时间:
2015-05-22 19:35:56
阅读次数:
121
Storm的并行度是非常重要的,通过提高并行度可以提高storm程序的计算能力。那strom是如何提高并行度的呢?Strom程序的执行是由多个supervisor共同执行的。supervisor运行的是topology中的spout/bolt tasktask是storm中进行计算的最小的运行单位,...
分类:
其他好文 时间:
2015-05-22 16:42:33
阅读次数:
175