Storm中Spout用于读取并向计算拓扑中发送数据源，最近在调试一个topology时遇到了系统qps低，处理速度达不到要求的问题，经过排查后发现是由于对Spout的使用模式不当导致的多线程同步等待。这里罗列几点个人觉得编写Spout代码时需要特别注意的地方。
分类：
其他好文 时间：
2014-06-29 14:53:27
阅读次数：
306
现有的hadoop生态系统中存在的问题1）使用mapreduce进行批量离线分析；2）使用hive进行历史数据的分析；3）使用hbase进行实时数据的查询；4）使用storm进行实时的流处理；5）。。。。。。导致：维护成本高、学习成本高Spark的出现弥补了Hadoop生态系统中的缺陷，使用spar...
分类：
其他好文 时间：
2014-06-28 14:08:46
阅读次数：
306
Apache Storm是一个免费、开源、分布式的实时计算系统。相对于Hadoop适用于批处理而言，利用Storm可以非常容易地对流式数据进行实时可靠处理。Storm使用简单，支持多种编程语言且非常有趣！...
分类：
其他好文 时间：
2014-06-26 14:20:52
阅读次数：
294
Storm官方文档分为几个部分：
第一部分，主要是有关Storm的一些入门介绍，具体涉及四个子项：前言、使用教程、环境安装、工程示例
第二部分，主要是一些专题介绍，针对Storm框架的一些核心内容进行深入讲解。因此，相对于第一部分而言，要深入一些，具体涉及三个子项：使用指南、Java doc、FAQ
第三部分，介绍如何从社区中获取帮助。
第四部分，介绍Storm周边生态。
对于前两部...
分类：
其他好文 时间：
2014-06-26 07:16:57
阅读次数：
239
之前对这个的理解有些问题，今天用到有仔细梳理了一遍，记录一下 首先开启storm tracker机制的前提是， 1. 在spout emit tuple的时候，要加上第3个参数messageid 2. 在配置中acker数目至少为1 3. 在bolt emit的时候，要加上第二个参数anchor t...
分类：
其他好文 时间：
2014-06-25 15:57:09
阅读次数：
251
学习Storm视频教程需要具有：Java基础、Linux基础；学习Storm视频教程可以提升的技能(Storm除外)：Zookeeper、Java、Linux
用到技术：Storm集群、Zookeeper集群等
涉及项目：网站PV、UV案例实战、其他案例
Storm视频教程 Storm入门教程-Storm流计算从入门到精通-技术篇，Storm视频教程全面、系统、深入讲解Storm，采用最新的稳定版本Storm 0.9.0.1 ；注重实践，对较抽象难懂的技术点如Grouping策略、并发度及线程安全、批...
分类：
其他好文 时间：
2014-06-18 12:38:14
阅读次数：
412
MRv1
Storm
JobTracker
Nimbus
TaskTracker
Supervisor
Child
Worker
Job
Topology
Map/Reduce
Spout/Blot
shuffle
Stream grouping...
分类：
其他好文 时间：
2014-06-16 21:24:47
阅读次数：
228
Hadoop2.0是对Hadoop1.0全面升级，诞生了通用的计算框架YARN，很多计算框架或者应用程序不再基于传统的操作系统开发，而是基于YARN这个云操作系统。典型的代表是DAG计算框架Tez，当然还有一些其他知名的自运行的计算集群系统也在YARN上有开源版本，比如Storm-on-yarn，S...
分类：
其他好文 时间：
2014-06-03 13:09:44
阅读次数：
336
自从建了Spark交流的QQ群之后，热情加入的同学不少，大家不仅对Spark很热衷对于Storm也是充满好奇。大家都提到一个问题就是有关storm内部实现机理的资料比较少,理解起来非常费劲。尽管自己也陆续对storm的源码走读发表了一些博文，当时写的时候比较匆忙，有时候衔接的不是太好，此番做了一些整...
分类：
其他好文 时间：
2014-05-30 07:25:09
阅读次数：
286
package com.storm.ui;import
android.content.Context;import android.graphics.Bitmap;import
android.graphics.Canvas;import android.graphics.Color;import...
分类：
其他好文 时间：
2014-05-24 14:07:05
阅读次数：
199
