package com.doctor.logbackextend;
import java.util.HashMap;
import java.util.List;
import java.util.Map;
import java.util.Properties;
import kafka.consumer.Consumer;
import kafka.consumer.ConsumerCo...
分类：
Web程序 时间：
2014-10-26 09:07:44
阅读次数：
383
流程：1.X端发送数据到kafka（如web端发送的订单数据）。2.storm从kafka获取数据进行分析。 a.storm与kafka整合，获得数据——Sport b.storm对数据进行分析——Bolt 3.结果保存和显示（或者传给别人）。 a.将结果保存到DB（Hbase，redi...
分类：
其他好文 时间：
2014-10-25 17:13:49
阅读次数：
220
之前写了2篇文章讲述了Storm的基本知识。最近也学习了Storm的高级属性了，单纯粹还是属于了解的状态。我就简单介绍几个比较简单的属性。
1.DRPC。简称分布式RPC，模型图:
用户直接面对的是DRPC Server，避开了所有的拓扑逻辑，Storm提供了一个名为LinearDRPCTopologyBuilder的线性拓扑构建器，他把DRPC所做的几乎所有步骤都自动...
分类：
其他好文 时间：
2014-10-25 09:21:51
阅读次数：
200
最近研究Storm的Stream Grouping的时候，对Field Grouping和Shuffle Grouping理解不是很透彻。去看WordCountTopology也不怎么理解，后来脑洞一开，加了一行代码再次运行，彻底顿悟。只能说自己对Storm的基本概念还是没吃透啊。...
分类：
其他好文 时间：
2014-10-25 00:52:08
阅读次数：
224
kafka自己居然没有还一个Web管理界面。。
这里有个第三方的：
https://github.com/claudemamo/kafka-web-console
坑爹的是居然没有详细的安装步骤，只有一些简单的说明，对于不熟悉scala play开发的人来说，很蛋疼。下面记录详细的安装过程。
先下载安装scala的构建工具sbt，最新版本可以到官网查看：
http://ww...
分类：
Web程序 时间：
2014-10-24 20:53:54
阅读次数：
253
在storm中的Bolt中可以处理完成逻辑后，向后面的Blot继续发送消息。可以发送多个不同的消息，如：collector.emit("update-delivered-status",new Values(emailDeliverStatus)); collector.emit("save-...
分类：
其他好文 时间：
2014-10-24 12:44:07
阅读次数：
313
Kafka 分布式消息队列 类似产品有JBoss、MQ一、由Linkedln 开源，使用scala开发，有如下几个特点：（1）高吞吐（2）分布式（3）支持多语言客户端 （C++、Java）二、组成: 客户端是 producer 和 consumer，提供一些API，服务器端是Broker，客户端提供...
分类：
其他好文 时间：
2014-10-23 16:13:44
阅读次数：
199
今天重启了下Hadoop集群，使用Eclipse调试hdfs api的时候报错：[WARNING] java.lang.NullPointerException at org.conan.kafka.HdfsUtil.batchWrite(HdfsUtil.java:50) at org...
分类：
其他好文 时间：
2014-10-23 12:20:22
阅读次数：
254
flume是一个实时消息收集系统，它定义了多种的source、channel、sink，可以根据实际情况选择。Flume下载及文档：http://flume.apache.org/Kafkakafka是一种高吞吐量的分布式发布订阅消息系统，她有如下特性：通过O(1)的磁盘数据结构提供消息的持久化，这种结构对于即使数以TB的..
分类：
Web程序 时间：
2014-10-22 18:36:34
阅读次数：
338
上篇文章本人简单的介绍了Storm的起源，今天本人又继续学习了Storm的基本的一些知识，基本了解了他的基本用法，还好，不算太难，如果大家了解了Hadoop的MapReduce模型的话，看这个也是非常类似的。在了解Storm的原型时，首先了解一些概念。
1.Tuple(元组)，作为消息传递的基本单元，元组中的字段可以是任何类型的对象。元组会用于后面提到的Bolt方法的execute方法。
2....
分类：
其他好文 时间：
2014-10-22 11:10:34
阅读次数：
212
