搭建要求：
1.CDH环境已经搭建成功，在CDH上搭建kafka，要求用CDH上zookeeper管理kafka而不用kafka自带的zookeeper
2.kafka_2.11-0.8.2.1.tgz已经上传到kafka集群环境中
搭建步骤
1. 主机操作
修改hosts
10.10.0.11 s1-1
10.10.0.12 s1-2
10.10.0.13 s1-3
10.1...
分类：
其他好文 时间：
2015-06-03 23:30:26
阅读次数：
877
#receive the fileflume-ng agent --conf conf --conf-file conf1.conf --name a1flume-ng agent --conf conf --conf-file conf2.conf --name hdfs-agentflume-n...
分类：
数据库 时间：
2015-06-03 21:19:46
阅读次数：
288
数据分区存储
在topic内设置了多个分区，使kafka的消费者进程池能得到有序性保证和负载均衡，使得topic对应的消费组里的消费者们各自可以独享一个分区。如此的话，每个消费者是其消费的分区的唯一reader，在单个reader下当然保证了有序这件事。而且多个分区也使得负载可以比较平衡。
具体流程：
1. Producer根据指定的partition方法，将消息发布到指定topic的par...
分类：
其他好文 时间：
2015-06-02 23:27:07
阅读次数：
147
一、Flume介绍Flume是一个分布式、可靠、和高可用的海量日志聚合的系统，支持在系统中定制各类数据发送方，用于收集数据；同时，Flume提供对数据进行简单处理，并写到各种数据接受方（可定制）的能力。设计目标：(1) 可靠性当节点出现故障时，日志能够被传送到其他节点上而不会丢失。Flume提供了三...
分类：
Web程序 时间：
2015-06-02 16:59:17
阅读次数：
104
学习进度：服务端框架进度名称描述状态ThinkPHPphp MVC框架掌握yiiphp MVC框架spring mvcjava MVC框架common.js服务端：定义应用程序使用的APInode.js服务端：commonjs的实现kafka分布式消息系统，异步处理redisKV存储hadoopHD...
分类：
其他好文 时间：
2015-06-02 16:44:00
阅读次数：
95
十四、AbstractFetcherManager.scala该scala定义了两个case类和一个抽象类。两个case类很简单：1. BrokerAndFectherId：封装了一个broker和一个fetcher的数据结构2. BrokerAndInitialOffset：封装了broker和初...
分类：
其他好文 时间：
2015-06-02 10:51:12
阅读次数：
135
pom.xml 4.0.0 kafka_demo2 kafka_demo2 0.0.1-SNAPSHOT org.apache.kafka kafka_2.10 0.8.2.1 生产消息的代码:import java.util.Proper...
分类：
其他好文 时间：
2015-05-31 10:52:06
阅读次数：
141
Flume知识点：Event 是一行一行的数据
1.flume是分布式的日志收集系统，把收集来的数据传送到目的地去。
2.flume里面有个核心概念，叫做agent。agent是一个java进程，运行在日志收集节点。
3.agent里面包含3个核心组件：source、channel、sink。
3.1 source组件是专用于收集日志的，可以处理各种类型各种格式的日志数据,包括avro...
分类：
Web程序 时间：
2015-05-30 19:55:17
阅读次数：
155
原文:http://mp.weixin.qq.com/s?__biz=MjM5NzAyNTE0Ng==&mid=205526269&idx=1&sn=6300502dad3e41a36f9bde8e0ba2284d&key=c468684b929d2be22eb8e183b6f92c75565b81...
分类：
数据库 时间：
2015-05-28 21:11:11
阅读次数：
769
使用Kafka的同学都知道，我们每次创建Kafka主题（Topic）的时候可以指定分区数和副本数等信息，如果将这些属性配置到server.properties文件中，以后调用Java API生成的主题将使用默认值，先改变需要使用命令bin/kafka-topics.sh --zookeeper lo...
分类：
编程语言 时间：
2015-05-28 17:45:49
阅读次数：
458
