阅读前提： ????????1 ： 您可能需要对 ?logback 日志系统有所了解 ???? ? ?2 ：您可能需要对于?kafka 有初步的了解 ???? ? ?3：请代码查看之前，请您仔细参考系统的业务图解 ? ? ? ? ...
分类：
其他好文 时间：
2014-09-10 16:01:21
阅读次数：
258
翻译自：http://flume.apache.org/FlumeUserGuide.html#data-flow-model 通过翻译学习Flume，不喜勿喷。 简介 Apache Flume是一个分布式的，高可靠，高可用的系统，主要用于高效从各种数据源的收集、聚合、移动大量的日志数据 并对收集到...
分类：
其他好文 时间：
2014-09-10 14:10:40
阅读次数：
222
一、什么是kafka?kafka是LinkedIn开发并开源的一个分布式MQ系统，现在是Apache的一个孵化项目。在它的主页描述kafka为一个高吞吐量的分布式（能将消息分散到不同的节点上）MQ。Kafka仅仅由7000行Scala编写，据了解，Kafka每秒可以生产约25万消息（50MB），每秒处理55万消息（11..
分类：
其他好文 时间：
2014-09-10 02:50:40
阅读次数：
342
最近在研究Zookeeper Storm Kafka, 顺便在本地搭了一套集群, 遇到了Zookeeper日志问题输出路径的问题, 发现zookeeper设置log4j.properties不能解决日志路径问题, 发现解决方案如下:1. 修改log4j.properties, 这个大家都应该会改, ...
分类：
其他好文 时间：
2014-09-04 23:31:00
阅读次数：
607
http://kafka.apache.org/08/configuration.html Broker Configs 4个必填参数， broker.id Each broker is uniquely identified by a non-negative integer id broker唯...
分类：
其他好文 时间：
2014-09-04 18:33:49
阅读次数：
174
一、安装环境agent:192.168.7.101hdfs:192.168.7.70(namenode)192.168.7.71(datanode)192.168.7.72(datanode)192.168.7.73(datanode)操作系统：CentOS6.3x86_64须用到的软件包:jdk-1.7.0_65-fcs.x86_64flume-ng-1.5.0flume-ng-agent-1.5.0hadoop-2.3.0+cdh5.1.0cat/etc/hosts19..
分类：
其他好文 时间：
2014-09-03 15:05:57
阅读次数：
252
在处理工作问题的时候需要查看防火墙的日志，由于默认日志都是在系统日志里/var/log/messages里面。需要对rsyslog做设置。首先编辑配置文件/etc/rsyslog.conf如下：# Log all kernel messages to the console.# Logging mu...
分类：
其他好文 时间：
2014-09-03 14:38:16
阅读次数：
179
0.8的官方文档提供了一个删除topic的命令：kafka-topics.sh--delete但是在运行时会报错找不到这个方法。kafka-topics.sh最终是运行了kafka.admin.TopicCommand这个类，在0.8的源码中这个类中没有找到有deletetopic相关的代码。在kafka的admin包下，提供了一个DeleteTopicComman..
分类：
其他好文 时间：
2014-09-03 02:42:26
阅读次数：
1415
Flume日志收集一、Flume介绍Flume是一个分布式、可靠、和高可用的海量日志聚合的系统，支持在系统中定制各类数据发送方，用于收集数据；同时，Flume提供对数据进行简单处理，并写到各种数据接受方（可定制）的能力。设计目标：(1) 可靠性当节点出现故障时，日志能够被传送到其他节点上而不会丢失。...
分类：
其他好文 时间：
2014-08-31 17:13:21
阅读次数：
295
Flume日志收集一、Flume介绍Flume是一个分布式、可靠、和高可用的海量日志聚合的系统，支持在系统中定制各类数据发送方，用于收集数据；同时，Flume提供对数据进行简单处理，并写到各种数据接受方（可定制）的能力。设计目标：(1) 可靠性当节点出现故障时，日志能够被传送到其他节点上而不会丢失。...
分类：
其他好文 时间：
2014-08-31 17:11:31
阅读次数：
353
