zookeeper: storm redis kafka flume ...
分类:
其他好文 时间:
2018-01-08 10:59:03
阅读次数:
143
1、在flume官方网站下载最新的flume wget http://124.205.69.169/files/A1540000011ED5DB/mirror.bit.edu.cn/apache/flume/1.6.0/apache-flume-1.6.0-bin.tar.gz 2、解决flume安 ...
分类:
Web程序 时间:
2018-01-07 17:33:35
阅读次数:
228
1. Flume Interceptors Flume有能力修改/删除流程中的events。这是在拦截器(interceptor)的帮助下完成的。拦截器(Interceptors)是实现org.apache.flume.interceptor.Interceptor接口的类。一个intercepto ...
分类:
Web程序 时间:
2018-01-07 00:40:40
阅读次数:
493
1. Flume Sinks 1.1 HDFS Sink 该sink把events写进Hadoop分布式文件系统(HDFS)。它目前支持创建文本和序列文件。它支持在两种文件类型压缩。文件可以基于数据的经过时间或者大小或者事件的数量周期性地滚动。它还通过属性(如时间戳或发生事件的机器)把数据划分为桶或 ...
分类:
Web程序 时间:
2018-01-02 01:26:08
阅读次数:
380
1,启动命令 在bin目录下 flume-ng.cmd agent -conf ../conf -conf-file ../conf/spooling.conf -name a1 -property flume.root.logger=INFO,console 2,自定义拦截器 实现org.apac ...
分类:
Web程序 时间:
2017-12-31 12:56:33
阅读次数:
219
概述: Apache Flume是一个分布式、可用的系统,用于从许多不同的sources有效的收集并移动大量日志数据用于集中存储数据。 架构及数据流动模型: flume实际上就是一个Agent。Agent里面包含三大组件:Source、Channel、Sink。 Flume agent流动的数据单位 ...
分类:
Web程序 时间:
2017-12-24 02:01:49
阅读次数:
472
本章节中和大家分享一下zabbix的日常管理工作。 一.windows上代理agent 1、下载与解压 地址: http://www.zabbix.com/downloads/2.4.4/zabbix_agents_2.4.4.win.zip 解压zabbix_agents_2.4.0.win.zi... ...
分类:
其他好文 时间:
2017-12-22 21:51:57
阅读次数:
197
主要分析了HDFSSink中HDFSEventSink和BucketWriter中关键几个方法
分类:
Web程序 时间:
2017-12-21 17:16:26
阅读次数:
281
本文是学习时的自我总结,用于日后温习。如有错误还望谅解,不吝赐教 此处附上部分内容所出博客:http://blog.csdn.net/ymh198816/article/details/51998085 Flume+Kafka+Storm+Redis实时分析系统基本架构 1) 整个实时分析系统的架构 ...
分类:
Web程序 时间:
2017-12-18 14:11:09
阅读次数:
214
一、介绍 特性 (1)、no agents:不需要在被管控主机上安装任何客户端; (2)、no server:无服务器端,使用时直接运行命令即可; (3)、modules in any languages:基于模块工作,可使用任意语言开发模块; (4)、yaml,not code:使用yaml语言定 ...
分类:
其他好文 时间:
2017-12-16 13:16:53
阅读次数:
171