flume 作为 cloudera 开发的实时日志收集系统，受到了业界的认可与广泛应用。Flume 初始的发行版本目前被统称为 Flume OG（original generation），属于 cloudera。 但随着 FLume 功能的扩展，Flume OG 代码工程臃肿、核心组件设计不合理、核 ...
分类：
Web程序 时间：
2018-08-19 20:07:13
阅读次数：
304
一：flume复习 1.flume是收集，聚合，移动日志的框架 2.agent: source: //接受数据的，生产者 //netcat //ExecSource实时收集：tail -F xxx.txt //spooldir监控文件夹 //seq //Stress 压力测试 //avroSourc ...
分类：
其他好文 时间：
2018-08-17 22:21:56
阅读次数：
210
Flume – 初识flume、source和sink 目录基本概念常用源 Source常用sink 基本概念 ? 什么叫flume？ 分布式，可靠的大量日志收集、聚合和移动工具。 ? events 事件，是一行数据的字节数据，是flume发送文件的基本单位。 ? flume配置文件 重命名flum ...
分类：
Web程序 时间：
2018-08-13 21:00:40
阅读次数：
264
http://flume.apache.org/ 安装 1、上传 2、解压 3、修改conf/flume-env.sh 文件中的JDK目录 注意：JAVA_OPTS 配置 如果我们传输文件过大 报内存溢出时 需要修改这个配置项 4、验证安装是否成功 ./flume-ng version 5、配置环境... ...
分类：
Web程序 时间：
2018-08-09 13:49:25
阅读次数：
192
1、source为http模式，sink为logger模式，将数据在控制台打印出来。 conf配置文件如下： # Name the components on this agent a1.sources = r1 a1.sinks = k1 a1.channels = c1 # Describe/c ...
分类：
Web程序 时间：
2018-08-08 14:57:25
阅读次数：
240
该文章是基于 Hadoop2.7.6_01_部署 进行的 Flume官方文档：FlumeUserGuide 常见问题：记flume部署过程中遇到的问题以及解决方法（持续更新） 1. 前言 在一个完整的大数据处理系统中，除了hdfs+mapreduce+hive组成分析系统的核心之外，还需要数据采集、 ...
分类：
Web程序 时间：
2018-08-01 20:42:01
阅读次数：
194
agent 下载地址：https://www.zabbix.com/download_agents下载解压后有2个文件夹，一个是bin,存放32位和64位执行程序，一个是conf目录存放着配置文件在windows server 2008 操作系统 C盘目录下创建一个zabbix文件夹，把刚下载的za... ...
