1. 在flume/conf下建一个example文件:将下面的配置信息写到example文件中#配置agent1表示代理名称agent1.sources=source1agent1.sinks=sink1agent1.channels=channel1#配置source1agent1.source...
分类:
Web程序 时间:
2014-10-30 15:16:08
阅读次数:
239
flume是一个实时消息收集系统,它定义了多种的source、channel、sink,可以根据实际情况选择。Flume下载及文档:http://flume.apache.org/Kafkakafka是一种高吞吐量的分布式发布订阅消息系统,她有如下特性:通过O(1)的磁盘数据结构提供消息的持久化,这种结构对于即使数以TB的..
分类:
Web程序 时间:
2014-10-22 18:36:34
阅读次数:
338
大家好。 公司有个需求。要求Flumne 从MQ 取消息存储到DFS ,写了Flume自定义的source 。,由于我也是刚接触Flume 。 所以有啥不对的请谅解。 查看了Flume-ng的源码。 一般都是根据不同的场景 extends AbstractSource implements Eve....
分类:
Web程序 时间:
2014-10-21 10:06:25
阅读次数:
593
http://blog.csdn.net/hijk139/article/details/8308224业务系统需要收集监控系统日志,想到了hadoop的flume。经过试验,虽说功能不算足够强大,但基本上能够满足功能需求。Flume 是一个分布式、可靠和高可用的服务日志收集工具,能够和hadoop...
分类:
Web程序 时间:
2014-10-20 17:10:35
阅读次数:
333
http://www.zabbix.com/downloads/2.2.0/zabbix_agents_2.2.0.win.zip c:\zabbix_agents_2.2.0.win\conf\zabbix_agentd.win.conf.You can simply copy it. 复制配置文...
Hadoop日志分析系统启动脚本
#!/bin/bash
#Flume日志数据的根目录
root_path=/flume
#Mapreduce处理后的数据目录
process_path=/process
#hive分区时间
partition=`date "+%Y-%m-%d"`
#获取前一小时的时间:/YYYY-MM-DD/HH
file_path=`date -d "1 hour ...
分类:
其他好文 时间:
2014-10-16 19:41:13
阅读次数:
202
apache-flume-1.5.0.1-bin.tar.gz日志接收端1.修改配置文件cp flume-conf.properties.template flume-conf.propertiesvim flume-conf.propertiescollector1.sources = AvroI...
分类:
Web程序 时间:
2014-10-15 23:13:11
阅读次数:
271
最近项目组有需求点击流日志需要自己收集,学习了一下flume并且安装成功了。相关信息记录一下。...
分类:
Web程序 时间:
2014-10-15 20:14:11
阅读次数:
227
解决办法: 在每个新建的类的第一行加入以下内容即可/* * Licensed to the Apache Software Foundation (ASF) under one * or more contributor license agreements. See the NOTICE fi.....
分类:
Web程序 时间:
2014-10-15 13:06:10
阅读次数:
519
一、下载zabbix客户端软件:zabbix_agents_1.8.19.win;二、解压后会在bin目录下会有如下两个个文件夹,其中win32是32为系统用的,win64为64位系统用的:三、将win32文件夹拷贝到C盘根目录下,并将其改名为zabbix(如果是64位系统,则将win64拷贝到C盘根目录下,改名为zabbix)..