flume-ng1.4安装配置记录一下flume-ng的安装配置三个基本概念source：数据源channel：数据传输通道sink：数据目的地，如存储在hdfs配置：flume.conf#defineagent1.sources=source1agent1.channels=channel1agent1.sinks=sink1#agent1.sources.source1.type=spooldiragent1.sour..
分类：
其他好文 时间：
2014-06-27 06:41:36
阅读次数：
221
# 学习前言
想学习一下Flume，网上找了好多文章基本上都说的很简单，只有一半什么的，简直就是坑爹，饿顿时怒火就上来了，学个东西真不容易，然后自己耐心的把这些零零碎碎的东西整理整理，各种搭环境实验之后才弄好的，也不容易啊，希望可以帮到想学Flume的你 、、、
# Flume介绍
Flume是Cloudera提供的一个高可用的，高可靠的，分布式的海量日志采集、聚合和传输的系统，Flume支持在日志系统中定制各类数据发送方，用于收集数据；同时，Flume提供对数据进行简单处理，并写到各种数据接受方（可定制...
分类：
其他好文 时间：
2014-06-26 08:01:52
阅读次数：
449
最近看到>中谈到“全渠道零售”(Omni-channel Retailing)，指在互联网和电子商务的当今时代“零售商将能通过各种渠道与顾客互动，包括网站、实体店、服务终端、直邮和目录、呼叫中心、社交媒体、移动设备、游戏机、电视、网络家电、上门服务等等，传统商家除非采用全新视角，把各种迥然不同的渠道...
分类：
其他好文 时间：
2014-06-25 15:06:11
阅读次数：
292
1. IdleStateHandler 当Channel上没有执行相应的读写操作一定时间的时候出发一个 IdleStateEvent 事件；
2. ReadTimeoutHandler 读超时处理；
3. HandshakeTimeoutHandler 设置一个定时器检查连接的状态，握手阶段 ；
4 . OFChannelHandler 核心，处理所有的业务。...
分类：
其他好文 时间：
2014-06-24 19:58:23
阅读次数：
180
这里给出一个服务端和客户端，服务端可以接收多个连接，并且利用Go的杀手特性go和channel来替代select进行数据的接受。
服务端：
package main
import (
"fmt"
. "syscall"
)
func RecvRoutine(sockfd int, session chan string) {
var buffer []byte = make(...
分类：
系统相关 时间：
2014-06-24 17:53:37
阅读次数：
399
本篇分析加载配置文件后各个组件是如何运行的？
加载完配置文件订阅者Application类会收到订阅信息执行：
@Subscribe
public synchronized void handleConfigurationEvent(MaterializedConfiguration conf) {
stopAllComponents();
startAll...
分类：
编程语言 时间：
2014-06-24 17:24:59
阅读次数：
445
本节分析配置文件的解析，即PollingPropertiesFileConfigurationProvider.FileWatcherRunnable.run中的eventBus.post(getConfiguration())。分析getConfiguration()方法。此方法在AbstractConfigurationProvider类中实现了，并且这个类也初始化了三大组件的工厂类：this...
分类：
编程语言 时间：
2014-06-24 17:21:53
阅读次数：
547
从bin/flume 这个shell脚本可以看到Flume的起始于org.apache.flume.node.Application类，这是flume的main函数所在。
main方法首先会先解析shell命令，如果指定的配置文件不存在就甩出异常。
根据命令中含有"no-reload-conf"参数，决定采用那种加载配置文件方式：一、没有此参数，会动态加载配置文件，默认每30秒...
分类：
编程语言 时间：
2014-06-24 17:13:22
阅读次数：
387
org.apache.flume.sink.AvroSink是用来通过网络来传输数据的，可以将event发送到RPC服务器（比如AvroSource），使用AvroSink和AvroSource可以组成分层结构。它继承自AbstractRpcSink extends AbstractSink implements Configurable这跟其他的sink一样都得extends Abstract...
分类：
编程语言 时间：
2014-06-24 16:01:30
阅读次数：
303
org.apache.flume.source.SpoolDirectorySource是flume的一个常用的source，这个源支持从磁盘中某文件夹获取文件数据。不同于其他异步源，这个源能够避免重启或者发送失败后数据丢失。flume可以监控文件夹，当出现新文件时会读取该文件并获取数据。当一个给定的文件被全部读入到通道中时，该文件会被重命名以标志已经完成。同时，该源需要一个清理进程来定期移除完成...
分类：
编程语言 时间：
2014-06-24 15:59:37
阅读次数：
287
