码迷,mamicode.com
首页 >  
搜索关键字:flume hdfseventsink 实现分析    ( 1426个结果
【Flume】 flume中ExecSource源码的详细分析——执行终端命令获取数据
我们直接看该Source的start方法吧 public void start() { logger.info("Exec source starting with command:{}", command); executor = Executors.newSingleThreadExecutor(); runner = new ExecRunnable(shell...
分类:Web程序   时间:2015-02-05 11:24:26    阅读次数:282
Spring中 bean定义的parent属性机制的实现分析
在XML中配置bean元素的时候,我们常常要用到parent属性,这个用起来很方便就可以让一个bean获得parent的所有属性在spring中,这种机制是如何实现的?对于这种情况transactionProxy01的parent属性是transactionProxy1此时我们要获取transact...
分类:编程语言   时间:2015-02-05 00:47:16    阅读次数:329
Flume lzo压缩输出至 hadoop
1. Hadoop 支持lzo压缩依赖: lzo:Unix/linux系统默认没有lzo的 库,因此需要安装,sudoyum install lzo-devel.x86_64 sudo yum install lzo.x86_64 sudo yum install lzop.x86_64...
分类:Web程序   时间:2015-02-02 19:47:04    阅读次数:416
【Flume】【*】深入flume-ng的三大组件——source,channel,sink
概览 flume-ng中最重要的核心三大组件就是source,channel,sink source负责从源端收集数据 channel负责暂存收集来的数据,以备下游取走消费 sink负责消费通道中的数据,写到最终的输出端上 以上是总体的一个简单结构图,下面我们来深入每一个组件的内部看看: 1、Source source接口的定义如下: @Inte...
分类:Web程序   时间:2015-01-30 17:45:41    阅读次数:1035
Java的LockSupport.park()实现分析
LockSupport类是Java6(JSR166-JUC)引入的一个类,提供了基本的线程同步原语。LockSupport实际上是调用了Unsafe类里的函数,归结到Unsafe里,只有两个函数: [java]?view plaincopy public?native?void?unpar...
分类:编程语言   时间:2015-01-30 06:49:10    阅读次数:283
【Flume】flume中http监控类型的源码分析,度量信息分析,以及flume的事件总线
在flume1.5.2中,如果想要通过http方式的监控来获取flume相关度量值,通过在启动脚本后添加如下内容即可: -Dflume.monitoring.type=http -Dflume.monitoring.port=34545 监控 -D的属性可以通过System.getProerties()直接获取得到,那么以上两个属性是通过方法loadMonitoring()来读取,该方法...
分类:Web程序   时间:2015-01-29 17:38:20    阅读次数:321
【Flume】flume中sink到hdfs,文件系统频繁产生文件,文件滚动配置不起作用?
本人在测试hdfs的sink,发现sink端的文件滚动配置项起不到任何作用,配置如下: a1.sinks.k1.type=hdfs a1.sinks.k1.channel=c1 a1.sinks.k1.hdfs.useLocalTimeStamp=true a1.sinks.k1.hdfs.path=hdfs://192.168.11.177:9000/flume/events/%Y/%m/%d...
分类:Web程序   时间:2015-01-28 18:00:15    阅读次数:1115
hello flume (Ubuntu 下 flume1.5单机版安装以及简单入门示例)
hello flume (Ubuntu 下 flume1.5单机版安装以及简单入门示例)...
分类:Web程序   时间:2015-01-22 13:20:37    阅读次数:137
手机第三方新浪微博登录php api实现分析
提供api,POST方式,根据传递过来的微博uid/appkey,判断该用户的ID是否在自己的数据库中。如果有,直接登录返回用户登录api的json。如果没有,就将该用户的ID+token请求微博用户信息api:http://open.weibo.com/wiki/2/users/show,根据返回的用户信息json数据在数据库中创建..
分类:移动开发   时间:2015-01-21 20:18:42    阅读次数:184
【Flume】从入口Application来分析flume的source和sink是如何与channel交互的
大家在启动flume的时候,输入的命令就可以看出flume的启动入口了 [root@com21 apache-flume-1.5.2-bin]# sh bin/flume-ng agent -c conf -f conf/server.conf -n a1 Info: Sourcing environment configuration script /home/flume/apache-flu...
分类:移动开发   时间:2015-01-21 18:22:15    阅读次数:330
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!