码迷,mamicode.com
首页 >  
搜索关键字:flume hdfssink    ( 1092个结果
Kafka实战-Flume到Kafka (转)
原文链接:Kafka实战-Flume到Kafka1.概述 前面给大家介绍了整个Kafka项目的开发流程,今天给大家分享Kafka如何获取数据源,即Kafka生产数据。下面是今天要分享的目录:数据来源Flume到Kafka数据源加载预览 下面开始今天的分享内容。2.数据来源 Kafka生产的数据...
分类:Web程序   时间:2015-11-16 19:33:28    阅读次数:195
Flume目录
1. Flume的安装配置2. flume和kafka整合(转)
分类:Web程序   时间:2015-11-16 15:40:26    阅读次数:106
Flume的安装配置
flume是一个分布式、可靠、和高可用的海量日志采集、聚合和传输的系统。支持在日志系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据进行简单处理,并写到各种数据接受方(比如文本、HDFS、Hbase等)的能力 。一、什么是Flume? flume 作为 cloudera 开发的实时....
分类:Web程序   时间:2015-11-16 15:26:41    阅读次数:207
smartLog各组件启动命令
kafka:(./kafka-server-start.sh ../config/server.properties &)flume:(bin/flume-ng agent -n agent -c conf -f conf/flume-node -Dflume.monitoring.type=htt...
分类:其他好文   时间:2015-11-16 10:46:09    阅读次数:126
大数据架构之:Flume
1、 Flume是一个分布式、可靠、和高可用的海量日志聚合的系统,支持在系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据进行简单处理,并写到各种数据接受方(可定制)的能力。2、一个独立的Flume进程称之为Agent,包含组件Source、Channel、Sink SourceFl...
分类:Web程序   时间:2015-11-09 20:53:59    阅读次数:278
【采集层】Kafka 与 Flume 如何选择
采集层?主要可以使用Flume, Kafka两种技术。 Flume:Flume?是管道流方式,提供了很多的默认实现,让用户通过参数部署,及扩展API. Kafka:Kafka是一个可持久化的分布式的消息队列。 Kafka?是一个非常通用的系统...
分类:Web程序   时间:2015-11-05 16:57:29    阅读次数:216
利用flume+kafka+storm+mysql构建大数据实时系统
架构图数据流向图1.Flume 的一些核心概念:2.数据流模型Flume以agent为最小的独立运行单位。一个agent就是一个JVM。单agent由Source、Sink和Channel三大组件构成,如下图: Flume的数据流由事件(Event)贯穿始终。事件是Flume的基本数据单位,它携带....
分类:数据库   时间:2015-11-01 22:42:13    阅读次数:505
Spark Streaming和Flume-NG对接实验(好文转发)
转发自玖疯的博客 http://www.cnblogs.com/lxf20061900/p/3866252.html Spark Streaming是一个新的实时计算的利器,而且还在快速的发展。它将输入流切分成一个个的DStream转换为RDD,从而可以使用Spark来处理。它直接支持多种数据源.....
分类:Web程序   时间:2015-10-29 13:11:47    阅读次数:328
apache flume sources
AvroSource简介:监听Avro端口并从外部的Avro客户端接收事件流,多个flumeagent可以通过Avro形成一个组织。PropertyName Default Descriptionchannels – type – 需要配置为Avrobind – 需要监听的主机名或ip地址port – 监听的端口threads – 工作的最大线程数selector.type..
分类:Web程序   时间:2015-10-28 01:47:31    阅读次数:239
Flume Source
Flume-ng Source介绍
分类:Web程序   时间:2015-10-27 13:23:20    阅读次数:247
1092条   上一页 1 ... 79 80 81 82 83 ... 110 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!