翻译自官网flume1.8用户指南,原文地址:Flume 1.8.0 User Guide 一、 介绍 1. 概述 Apache Flume 是收集、汇总和移动大数据量的不同数据源到集中的数据仓库的分布式的、可靠的、可用的系统。 使用flume 不仅仅可以做日志收集。自从数据源可自定义,flume可 ...
分类:
Web程序 时间:
2019-01-28 17:41:31
阅读次数:
262
前言:最近有些浮躁,大环境变化无常,这种情况下唯有学习才是王道,好吧,开始学习flume! 一、Flume简介 Flume 作为 cloudera 开发的实时日志收集系统,受到了业界的认可与广泛应用。 Flume 初始的发行版本目前被统称为 Flume OG(original generation) ...
分类:
Web程序 时间:
2019-01-28 00:46:44
阅读次数:
187
需求:做一个windows服务,实现从ftp服务器实时下载或者更新文件到本地磁盘。 功能挺简单的。直接写个ftp工具类用定时器跑就能搞定,那我为什么不用呢? 别问,问就是我无聊啊,然后研究一下Flume打发时间。哈哈~ 一、Flume部分 Source组件和Sink组件用的都是第三方。 source ...
agent选择 agent1 exec source + memory channel + avro sink agent2 avro source + memory channel 模拟实际工作中的场景,agent1 为A机器,agent2 为B机器。 avro source: 监听avro端口, ...
分类:
Web程序 时间:
2019-01-27 14:37:21
阅读次数:
239
1.问题场景 Centos7 做flume案例时,telnet hadoop-senior03.itguigu.com 44444 总是Connection redused, Trying 192.168.10.22...telnet: connect to address 192.168.10.2 ...
分类:
其他好文 时间:
2019-01-25 16:03:20
阅读次数:
287
.net中的事务 关键几点 概念:1:什么是事务 2:什么时候用事务 3:基本的语法 (1): 事务(Transaction)是访问并可能更新数据库中各种数据项的一个程序执行单元(unit)。事务通常由高级数据库操纵语言或编程语言(如SQL,C++或Java)书写的用户程序的执行所引起,并用形如be ...
分类:
数据库 时间:
2019-01-25 11:51:26
阅读次数:
188
一、 什么是事务:简单说,所谓事务就是一组操作,要么操作都成功要么都不成功。 二、事务的使用流程 1. 第一步:开启一个事务,start transaction; 2. 第二步:正常的SQL语句操作,但是这些SQL语句并没有真正的更改数据库信息 3.第三步:提交事务,commit,当提交事务后,SQ ...
分类:
数据库 时间:
2019-01-24 13:29:17
阅读次数:
165
在完成单点的Flume NG搭建后,下面我们搭建一个高可用的Flume NG集群,架构图如下所示: (1)节点分配 Flume的Agent和Collector分布如下表所示: 名称 Ip地址 Host 角色 Agent1 192.168.200.101 Itcast01 WebServer Coll ...
分类:
其他好文 时间:
2019-01-23 00:25:43
阅读次数:
234
MyISAM是MySQL的默认数据库引擎(5.5版之前),由早期的ISAM(Indexed Sequential Access Method:有索引的顺序访问方法)所改良。虽然性能极佳,但却有一个缺点:不支持事务处理(transaction)。不过,在这几年的发展下,MySQL也导入了InnoDB( ...
分类:
数据库 时间:
2019-01-22 17:25:28
阅读次数:
142