1、定义 Apache Flume是为有效收集聚合和移动大量来自不同源到中心数据存储而设计的可分布,可靠的,可用的系统。 Flume是一个分布式、可靠、和高可用的海量日志采集、聚合和传输的系统。 2、架构图 3、常见概念理解 ①client:客户端,运行agent的地方,每台机器只运行一个agent ...
分类:
Web程序 时间:
2020-02-14 11:00:40
阅读次数:
89
电脑修好了,但之前落下的几天博客确实没啥补的劲头,今天先写一份报告吧。 实验内容和要求 安装 Flume 安装成功。 使用 Avro 数据源测试 Flume 配置文件 启动flume agent a1 创建指定的日志文件 客户端传输 传输完成 使用 netcat 数据源测试 Flume 创建exam ...
分类:
其他好文 时间:
2020-02-13 22:48:41
阅读次数:
83
事物 [toc] 四大特性ACID "[编辑" ] Atomicity(原子性):一个事务(transaction)中的所有操作,或者全部完成,或者全部不完成,不会结束在中间某个环节。事务在执行过程中发生错误,会被 "回滚" )(Rollback)到事务开始前的状态,就像这个事务从来没有执行过一样。 ...
分类:
数据库 时间:
2020-02-13 19:05:08
阅读次数:
64
1、将文件解压到/usr/local [root@localhost src]# tar -zxvf apache-flume-1.6.0-bin.tar.gz -C /usr/local/ 2、创建flume-env.sh文件,并设置jdk路径 [root@localhost local]# cp ...
分类:
Web程序 时间:
2020-02-13 15:09:49
阅读次数:
105
一、事务的概述 1、定义 事务就是一组单元化操作,这些操作要么都执行,要么都不执行,是一个不可分割的工作单位。 2、特点 事务(transaction)具有的四个要素:原子性(Atomicity)、一致性(Consistency)、隔离性(Isolation)、持久性(Durability)。这四个 ...
分类:
其他好文 时间:
2020-02-13 12:41:40
阅读次数:
228
1、Flume简单介绍 Apache Flume是Cloudera提供的一个高可用的,高可靠的,分布式的海量日志采集、聚合和传输的系统,Flume支持在日志系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据进行简单处理,并写到各种数据接受方(可定制)的能力。 2、Flume体系结构 ...
分类:
Web程序 时间:
2020-02-13 12:37:38
阅读次数:
78
使用 netcat 数据源测试 Flume 请对 Flume 的相关配置文件进行设置,从而可以实现如下功能:在一个 Linux 终端(这 里称为“Flume 终端”)中,启动 Flume,在另一个终端(这里称为“Telnet 终端”)中, 输入命令“telnet localhost 44444”,然 ...
分类:
Web程序 时间:
2020-02-12 23:59:56
阅读次数:
248
问题描述 在使用postgres执行一个存储过程,存储过程的操作是对全库上百张表添加字段,执行到一半的时候抛出了错误:You might need to increase max_locks_per_transaction。 原因 因为一个过程中操作的表过多,超过了最大对象锁的限制数量,导致了异常。 ...
分类:
数据库 时间:
2020-02-11 19:06:24
阅读次数:
74
UNDO:使用undo tablespace 存放从数据缓存区读出的数据块的前镜像 1.空间重用机制 undo 数据的4种状态 ①active ##表示transaction还没有commit,不可覆盖, ②unexpired ##由已经commit或rollback的数据转换而来的状态, 在保留期 ...
分类:
数据库 时间:
2020-02-11 10:04:42
阅读次数:
116
Flume 官网下载 Flume1.7.0 安装文件,下载地址如下: http://www.apache.org/dyn/closer.lua/flume/1.7.0/apache-flume-1.7.0-bin.tar.gz 下载后,把 Flume1.7.0 安装到 Linux 系统的“/usr/ ...
分类:
其他好文 时间:
2020-02-06 20:19:45
阅读次数:
95