Flume作为一个日志收集工具,在数据采集方面,展现出了非常强大的能力。...
分类:
Web程序 时间:
2016-06-02 14:56:43
阅读次数:
875
分析 : 根据敌机类型区分 敌机 运动逻辑 以及绘制/**
* 敌机
*
* @author liuml
* @time 2016-5-31 下午4:14:59
*/
public class Enemy { // 敌机的种类标识
public int type;
// 苍蝇
public static final int TYPE_FLY = 1;...
分类:
移动开发 时间:
2016-06-02 14:19:22
阅读次数:
183
我们将通过包括本文章在内的2-3篇文章的篇幅,利用已经学习过的技术知识向大家介绍事件/日志收集系统的半侵入方案和非侵入式方案。当然中间还会穿插一些新技术的介绍,比如Apache Flume。...
分类:
其他好文 时间:
2016-06-01 00:17:09
阅读次数:
278
在具体介绍本文内容之前,先给大家看一下Hadoop业务的整体开发流程:
从Hadoop的业务开发流程图中可以看出,在大数据的业务处理过程中,对于数据的采集是十分重要的一步,也是不可避免的一步,从而引出我们本文的主角—Flume。本文将围绕Flume的架构、Flume的应用(日志采集)进行详细的介绍。
(一)Flume架构介绍
1、Flume的概念
flume是分布式的日志...
分类:
Web程序 时间:
2016-05-31 17:25:25
阅读次数:
324
最近在学习大数据的离线分析技术,所以在这里通过做一个简单的网站点击流数据分析离线系统来和大家一起梳理一下离线分析系统的架构模型。当然这个架构模型只能是离线分析技术的一个简单的入门级架构,实际生产环境中的大数据离线分析技术还涉及到很多细节的处理和高可用的架构。这篇文章的目的只是带大家入个门,...
分类:
Web程序 时间:
2016-05-31 06:32:23
阅读次数:
621
1、介绍周末在逛慕课网的时候,看到了一张学习计划报告图,详细记录了自己一周的学习情况,天天都是0节课啊!正好在学习Android自定义View,于是就想着自己去写了一个,这里先给出一张慕课网的图,和自己的效果图。yissan的博客,未经允许严禁转载 http://blog.csdn.net/yissan2、实现分析我们要实现这样一个折线统计图,必要的信息主要有下面几个先看纵轴,纵轴需要的信息有最大值...
分类:
移动开发 时间:
2016-05-31 06:31:52
阅读次数:
322
1 背景 1 1.1 MVCC:Snapshot Read vs Current Read 2 1.2 Cluster Index:聚簇索引 3 1.3 2PL:Two-Phase Locking 3 1.4 Isolation Level 4 2 一条简单SQL的加锁实现分析 5 2.1 组合一: ...
分类:
数据库 时间:
2016-05-30 23:12:39
阅读次数:
218
一.Flume使用的前提:
Flume
使用 java
编写,其需要运行在 Java1.6
或更高版本之上。
二.Flume的定义:
Flume是一个分布式、可靠、高效可用的海量日志采集、聚合和传输系统,支持在系统中定制各类数据发送方,用于搜集数据;同时,flume提供对数据进行加单处理,并写到各种数据接受方(可定制)的能力。
核心一句话:将数据从数据源收集过来,再送到目的地。为...
分类:
Web程序 时间:
2016-05-30 13:02:00
阅读次数:
396
前言:Elk主要就是3个软件的组合,主要是elasticsearch搜索引擎,Logstash是一个日志收集日志,kibana实时分析进行展示。[关于日志搜集的软件,如:scribe,flume,heka,logstash,chukwa,fluentd,当然rsyslogrsyslog-ng都可以搜集。关于日志手机后存储软件,如:HDFS,Cassandramong..
分类:
系统相关 时间:
2016-05-27 14:58:51
阅读次数:
856
首先我们先了解一下Hadoop的起源。然后介绍一些关于Hadoop生态系统中的具体工具的使用方法。如:HDFS、MapReduce、Yarn、Zookeeper、Hive、HBase、Oozie、Mahout、Pig、Flume、Sqoop。...
分类:
其他好文 时间:
2016-05-27 12:20:23
阅读次数:
157