#!/bin/bash #echo "begin start flume..." path=/sysware/apache-flume-1.8.0-bin echo "flume home is :$path" process=$2 AgentName=$3 JAR="flume" Flumecon... ...
分类：
Web程序 时间：
2018-12-29 16:00:44
阅读次数：
1849
具体API地址 https://huginnio.herokuapp.com/agents 貌似这些Agent都可以按照频率和定时的时间点来触发， 1、Attribute Difference Agent 数值差异比较 2、Commander Agent 触发器代理，可以用于向其他节点发起指令控制， ...
分类：
其他好文 时间：
2018-12-25 15:54:43
阅读次数：
704
一、什么是大数据 四个特性（4个V） 数据量大(Volume) 大数据摩尔定律：IDC估测数据一直以50%的速度增长，到2020年，全球将拥有35ZB的数据量。（GB>TB>PB>EB>ZB） 快速化（Velocity） 处理速度快，1秒级决策 多样化（Varity） 数据类型繁多，大部分为非结构化 ...
分类：
其他好文 时间：
2018-12-24 22:35:05
阅读次数：
411
最近做了一个POC，目的是系统日志的收集和分析，此前有使用过splunk，虽然用户体验很好，但一是价格昂贵，二是不适合后期开发（splunk已经推出了SDK，后期开发已经变得非常容易）。在收集TB级别的日志量上flume-ng是更好的选择，因为后面的存储是扩展性极佳的HDFS。先简要介绍一下测试环境 ...
分类：
Web程序 时间：
2018-12-22 12:37:32
阅读次数：
246
function IsPC() { var userAgentInfo = navigator.userAgent; var Agents = new Array("Android", "iPhone", "SymbianOS", "Windows Phone", "iPad", "iPod"); ...
分类：
Web程序 时间：
2018-12-19 22:05:47
阅读次数：
237
flume安装: https://blog.csdn.net/u011254180/article/details/80000763 1 运行机制 1、 Flume分布式系统中最核心的角色是agent，flume采集系统就是由一个个agent所连接起来形成 2、每一个agent相当于一个数据传递员， ...
分类：
Web程序 时间：
2018-12-18 14:40:18
阅读次数：
257
Flume安装成功，环境变量配置成功后，开始进行agent配置文件设置。 1.agent配置文件（mysql+flume+Kafka） #利用Flume将MySQL表数据准实时抽取到Kafka a1.channels = c1 a1.sinks = k1 a1.sources = s1 #sourc ...
分类：
数据库 时间：
2018-12-13 19:14:48
阅读次数：
222
1.下载软件 在 /opt/deploy 下新建 flume 文件夹: # mkdir / opt/deploy / flume 到Flume官网上http://flume.apache.org/download.html下载软件包,例如： wget "http://mirrors.cnnic.cn ...
分类：
Web程序 时间：
2018-12-12 10:36:22
阅读次数：
239
一、flume整合 sparkStreaming 问题 1、如何实现 sparkStreaming 读取 flume 中的数据 sparkStreaming 整合 flume 有 2 中模式， 一种是拉模式， 一种是推模式。比较两种模式的特点， 如何部署。 推模式：Flume将数据 Push 推给 ...
分类：
其他好文 时间：
2018-12-11 11:13:43
阅读次数：
217
