一.大数据组件分类: 1.计算类: hadoop,spark,flink,hive 2.传输类:kafka,flume,redis 3.存储类:hbase,mongodb,Cassandra 4.调度类:zookeeper 5.配置类:mesos,yarn 二.流行的框架SMACK Spark Me ...
分类：
其他好文 时间：
2019-05-10 20:21:59
阅读次数：
160
1.下载Flume源码并导入Idea开发工具 1）将apache-flume-1.7.0-src.tar.gz源码下载到本地解压 2）通过idea导入flume源码 打开idea开发工具，选择File——》Open 然后找到flume源码解压文件，选中flume-ng-hbase-sink，点击ok ...
分类：
Web程序 时间：
2019-05-10 16:34:53
阅读次数：
226
一、定义agent，并运行1、配置文件#计划##收集hive的日志，存到hdfs/opt/cdh-5.3.6/hive-0.13.1-cdh5.3.6/logs/hive.log命令：tail -f source：Exec source 在启动时运行一个给定的Unix命令，并期望该进程在标准输出上不... ...
分类：
其他好文 时间：
2019-05-08 14:44:10
阅读次数：
214
堆栈 顺序存储实现： 分析： 1、定义结构体：数组Data[MaxSize]存储数据；Top记录栈顶元素下标；MaxSize记录堆栈容量 2、创建：为栈申请内存；根据容量为数据申请内存；初始化Top 3、入栈、出栈：都在栈顶完成；入栈判满，出栈判空；入栈先加，出栈后减 链式存储实现： ...
分类：
其他好文 时间：
2019-05-04 00:25:27
阅读次数：
157
master做为集合节点 $FLUME_HOME/conf/agent1.conf agent1.channels = ch1 agent1.sources = avro-source1 agent1.sinks = log-sink1 agent1.channels.ch1.type=memory ...
分类：
Web程序 时间：
2019-05-02 09:41:57
阅读次数：
188
十一、Nginx11.1、介绍11.2、常见其他 Web 服务器11.3、版本11.4、Nginx 安装11.5、目录结构11.6、操作命令十二、Mysql12.1、介绍12.2、关系型数据库(SQL)种类12.3、特征12.4、术语12.4、与非关系型数据库比较(Not Only SQL)12.4 ...
分类：
数据库 时间：
2019-04-15 20:11:41
阅读次数：
242
Spark Streaming用于流式数据的处理。Spark Streaming支持的数据输入源很多，例如：Kafka、Flume、Twitter、ZeroMQ和简单的TCP套接字等等。数据输入后可以用Spark的高度抽象原语如：map、reduce、join、window等进行运算。而结果也能保存 ...
分类：
其他好文 时间：
2019-04-14 17:44:05
阅读次数：
162
flume 拦截器(interceptor)1、flume拦截器介绍拦截器是简单的插件式组件，设置在source和channel之间。source接收到的事件event，在写入channel之前，拦截器都可以进行转换或者删除这些事件。每个拦截器只处理同一个source接收到的事件。可以自定义拦截器。 ...
分类：
Web程序 时间：
2019-04-02 21:03:11
阅读次数：
203
近期开始接触真正的实时同步，之前接触的SparkStreaming偏重于实时计算，kafka和flume只能算简单的数据同步，如今正式开始做产品化的数据同步项目。特此记录一些知识点。 ...
分类：
其他好文 时间：
2019-03-26 19:35:01
阅读次数：
177
这两天主要是做了中国移动的实时数据分析一个小项目（可以说是demo了），这里记录下来整个过程里面遇到的坑，首先安装好flume，kafka，spark（基于代码本地运行可以不安装），redis，zookeeper 主要是为了熟悉一下整个的一个spark-streaming的一个整个流程，还有就是了解 ...
分类：
移动开发 时间：
2019-03-25 20:27:37
阅读次数：
322
