spark是通过借鉴Hadoop mapreduce发展而来，继承了其分布式并行计算的优点，并改进了mapreduce明显的缺陷，具体表现在以下几方面： 1.spark把中间计算结果存放在内存中，减少迭代过程中的数据落地，能够实现数据高效共享，迭代运算效率高。mapreduce中的计算中间结果是保存 ...
分类：
其他好文 时间：
2019-08-24 17:02:42
阅读次数：
89
Hadoop 中有三大组件：HDFS、MapReduce、YARN，HDFS 负责大文件存储的问题，MapReduce 负责大数据计算，而 YARN 负责资源的调度，接下来的文章我会一一介绍这几个组件。今天我们先来聊聊 HDFS 的架构及文件的读写流程。 总体架构 HDFS 设计的目的是为了存储大数 ...
分类：
其他好文 时间：
2019-08-24 16:56:05
阅读次数：
103
为什么需要Kylin？ Hadoop帮助我们解决了海量数据的存储。 早期使用Hadoop的MapReduce计算模型，太慢了，只能做离线计算，无法做实时计算与迭代式计算。 Spark应运而生，并带动了Scala语言的发展，Spark的MapReduce计算模型比Hadoop的MapReduce计算模 ...
分类：
其他好文 时间：
2019-08-23 19:19:15
阅读次数：
115
好程序员大数据学习路线分享MAPREDUCE，需求：统计大量的文本文件中的单词出现的次数1）整个运算需要分阶段阶段一：并行局部运算阶段二：汇总处理，不同的阶段需要开发不同的程序2）阶段之间的调用3）业务程序（task程序）如何并发到集群并启动程序4）如何监控task程序的运行状态，如何处理异常::这些问题是开发分布式程序都会面临的问题，完全可以封装成框架::MR的结构一个完整的MapReduc
分类：
其他好文 时间：
2019-08-23 00:24:34
阅读次数：
114
a.配置项(在分布式环境中配置) 1.RPC访问地址 mapreduce.jobhistory.address 2.HTTP访问地址 mapreduce.jobhistory.webapp.address b.（伪分布式环境中直接使用即可） mr-jobhistory-daemon.sh start ...
分类：
其他好文 时间：
2019-08-22 10:57:02
阅读次数：
84
Hive通过给用户提供的一系列交互接口，接收到用户的指令(SQL)，使用自己的Driver，结合元数据(MetaStore)，将这些指令翻译成MapReduce，提交到Hadoop中执行，最后，将执行返回的结果输出到用户交互接口 ...
分类：
其他好文 时间：
2019-08-20 11:09:39
阅读次数：
62
Ambari简介 Ambari概述 Apache Ambari是一种基于Web的工具，支持Apache Hadoop集群的创建、管理和监控。Ambari已支持大多数Hadoop组件，包括HDFS、MapReduce、Hive、Pig、 Hbase、Zookeeper、Sqoop和Hcatalog等； ...
分类：
其他好文 时间：
2019-08-20 10:40:13
阅读次数：
119
为什么要有Hadoop？ 从计算机诞生到现今，积累了海量的数据，这些海量的数据有结构化、半结构化、非 结构的数据，并且这些海量的数据存储和检索就成为了一大问题。 我们都知道大数据技术难题在于一个数据复杂性、数据量、大规模的数据计算。 Hadoop就是为了解决这些问题而出现的。 Hadoop的诞生 D ...
分类：
其他好文 时间：
2019-08-20 01:15:59
阅读次数：
113
Oozie Azkaban 配置 复杂 简单 使用 重量级 轻量 调用 MapReduce、pig、Java、脚本等….. MapReduce、pig、Java、脚本等….. 定义文件 xml properties 传参 支持参数和EL表达(${fs:dirSize{myinputDir}}) 直接 ...
分类：
其他好文 时间：
2019-08-20 01:14:45
阅读次数：
116
MapReduce是一种可用于**数据处理的编程模型**。该模型比较简单，不易编写有用的程序。Hadoop可以运行**各种语言**版本的MapReduce程序。MapRudece程序本质是**并行运行**的，可以将大规模的数据分析任务分发给任何一个拥有足够多机器的数据中心。优势：处理大规模的数据集。
分类：
其他好文 时间：
2019-08-19 17:36:11
阅读次数：
90
