一、环境及软件安装环境：安装目录： /usr/local/ae/ankabanHadoop 安装目录 export HADOOP_HOME=/usr/local/ae/hadoop-1.2.1azkaban-executor-2.5.0安装目录：/usr/local/ae/azkaban/azkab...
分类：
其他好文 时间：
2014-07-16 19:08:09
阅读次数：
2894
http://hadoop.apache.org/docs/r1.2.1/fair_scheduler.htmlfair-scheduler.xml文档 5 5 15 15 300 5 5 5 3 600 ...
分类：
其他好文 时间：
2014-07-16 18:31:19
阅读次数：
213
源码编译我的测试环境：系统：Centos 6.4 - 64位Java：1.7.45Scala：2.10.4Hadoop：2.2.0Spark 1.0.0源码地址：http://d3kbcqa49mib13.cloudfront.net/spark-1.0.0.tgz解压源码，在根去根目录下执行以下命...
分类：
其他好文 时间：
2014-07-16 18:01:44
阅读次数：
405
HDFS和MapReduce是Hadoop的两大核心。而整个Hadoop的体系结构主要是通过HDFS来实现对分布式存储的底层支持的，并且它会通过MapReduce来实现对分布式并行任务处理的程序支持。
分类：
其他好文 时间：
2014-07-16 16:11:21
阅读次数：
275
本文介绍了 Hadoop 自 0.23.0 版本后新的 map-reduce 框架（Yarn) 原理，优势，运作机制和配置方法等；着重介绍新的 yarn 框架相对于原框架的差异及改进；并通过 Demo 示例详细描述了在新的 yarn 框架下搭建和开发 hadoop 程序的方法。读者通过本文中新旧 h...
分类：
其他好文 时间：
2014-07-16 15:55:52
阅读次数：
325
hadoop支持命令行操作HDFS文件系统，并且支持shell-like命令与HDFS文件系统交互，对于大多数程序猿/媛来说，shell-like命令行操作都是比较熟悉的，其实这也是Hadoop的极大便利之一，至少对于想熟悉乃至尽快熟练操作HDFS的人来说。
分类：
其他好文 时间：
2014-07-16 15:39:42
阅读次数：
485
最近需要把基于hadoop的MapReduce程序集成到一个大的用C/C++编写的框架中，需要在make的时候自动将MapReduce应用进行编译和打包。这里以简单的WordCount1为例说明具体的实现细节，注意：hadoop版本为2.4.0....
分类：
其他好文 时间：
2014-07-16 09:38:06
阅读次数：
379
一、概述本文将介绍ResourceManager在Yarn中的功能作用，从更细的粒度分析RM内部组成的各个组件功能和他们相互的交互方式。二、ResourceManager的交互协议与基本职能1、ResourceManager交互协议在整个Yarn框架中主要涉及到7个协议，分别是ApplicationClientProtocol、MRClientP..
分类：
其他好文 时间：
2014-07-15 12:18:57
阅读次数：
1022
先简单的理解，以后补充：为了解决hadoop分布式系统的一致性问题 ，有很多人提出很多protocol,其中就有有名的Paxos算法（Latex作者提出，算法需要学习），但是Chubby并不是一个算法或者protocol，它是一项service，是一个lock service,这个service的实...
分类：
其他好文 时间：
2014-07-14 20:52:46
阅读次数：
250
选择传智播客九大理由：
1 有实力不怕炫，我们就爱那个是出书出开源项目
2 引领新技术，让我们学员走在别人最前面，首家推出Hadoop，Unity3D，Nginx。
3 课程知识面广，技术讲解深入易懂，让我们学员不仅会做，还能明白其中原理。
4 培养学员自己解决问题的能力，拒绝成为“只会点击控件”的工具使用者。
5 终结“行尸走肉”的生活，带您走上“积极向上，充满理想”的人生道路。
6...
分类：
编程语言 时间：
2014-07-14 17:12:55
阅读次数：
261
