本文引自吴超博客:http://www.superwu.cn/2014/02/12/1094/hadoop是分布式系统,运行在linux之上,配置起来相对复杂。hadoop2出来后,解决了hadoop1的几个固有缺陷,比如单点故障、资源利用率低、支持作业类型少等问题,结构发生了很大变化,是hadoo...
分类:
其他好文 时间:
2015-04-23 12:49:38
阅读次数:
150
大家都知道在hadoop2中对HDFS的改进很大,实现了NameNode的HA;也增加了ResourceManager。但是ResourceManager也可以实现HA。你没看错,确实是ResourceManager的HA。注意是在Apache Hadoop 2.4.1版本中开始加入的,可不是任意一...
分类:
其他好文 时间:
2015-04-23 12:37:39
阅读次数:
140
HDFS Federation(HDFS联邦)HDFS有两个主要层:Namespace 由目录、文件和块组成;支持所有命名空间对文件和目录的操作。Block Storage Service 由Block Management和Storage组成。Block Management 提供dataNode...
分类:
其他好文 时间:
2015-04-23 12:33:53
阅读次数:
121
以下为我的操作记录,还未整理格式
hqvm-L118 192.168.1.118 jdk、hadoop NameNode、DFSZKFailoverController(zkfc)
hqvm-L138 192.168.1.138 jdk、hadoop、zookeeper NameN...
分类:
其他好文 时间:
2015-04-22 18:25:14
阅读次数:
138
hadoop的配置见下面这篇文章http://www.powerxing.com/install-hadoop-2-4-1-single-node/Hadoop安装教程_单机/伪分布式配置_Hadoop2.4.1_Ubuntu14.04 2014-08-09 (updated: 2014-12-30...
分类:
其他好文 时间:
2015-04-20 23:57:12
阅读次数:
209
原文链接:http://www.errdev.com/post/3/Hadoop2.6是目前Hadoop的最新版本,从下面链接获得http://hadoop.apache.org/releases.html#Download同时需要准备至少一台Linux, 这里我用了CentOS 7。虚拟机装Cen...
分类:
其他好文 时间:
2015-04-20 20:43:38
阅读次数:
168
环境
系统:Ubuntu 14.04
hadoop版本:2.6.0
hbase版本:1.0
jdk版本:1.8
下载地址:Apache上慢慢找吧~~
jdk的环境配置这里就不列出来了,首先讲一下hadoop配置吧。
hadoop安装
1.安装位置:/opt
2.创建hadoop用户组
sudo addgroup hadoop
3.创建hadoop用户
sudo addu...
分类:
其他好文 时间:
2015-04-20 00:38:25
阅读次数:
199
1.hadoop的分布式安装过程1.1 分布结构主节点(1个,是hadoop0):NameNode、JobTracker、SecondaryNameNode从节点(2个,是hadoop1、hadoop2):DataNode、TaskTracker1.2 各节点重新产生ssh加密文件1.3 编辑各个节...
分类:
其他好文 时间:
2015-04-20 00:26:26
阅读次数:
156
1、下载安装jdk下载jdk1.6.0_39_x64.bin./jdk1.6.0_39_x64.bin 执行文件2、配置环境变量vim /etc/profile追加:export JAVA_HOME=/root/hadoop/jdk1.6.0_39export CLASSPATH=.:$CLASSP...
分类:
其他好文 时间:
2015-04-19 10:06:11
阅读次数:
130