报如下错误 解决方法: 方法一:(结果不起作用) 通过Shell命令方式,hadoop/bin/hdfs haadmin -failover --forceactive hadoop2 hadoop1(注意,这种方式本来是在手动故障恢复中进行强制切换NameNode的做法) 返回结果,不支持,并且诚 ...
分类:
数据库 时间:
2016-10-09 06:52:15
阅读次数:
882
文章介绍了Hadoop2和Hadoop1的区别,对HDFS的构成和功能进行了描述 ...
分类:
其他好文 时间:
2016-10-05 13:17:16
阅读次数:
205
通过启动或停止hadoop我们会发现会出现 “Warning: $HADOOP_HOME is deprecated” 这样一个警告,下面给出解决方案: 不过我们一般推荐第二种,因为我们还是需要$HADOOP_HOME的,方便引用。 所以我们一般在/etc/profile 文件最后加上 export ...
分类:
其他好文 时间:
2016-10-02 21:47:11
阅读次数:
209
一、安装opensjdk1.8.0yuminstalljava-1.8.0-openjdk-y二、下载hadoop3.0.0wgethttp://mirror.bit.edu.cn/apache/hadoop/common/hadoop-3.0.0-alpha1/hadoop-3.0.0-alpha1.tar.gz三、配置hadoop1、解压hadoop2、编辑etc/hadoop/hadoop-env.shexportJAVA_HOME=‘/usr/lib/jvm/jav..
分类:
其他好文 时间:
2016-10-01 06:53:38
阅读次数:
150
从Hadoop1到Hadoop2很大程度上解放了Jobtracker资源调度的问题,这就得多亏了yarn平台了。我知道的,除了我们的大豆瓣用的是Mesos,咱们国家可以说应该是99.99%都使用的是yarn,当然了,国外使用的大多是Mesos。(然而我对Mesos并不理解啥,只知道他和yarn一样的 ...
分类:
其他好文 时间:
2016-09-09 22:28:06
阅读次数:
180
1:安装包http://hadoop.apache.org/releases.htmlhttp://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.htmlhadoop-2.6.4(binary)jdk-8u102-linux-x64.tar.gz2:节点信息centos7*3master10.10.0.115slave110.10.0.116slave210.10.0.1173:安装过..
分类:
其他好文 时间:
2016-09-06 23:47:32
阅读次数:
278
下图是大概步骤: 下面是详细步骤,但我的代码跟上面有点不一样,但都是一个道理: 第一个程序测试 wordcount 先创建目录 hadoop fs -mkdir /wc hadoop fs -mkdir /wc/input 把要统计的文件放入目录 hadoop fs -put /opt/module ...
分类:
其他好文 时间:
2016-08-23 18:43:14
阅读次数:
139
体系结构 从上图可以看出NameNode节点:在Hadoop1.x的版本中,NameNode节点只有一个,所以NameNode节点为非HA的(不是高可用的,后面会详细讨论)。在Hadoop2.X的版本中,NameNode节点可以有很多个。所以在Hadoop2.x的版本中,NameNode节点是HA的 ...
分类:
其他好文 时间:
2016-08-19 18:44:03
阅读次数:
175
一.简介 Hadoop2.x之后没有Eclipse插件工具,我们就不能在Eclipse 上调试代码,我们要把写好的java代码的MapReduce打包成jar然后在Linux上运行,所以这种不方便我们调试代码,所以我们自己编译一个 Eclipse插件,方便我们在我们本地上调试,经过hadoop1.x ...
分类:
系统相关 时间:
2016-08-15 12:59:58
阅读次数:
288
转发请注明本文链接 准备工作: VMware-workstation (网络统一设置为桥接) Xshell或者putty (方便在Windows下进行操作,复制粘贴命令方便,更推荐用第一个,以后不需要输入IP地址和帐号密码了) FileZilla (传输文件,端口22,使用SFTP协议) 环境为 C ...
分类:
其他好文 时间:
2016-08-12 11:35:44
阅读次数:
232