问题描述:在启动datanode进程时,能成功的启动;但用jps查看进程时,发现进程不存在,下面是在datanode日记文件的错误信息如下图的截屏所示:主要原因:发生错误的原因:由于把data放在的tmp的零时目录下,导致格式化之后,datanode中的数据在namenode中无法找相应的句柄。解决...
分类:
其他好文 时间:
2014-09-21 21:59:31
阅读次数:
256
HDFS 对外提供了可供访问的http server,开放了很多端口,下面介绍常用的几个端口(http://hadoop:……)。一、50070 端口,查看NameNode 状态,如图1.1所示。图 1.1该端口的定义位于core-default.xml 中,如图1.2所示,读者可以在core-si...
分类:
其他好文 时间:
2014-09-21 11:04:30
阅读次数:
261
一、NameNode 的接口分析1. NameNode本质 经过前面的学习,可以知道NameNode 本身就是一个java 进程。观察RPC.getServer()方法的第一个参数,发现是this,说明NameNode 本身就是一个位于服务端的被调用对象,即NameNode 中的方法是可以被客户端....
分类:
其他好文 时间:
2014-09-20 19:44:49
阅读次数:
171
1. HDFS Federation产生背景 在Hadoop 1.0中,HDFS的单NameNode设计带来诸多问题,包括单点故障、内存受限制约集群扩展性和缺乏隔离机制(不同业务使用同一个NameNode导致业务相互影响)等,为了解决这些问题,Hadoop 2.0引入了基于共享存储的HA解决方案和H...
分类:
其他好文 时间:
2014-09-19 22:19:46
阅读次数:
542
Hadoop端口说明:默认端口 设置位置 描述信息8020 namenode RPC交互端口8021 JT RPC交互端口50030 mapred.job.tracker.http.address JobTracker administrative web GUI JOBTRACKER的HTTP服务...
分类:
其他好文 时间:
2014-09-19 15:26:05
阅读次数:
168
1Namenode规划说明:由于Namenode非常重要,一旦丢失数据或停止工作,整个集群就不能恢复了,所以一般来说,Namenode单独安装在一台服务器上,且两个Namenode分开部署。由于ZKFC负责监控Namenode的状态信息,所以每一台Namenode上必须安装ZKFC2Journalnode规划说明:由于Journa..
分类:
其他好文 时间:
2014-09-17 02:27:32
阅读次数:
263
Hadoop-2.4.1 namenode格式化的源代码分析...
分类:
其他好文 时间:
2014-09-16 17:27:51
阅读次数:
214
Hadoop系列之Hive(数据仓库)安装配置1.在NameNode安装cd/root/softtarzxvfapache-hive-0.13.1-bin.tar.gzmvapache-hive-0.13.1-bin/usr/local/hadoop/hive2.配置环境变量(每个节点都需要增加)打开/etc/profile#添加以下内容:exportHIVE_HOME=/usr/local/hadoop/hiveexportPATH..
分类:
其他好文 时间:
2014-09-16 16:07:12
阅读次数:
256
INFO org.apache.hadoop.ipc.RPC: Server at localhost/127.0.0.1:9000 not available yet, Zzzzz...
分类:
其他好文 时间:
2014-09-14 23:38:07
阅读次数:
224
启动hadoop,没有启动namenode进程。log4j:ERROR setFile(null,true) call faild.
分类:
其他好文 时间:
2014-09-12 20:34:14
阅读次数:
447