1.1.1 安全模式 安全模式是文件系统只读不写的过程,一般在载入旧镜像,执行编辑日志,生成新镜像和空编辑日志文件的过程中。datanode存储数据块列表,namenode存储块的位置信息。datanode定期向namenode发送最新的块列表信息。如果某个块复本数量少于最小复本级别(dfs.nam ...
分类:
其他好文 时间:
2020-03-11 11:08:29
阅读次数:
65
1.1.1 永久性数据结构 namenode的目录结构如下图 (1) VERSION属性文件 namespaceid文件系统命名空间唯一标识。 clusterID是将HDFS集群作为一个整体赋予的唯一标识符。 blockpoolID是数据块池的唯一标识。 CTime是namenode存储系统创建时间 ...
分类:
其他好文 时间:
2020-03-11 10:58:32
阅读次数:
49
发现最近很多人关注CDH版本更新的问题,CDH6更新有一年多的时间了,2019年2月19日,迭代的版本为CDH6.1.1,现在CDH最新的版本已经到CDH6.3.3了。为了方便比较,本文内容主要基于CDH5.16.1和CDH6.1.1进行说明。CDH6是基于Hadoop3同时包含大量其他组件的大版本更新的发布版本,许多用户考虑到未来CDH的版本主要是基于CDH6,而CDH5会慢慢的停止更新,所以考
分类:
其他好文 时间:
2020-03-10 12:04:30
阅读次数:
53
1. 基于maven构建的javaweb项目 1. 使用maven进行对项目进行打成war包的形式 2. 然后把war包使用文件传输工具传输到服务器Tomcat中的webapps目录下。 3. 重启Tomcat,tomcat会自动解压项目,然后访问公网IP+端口号,可以使用 Manager App ...
分类:
编程语言 时间:
2020-03-09 00:52:16
阅读次数:
73
查看状态: sudo systemctl status firewalld 未开启的状态如下, 开启的状态如下,显示running则为开启 打开防火墙的命令: 1.打开后重启还会恢复原来的状态 sudo systemctl start firewalld 2.打开后重启不会恢复原来的状态 sudo ...
分类:
其他好文 时间:
2020-03-06 15:03:41
阅读次数:
61
查看版本 https://answers.ros.org/question/330033/is there a way to know which version of autoware is running/ cd autoware_dir/src/autoware/common git desc ...
分类:
其他好文 时间:
2020-03-06 10:27:48
阅读次数:
44
hadoop主备高可用故障转移机制 NameNode和2nn zookeeper保姆机制 zookeeper全新选举机制 zookeeper之非全新选举 NameNode和2nn hbase之存数据流程 hbase之创建表流程 hbase之查询路由(解决元数据信息不断增大 hbase之rowkey设 ...
分类:
其他好文 时间:
2020-03-04 22:29:35
阅读次数:
152
HDFS的热备份 其实现原理就是在联邦HDFS下,每两个NameNode形成一组。这组NameNode一个状态为Active一个状态为StandBy,通过ZooKeeper进行管理。 Active和StandBy之间可以进行通信。当其中Active的NameNode出故障的时候。会通过ssh或者sh ...
分类:
其他好文 时间:
2020-03-04 09:41:47
阅读次数:
74
联邦Hadoop 是NameNode的水平拓展方案。该方案允许HDFS创建多个NameSpece(两个为一对)以提高集群的拓展性和隔离性,联邦HDFS允许每个NameNode管理文件系统命名空间的一部分。每个NameNode维护一个命名空间,不同NameNode之间的命名空间相互独立。数据块池不再切 ...
分类:
其他好文 时间:
2020-03-04 09:18:04
阅读次数:
73
配置core-site.xml <configuration> <!-- 把两个NameNode)的地址组装成一个集群mycluster --> <property> <name>fs.defaultFS</name> <value>hdfs://mycluster</value> </proper ...
分类:
其他好文 时间:
2020-03-04 00:07:55
阅读次数:
86