部署hbase的集群首先我们要需要一个hadoop集群、至少要有一个hdfs的集群和zookeeper集群用HA集群的可用性号,由于做实验,没必要这么多集群,那么就不用HA集群第一步看一下hdfs是否正常启动hdfsstart-dfs.sh启动zookeeper看是否正常(每台机器上都手动启动zookeeper)./zkServer.shstart检查zookeeper的工作状态./zkServe
分类:
其他好文 时间:
2019-02-20 09:32:14
阅读次数:
218
Hadoop集群包含1个主节点和3个从节点,需要实现各节点之间的免密码登录,下面介绍具体的实现方法。 一、Hadoop集群环境 二、免密登录原理 每台主机authorized_keys文件里面包含的主机(ssh密钥),该主机都能无密码登录,所以只要每台主机的authorized_keys文件里面都放 ...
分类:
其他好文 时间:
2019-02-13 10:59:14
阅读次数:
242
集群格式化hdfs后,在主节点运行启动hdfs后,发现namenode启动了,而datanode没有启动,在其他节点上jps后没有datanode进程!原因: 当我们使用hdfs namenode -format格式化namenode时,会在namenode数据文件夹中保存一个current/VER ...
分类:
其他好文 时间:
2019-02-10 20:16:29
阅读次数:
195
一、环境及软件准备 1、集群规划 hdp01/10.1.1.11hdp02/10.1.1.12hdp03/10.1.1.13hdp04/10.1.1.14hdp05/10.1.1.15 ambari server 是 否 否 否 否 ambari agent 是 是 是 是 是 namenode 是 ...
分类:
其他好文 时间:
2019-01-31 18:18:39
阅读次数:
513
1、bigdataisnotallowedtoimpersonatexxx原因:用户代理未生效。检查core-site.xml文件是否正确配置。<property><name>hadoop.proxyuser.bigdata.hosts</name><value>*</value></property><property
分类:
其他好文 时间:
2019-01-26 11:14:36
阅读次数:
575
HAdoop集群实战一:Zookeeper集群部署HAdoop集群实战二:Hadoop集群部署HAdoop集群实战三:Namenode高可用HA部署HAdoop集群实战四:Hbase集群部署HAdoop集群实战五:Hive集群部署HAdoop集群实战六:Kafka集群部署HAdoop集群实战七:Hive、Hbase集群整合...待更新HAdoop集群实战八:Hive、Hbase集群整合测试...待
分类:
其他好文 时间:
2019-01-25 19:21:51
阅读次数:
208
环境准备 当需要将一台主机加入到 Ambari 管理的Hadoop集群时,需要对主机进行以下相关设置。 设置hostname并分发hosts文件 每台机器都需要设置唯一的hostname。集群内所有机器的IP和hostname对应关系应全部写入每台机器的hosts文件中。 设置系统语言 Ambari ...
分类:
其他好文 时间:
2019-01-16 11:54:29
阅读次数:
326
1.集群搭建1.前置要求: -HBASE是用Java语言编写的,所以在安装HBASE时,必须安装jdk -安装HBASE是必须有hadoop平台 -HBASE和jdk的版本存在兼容性,一定注意jdk:hadoop:2.集群规划:3.具体搭建:①上传安装包(hbase-1.2.6-bin.tar.gz)②解压:tarzxvfhbase
分类:
其他好文 时间:
2019-01-15 14:35:37
阅读次数:
195
1、下载安装包及测试文档 切换目录到/tmp view plain copy cd /tmp 下载Hadoop安装包 view plain copy wget http://192.168.1.100:60000/hadoop 2.6.0 cdh5.4.5.tar.gz 下载JDK安装包 view ...
分类:
其他好文 时间:
2019-01-12 20:21:10
阅读次数:
283
https://www.codetd.com/article/664330 https://blog.csdn.net/dream_an/article/details/84342770 通过idea开发mapreduce程序并直接run,提交到远程hadoop集群执行mapreduce。 简要流程 ...
分类:
其他好文 时间:
2019-01-12 16:44:16
阅读次数:
142