开篇:在本笔记系列的第一篇中,我们介绍了如何搭建伪分布与分布模式的Hadoop集群。现在,我们来了解一下在一个Hadoop分布式集群中,如何动态(不关机且正在运行的情况下)地添加一个Hadoop节点与下架一个Hadoop节点。 一、实验环境结构 本次试验,我们构建的集群是一个主节点,三个从节点的结构 ...
分类:
其他好文 时间:
2017-11-03 13:07:50
阅读次数:
224
一、HBase的安装配置 1.1 伪分布模式安装 伪分布模式安装即在一台计算机上部署HBase的各个角色,HMaster、HRegionServer以及ZooKeeper都在一台计算机上来模拟。 首先,准备好HBase的安装包,我这里使用的是HBase-0.94.7的版本,已经上传至百度网盘之中(U ...
分类:
其他好文 时间:
2017-11-03 13:02:53
阅读次数:
210
关于大数据,一看就懂,一懂就懵。 一、简介 Hadoop的平台搭建,设置为三种搭建方式,第一种是“单节点安装”,这种安装方式最为简单,但是并没有展示出Hadoop的技术优势,适合初学者快速搭建;第二种是“伪分布式安装”,这种安装方式安装了Hadoop的核心组件,但是并没有真正展示出Hadoop的技术 ...
分类:
其他好文 时间:
2017-10-29 20:22:35
阅读次数:
224
环境 ubuntu hadoop2.8.1 java1.8 1.配置java1.8 2.配置ssh免密登录 3.hadoop配置 环境变量 配置hadoop环境文件hadoop-env.sh core-site.xml mapred-site.xml hdfs-site.xml yarn-site. ...
分类:
系统相关 时间:
2017-10-28 23:55:26
阅读次数:
273
前言 本文搭建了一个由三节点(master、slave1、slave2)构成的Hadoop完全分布式集群(区别单节点伪分布式集群),并通过Hadoop分布式计算的一个示例测试集群的正确性。 本文集群三个节点基于三台虚拟机进行搭建,节点安装的操作系统为Centos7(yum源),Hadoop版本选取为 ...
分类:
其他好文 时间:
2017-10-28 20:32:29
阅读次数:
262
一、配置SSH免密登录 进入/.ssh目录,执行密钥生成指令 ssh-keygen -t rsa (rsa为默认加密格式) 然后会出现四个提示,让你选择密钥保存路径、指纹、拍照啥的,不用管它直接回车过去 因为如果你配置了后下次登录还要你验证,也就失去了集群配置ssh免密的意义 然后成功了之后,把公钥 ...
分类:
系统相关 时间:
2017-10-25 16:44:57
阅读次数:
288
原文地址:http://www.cnblogs.com/zhangyinhua/p/7647686.html 阅读目录(Content) 一、Hadoop的三种运行模式(启动模式) 1.1、单机模式(独立模式)(Local或Standalone Mode) 1.2、伪分布式模式(Pseudo-Dis ...
分类:
其他好文 时间:
2017-10-17 16:34:19
阅读次数:
195
kafka 的topic 创建和删除试验 zookeeper和kafka 的安装,参考: http://www.cnblogs.com/caoguo/p/5958608.html 参考上述URL后,在个人的伪分布式环境下,安装了kafka 确认 zookeeper 为运行状态: $ service ...
分类:
其他好文 时间:
2017-10-16 09:47:01
阅读次数:
164
本文为Zookeeper伪分布式环境的部署,机器环境Wie 1、Centos 6.8 2、JDK为1.8.0_121 3、zookeeper版本为3.4.9 一、zookeeper伪分布式环境准备 为了方便命令输入,这里将zookeeper配置到环境变量中 在文件的末尾增加以下内容,保存退出 刷新环 ...
分类:
其他好文 时间:
2017-10-16 02:09:31
阅读次数:
256
前言 前面只是大概介绍了一下Hadoop,现在就开始搭建集群了。我们下尝试一下搭建一个最简单的集群。之后为什么要这样搭建会慢慢的分享,先要看一下效果吧! 一、Hadoop的三种运行模式(启动模式) 1.1、单机模式(独立模式)(Local或Standalone Mode) -默认情况下,Hadoop ...
分类:
其他好文 时间:
2017-10-11 00:42:07
阅读次数:
180