这里就介绍CentOS的安装了,直接进入Hadoop2.2伪分布模式安装。 1.安装包下载 1.1.下载JDK1.7 眼下JDK的版本号是jdk1.8.0_25。这里下载的是jdk1.7.0_67。 下载页面:http://www.oracle.com/technetwork/java/javase ...
分类:
其他好文 时间:
2017-07-23 18:13:28
阅读次数:
188
在搭建好的 resourceHA的环境下, 配置yarn yarn是 hadoop2以后的计算框架, 通过ResourceManager的调用, 将我们写的程序包分到各个nodeManager上, 由于hadoop的理念是移动计算, 所以NodeManager和 DataNode是同一个机器 在 $ ...
分类:
其他好文 时间:
2017-07-20 23:51:31
阅读次数:
164
本次安装是在windows7环境下安装redhat虚拟机进行的,所须要的软件例如以下: VirtualBox-5.0.16-105871-Win.exe rhel-server-5.4-x86_64-dvd.iso 首先安装虚拟机软件,然后在此基础上安装redhat。安装redhat的时候记得关闭防 ...
分类:
其他好文 时间:
2017-07-20 15:27:44
阅读次数:
226
1、安装hadoop环境,以hadoop-2.5.0版本为例,搭建伪分布式环境,所需要工具包提供网盘下载:http://pan.baidu.com/s/1o8HR0Qu 2、上传所需要的工具包到linux相对就应的目录中 3、接上篇(Linux基础环境的各项配置(三)中最后一部分,需卸载系统自带的j ...
分类:
其他好文 时间:
2017-07-19 18:29:44
阅读次数:
187
eclipse或STS运行maven工程出现Missing artifact jdk.tools:jdk.tools:jar:1.7问题 最近项目中使用到大数据平台,代码中应用了hbase-client.0.98.6-hadoop2.jar包,该包中引用了jdk.tools.1.7,所以导致ecli ...
分类:
编程语言 时间:
2017-07-19 14:30:23
阅读次数:
509
修改namenode上的hdfs-site.xml 启动之后各个节点上进程: ...
分类:
其他好文 时间:
2017-07-19 10:26:23
阅读次数:
113
准备软件包1、hadoop-2.7.2.tar.gzhttp://mirror.bit.edu.cn/apache/hadoop/common/2、scala-2.10.4.tgzhttp://www.scala-lang.org/download/2.10.4.html3、spark-2.0.0-bin-hadoop2.7.tarhttp://spark.apache.org/downloads.html一、环境准备3台Centos7的虚拟机:172.16.92.11..
分类:
其他好文 时间:
2017-07-18 16:43:50
阅读次数:
307
本文档以word附件保存在CSDN中,格式更方便查看:http://download.csdn.net/download/yameing/8011891 一、 规划 1. 准备安装包 JDK:http://download.oracle.com/otn-pub/java/jdk/7u67-b01/j ...
分类:
其他好文 时间:
2017-07-18 10:20:13
阅读次数:
331
本文介绍LinkedIn开源的Kafka,久仰大名了,依照其官方文档做些翻译和二次创作。相应能够查看整份官方文档。 基本术语 topics。维护的消息源种类(更像是业务上的数据种类/分类) producer。给kafka的某个topic公布消息的进程 consumer,订阅和处理topic的消息的进 ...
分类:
其他好文 时间:
2017-07-16 19:28:29
阅读次数:
221
hadoop2.7.3+zookeeper3.4.9+hbase1.2.6我想让它们实现开机自启动,需要2个脚本实现。h1.sh和h2.sh.#!/bin/bash#discribe:实现hadoop+zookeeper+hbase开机自启动#对我非常有用的链接:ssh到其他机器,实现zk启动。https://zhidao.baidu.com/question/1447196109490350780.html#..
分类:
其他好文 时间:
2017-07-07 19:51:51
阅读次数:
155