按照storm on yarn(Apache hadoop)部署好之后,然后修改HADOOP_HOME,hadoopenv.sh中的JAVA_HOME,以及storm-yarn-master中pom.xml的hadoop version启动顺序依次为:hdfs:start-dfs.shyarn:st...
分类:
其他好文 时间:
2015-07-18 16:55:49
阅读次数:
158
Hadoop部署 Ubuntu14.04 Hadoop有3种部署方式。单机模式,伪分布模式,完全分布式(集群,3个节点)。一、单机模式1 基础环境1.1创建hadoop用户组sudo addgroup hadoop1.2创建hadoop用户sudo adduser -ingroup hadoop h...
分类:
系统相关 时间:
2015-06-02 17:25:12
阅读次数:
375
Hadoop是Apache软件基金会旗下的开源分布式存储计算平台,它以HDFS(Hadoop Distributed File System)和MapReduce为核心,为用户提供了系统底层细节透明的分布式基础架构。其中,HDFS的高容错性、高伸缩性等优点允许用户将Hadoop部署在低廉的硬件上.....
分类:
其他好文 时间:
2015-03-21 11:14:44
阅读次数:
189
原创作品,出自 “深蓝的blog” 博客,欢迎转载,转载时请务必注明出处,否则追究版权法律责任。
深蓝的blog:
【简介】
个人在oracle路上的成长记录,其中以蓝自喻,分享成长中的情感、眼界与技术的变化与成长。敏感信息均以其它形式去掉,不会泄露任何企业机密,纯为技术分享。
创作灵感源于对自己的自省和记录。若能对刚刚起步的库友起到些许的帮助...
分类:
数据库 时间:
2015-03-04 06:17:17
阅读次数:
276
介绍这一系列博文介绍hadoop集群的部署和安装,因为hadoop确实比较复杂,所以分为几个部分来一一介绍。大致有基础篇,HA-QJM篇,Federation篇。正文一、操作环境虚拟机4台,配置基于hadoop的集群中包括4个节点:1个Master,3个Salve,节点之间局域网连接,可以相互ping通,Ip分..
分类:
系统相关 时间:
2015-01-21 20:26:44
阅读次数:
347
环境基础篇需要4台机器(一台namenode,三台datanode);HA篇需要8台机器:两台namenode(一台作activenn,另一台作standbynn),三台datanode,三台zookeeper(也可以省去这三台,把zookeeperdaemon部署在其他机器上)。实际上还需要3台journalnode,但因为它比较轻量级,所以这里就..
分类:
系统相关 时间:
2015-01-21 20:20:32
阅读次数:
358
前语:如果看官是个比较喜欢使用现成软件的,比较推荐使用quickhadoop,这个使用参照官方文档即可,是比较傻瓜式的,这里不做介绍。本文主要是针对自己部署分布式hadoop。 1.修改机器名[root@localhost root]# vi /etc/sysconfig/network将HO...
分类:
其他好文 时间:
2015-01-20 22:00:48
阅读次数:
448
配置主机映射关系
[hadoop@slave03~]$cat/etc/hosts
127.0.0.1localhostlocalhost.localdomainlocalhost4localhost4.localdomain4
10.15.5.200master.hadoop
10.15.5.201slave01.hadoop
10.15.5.202slave02.hadoop
10.15.5.203slave03.hadoop如上有4台主机,每台hosts都已经编..
分类:
其他好文 时间:
2014-08-22 02:49:05
阅读次数:
213
SSH无密安装与配置具体配置步骤:◎在root根目录下创建.ssh目录(必须root用户登录)cd/root&mkdir.sshchmod700.ssh&cd.ssh◎创建密码为空的RSA密钥对:ssh-keygen-trsa-P""◎在提示的对称密钥名称中输入id_rsa将公钥添加至authori...
分类:
其他好文 时间:
2014-07-06 13:08:10
阅读次数:
280