码迷,mamicode.com
首页 > 其他好文 > 详细

hadoop2.2.0伪分布模式64位安装

时间:2014-12-01 22:10:11      阅读:254      评论:0      收藏:0      [点我收藏+]

标签:io   ar   os   使用   sp   java   for   文件   on   

hadoop2.2.0伪分布模式64位安装
用到的软件:jdk-6u45-linux-x64.bin,hadoop-2.2.0.x86_64.tar.gz


修改主机名
vim /etc/sysconfig/network
HOSTNAME=h1

修改主机名和ip的映射关系
192.168.1.1 h1

关闭防火墙
chkconfig --list | grep iptables
service iptables stop
chkconfig iptables off
chkconfig --list | grep iptables

生成ssh免密码登录
[root@h1 ~]cd .ssh
ssh-keygen -t rsa
三次回车
cp id_rsa.pub authorized_keys

安装jdk-6u45-linux-x64.bin
解压jdk-6u45-linux-x64.bin到/mengyao/jdk1.6.0_45
./jdk-6u45-linux-x64.bin
mv jdk1.6.0_45 jdk
vi /etc/profile
export JAVA_HOME=/mengyao/jdk
export PATH=.:$JAVA_HOME:$PATH
source /etc/profile
java -version

安装hadoop-2.2.0.x86_64.tar.gz
解压hadoop-2.2.0.x86_64.tar.gz到/mengyao/hadoop-2.2.0
tar -zxvf hadoop-2.2.0.x86_64.tar.gz
重命名hadoop-2.2.0为hadoop
mv hadoop-2.2.0 hadoop
vi /etc/profile
export JAVA_HOME=/mengyao/jdk
export HADOOP_HOME=/mengyao/hadoop
export PATH=.:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$JAVA_HOME:$PATH
source /etc/profile

修改hadoop配置文件hadoop-env.sh,core-site.xml,hdfs-site.xml,mapred-site.xml,yarn-site.xml五个配置文件
1、hadoop-env.sh
    vi hadoop-env.sh
    export JAVA_HOME=/mengyao/jdk
    
2、core-site.xml
    vi core-site.xml
    <configuration>
        <!-- 指定hdfs的NameNode的路径 -->
        <property>
            <name>fs.defaultFS</name>
            <value>hdfs://h1:9000</value>
        </property>
        <!-- 指定hadoop的数据存放路径 -->
        <property>
            <name>hadoop.tmp.dir</name>
            <value>/mengyao/hadoop/tmp</value>
        </property>
    <configuration>
    
3、hdfs-site.xml
    vi hdfs-site.xml
    <configuration>
        <!-- 指定hdfs保存数据副本的数量 -->
        <property>
            <name>dfs.replication</name>
            <value>1</value>
        </property>
    </configuration>
    
4、mapred-site.xml(mv mapred-site.xml.template mapred-site.xml)
    vi mapred-site.xml
    <configuration>
        <!-- 告诉hadoop以后MapReduce运行在yarn上 -->
        <property>
            <name>mapreduce.framework.name</name>
            <value>yarn</value>
        </property>
    </configuration>
    
5、yarn-site.xml
    vi yarn-site.xml
    <configuration>
        <!-- 指定nodemanager获取数据的方式是shuffle -->
        <property>
            <name>yarn.nodemanager.aux-services</name>
            <value>mapreduce_shuffle</value>
        </property>
        <!-- 指定yarn的ResourceManager的地址 -->
        <property>
            <name>yarn.resourcemanager.hostname</name>
            <value>h1</value>
        </property>
    </configuration>

    
初始化HDFS(格式化文件系统)
cd /mengyao/hadoop/bin
hadoop namenode -format(hadoop1的,在hadoop2中已过时)
hdfs namenode -format

启动hadoop
start-all.sh(hadoop2提示不推荐使用,使用如下命令)
start-dfs.sh,start-yarn.sh    
    
    
jps
36374 NodeManager
36269 ResourceManager
35980 DataNode
36133 SecondaryNameNode
35860 NameNode
36886 Jps

浏览器
hdfs    h1:50070
yarn    h1:8088

hadoop常用命令
上传文件到hdfs    hadoop fs -put /源文件路径 /hdfs目录
从hdfs上下载文件到本地    hadoop fs -get /hdfs系统上的文件 /本地路径下的指定文件
从hdfs上删除文件    hadoop fs -rm -r /hdfs系统上的文件
查看hdfs上的文件    hadoop fs -cat /hdfs系统上的文件
递归查看从hdfs根目录开始    hadoop fs ls -R /

hadoop2.2.0伪分布模式64位安装

标签:io   ar   os   使用   sp   java   for   文件   on   

原文地址:http://www.cnblogs.com/mengyao/p/4135938.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!