码迷,mamicode.com
首页 >  
搜索关键字:hadoop、spark    ( 198个结果
为配置Hadoop Spark等做准备
1、同步时钟自动同步crontab -e输入如下内容 01*** /usr/sbin/ntpdate us.pool.ntp.org2、配置主机名gedit /etc/sysconfig/network 修改主机名如下NETWORKING=yes #启动网络NETWORKING_IPV6=noHOS...
分类:其他好文   时间:2014-11-10 21:45:00    阅读次数:201
ubuntu下hadoop,spark配置
转载来自:http://www.cnblogs.com/spark-china/p/3941878.html在VMWare 中准备第二、第三台运行Ubuntu系统的机器;在VMWare中构建第二、三台运行Ubuntu的机器和构建第一台机器完全一样,再次不在赘述。。与安装第一台Ubuntu机器不同的几...
分类:系统相关   时间:2014-11-05 19:38:56    阅读次数:1295
Tachyon基本使用08-----Running Hadoop MapReduce on Tachyon
一、修改Hadoop配置文件1.修改core-site.xml文件添加如下属性,让MapReduce作业可以使用Tachyon文件系统作为输入和输出<property> <name>fs.tachyon.impl</name> <value>tachyon.hadoop.TFS</value> </property>2.配置hadoop-env.sh在hado..
分类:其他好文   时间:2014-10-15 16:36:41    阅读次数:175
Tachyon基本使用06-----Tachyon 命令行接口
一、tachyon命令介绍#tachyon Usage:tachyonCOMMAND whereCOMMANDisoneof: format[-s]格式化FormatTachyon(如果指定-s参数,表示在underfs不存在时进行) bootstrap-conf生成一个配置文件,如果不存在 tfs命令行客户端 loadufs加载三、Tachyon命令行操作现有的底层文件系统到Tach..
分类:其他好文   时间:2014-10-15 16:22:51    阅读次数:220
Tachyon基本使用07-----Tachyon集群容错2
四、配置Master容错1.修改Tachyon配置[root@node1conf]#pwd/usr/local/tachyon/conf [root@node1conf]#tailtachyon-env.sh JAVA_HOME=/usr/java/default exportTACHYON_MASTER_ADDRESS=node1 exportTACHYON_UNDERFS_ADDRESS=hdfs://node2:9000 -Dtachyon.master.journal.folder..
分类:其他好文   时间:2014-10-15 16:04:11    阅读次数:252
Tachyon基本使用07-----Tachyon集群容错1
一、安装zookeeper集群1.下载并解压zookeeper[root@node1soft]#tar-zxfzookeeper-3.4.5.tar.gz-C/usr/local/ [root@node1soft]#ln-s/usr/local/zookeeper-3.4.5//usr/local/zookeeper [root@node1soft]#2.创建zookeeper数据目录[root@node1zookeeper]#pwd/usr/local/zookeeper ..
分类:其他好文   时间:2014-10-15 15:15:11    阅读次数:237
Tachyon基本使用09-----Running Spark on Tachyon
一、配置scala环境1.实验环境Node1192.168.1.1master Node2192.168.1.2worker Node3192.168.1.3worker2.检查java环境(每个节点)#java-version javaversion"1.7.0_05" Java(TM)SERuntime Environment(build1.7.0_05-b05) JavaHotSpot(TM)64-Bit ServerVM(build23.1-b03,mixedm..
分类:其他好文   时间:2014-10-15 15:11:31    阅读次数:585
Tachyon基本使用10-----Running Shark on Tachyon
一、安装Hive1.下载并解压Hive[root@node1soft]#tar-zxfapache-hive-0.13.1-bin.tar.gz-C/usr/local/ [root@node1soft]#ln-s/usr/local/apache-hive-0.13.1-bin//usr/local/hive [root@node1soft]#2.配置hive环境变量[root@node1soft]#cat/etc/profile.d/hive.sh HIVE_HOME=/us..
分类:其他好文   时间:2014-10-15 14:36:51    阅读次数:260
Tachyon基本使用01-----Tachyon简介
一、Tachyon介绍Tachyon是一个高容错的分布式文件系统,允许文件以内存的速度在集群框架中进行可靠的共享,就像Spark和MapReduce那样。通过利用信息继承,内存侵入,Tachyon获得了高性能。Tachyon工作集文件缓存在内存中,并且让不同的Jobs/Queries以及框架都能内存的速度来访..
分类:其他好文   时间:2014-10-14 21:33:59    阅读次数:638
Tachyon基本使用02-----Tachyon本地模式安装
一、配置系统环境1.清除默认防火墙规则#serviceiptablessave iptables:将防火墙规则保存到/etc/sysconfig/iptables:[确定]2.关闭Selinux#cat/etc/sysconfig/selinux|grepSELINUX|grep-v^# SELINUX=disabled SELINUXTYPE=targeted #3.配置ip地址#cat /etc/sysconfig/network-s..
分类:其他好文   时间:2014-10-14 21:32:29    阅读次数:298
198条   上一页 1 ... 17 18 19 20 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!