在Ubuntu上安装完hadoop2.4以后,使用以下命令:hadoop fs -ls14/09/09 11:33:51 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... usi...
分类:
移动开发 时间:
2014-09-09 15:44:28
阅读次数:
205
引言
Mahout0.9之前的版本默认不支持Hadoop2.2.0以上版本,但很多情况下,由于集群环境的Hadoop已经是2.2.0以上版本,又必须使用Mahout,此时就需要编译源码,使得Mahout支持Hadoop2了。
欢迎转载,请注明出处:
造好的车轮
让Mahout在Hadoop2.2.0上运行是需求十分广泛的,所以必定有前人已经栽好树了,我们可以在...
分类:
其他好文 时间:
2014-09-05 23:49:42
阅读次数:
264
引言
接前一篇文章《【甘道夫】Mahout0.9 打patch使其支持 Hadoop2.2.0》
http://blog.csdn.net/u010967382/article/details/39088035,
为Mahout0.9打过Patch编译成功后,使用贝叶斯文本分类来测试Mahout0.9对Hadoop2.2.0的兼容性。
步...
分类:
其他好文 时间:
2014-09-05 23:49:02
阅读次数:
285
hadoop2.2.0 编译运行wordcount,因为hadoop2.2.0不支持eclipse的插件,所以运行wordcount,需要手动编译并将wordcount打包成jar包来运行,下面记录一下编译运行的过程,希望能给大家有些帮助。 1、首先介绍下had...
分类:
其他好文 时间:
2014-09-05 18:34:22
阅读次数:
227
需要的软件包:Spark1.0.2Scala2.10.4一、安装ScalaRpm–ivhscala-2.10.4.rpm#安装scalaScala–version#检查刚刚安装的scala版本Scalacoderunnerversion2.10.4--Copyright2002-2013,LAMP/EPFL[hadoop@hadoop2~]$scala#进入scala命令行交互模式做简单运算看下运行结果:至此,sc..
分类:
其他好文 时间:
2014-09-05 16:29:12
阅读次数:
199
首先第一步.设置免密码SSH登陆,这是为了以后使用scp 传输文件方便,直接同步文件与文件夹,而且ssh 随时切换到相应的服务器上 ? ? ? ? ? ?先安装好ssh 如果没有安装 那么 按照下面操作 ,这是网上...
分类:
其他好文 时间:
2014-09-04 21:00:50
阅读次数:
356
准备:确保hadoop2.2.0集群正常运行1.eclipse中建立mven工程,并编辑pom文件如下 org.apache.hbase hbase-client 0.96.2-hadoop2 ...
原文地址:http://my.oschina.net/lanzp/blog/309078目录[-]1、开发配置环境:2、Hadoop服务端配置(Master节点)3、基于Eclipse的Hadoop2.x开发环境配置4、运行Hadoop程序及查看运行日志1、开发配置环境:开发环境:Win7(64bi...
分类:
系统相关 时间:
2014-09-04 14:34:59
阅读次数:
491
Hadoop1的HDFS和Mapreduce在高可用和拓展性方面存在问题。 HDFS存在的问题: Namenode单点故障,难以应用于在线场景。 Namenode压力过大,且内存受限,影响系统扩展性。 Mapreduce存在问题: Jobtracker单点故障 ...
分类:
其他好文 时间:
2014-09-04 10:40:49
阅读次数:
254
参考:http://hadoop.apache.org/docs/r2.5.0/hadoop-mapreduce-client/hadoop-mapreduce-client-core/MapReduceTutorial.htmlMaven和WordCount代码: ...
分类:
其他好文 时间:
2014-09-03 19:45:17
阅读次数:
270