码迷,mamicode.com
首页 >  
搜索关键字:mapreduce    ( 4054个结果
Mahout分步式程序开发 基于物品的协同过滤ItemCF
阅读导读: 1.简述用Mahout实现协同过滤ItemCF的步骤? 2.如何用API实现Hadoop的各种HDFS命令? 3.Kmeans.java类报错,暂时可以怎么处理? 1. Mahout开发环境介绍   在用Maven构建Mahout项目文章中,我们已经配置好了基于Maven的Mahout的开发环境,我们将继续完成Mahout的分步式的程序开发。   本文的...
分类:其他好文   时间:2014-10-26 14:23:16    阅读次数:297
yarn环境跑mapreduce报错某个container 600s未报告进度超时被杀
发现每次reduce阶段跑到98%,相关的container被杀,报出的log大概...
分类:其他好文   时间:2014-10-25 18:49:24    阅读次数:130
用Maven构建Mahout项目【一起学Mahout】
阅读导读: 1.Mahout0.7版本和其他Mahout版本的有什么区别? 2.简述Mahout方法中算法实现过程? 3.R语言和Mahout生成的点,并不是重合的,原因有哪些? 1.开发环境 开发环境 Win7 64bit Java 1.6.0_45 Maven 3 Eclipse Juno Service Relea...
分类:其他好文   时间:2014-10-25 11:52:47    阅读次数:275
hive学习路线
hive学习路线图:...
分类:其他好文   时间:2014-10-24 23:38:46    阅读次数:354
【甘道夫】基于Mahout0.9+CDH5.2运行分布式ItemCF推荐算法
环境: hadoop-2.5.0-cdh5.2.0 mahout-0.9-cdh5.2.0 引言 虽然Mahout已经宣布不再继续基于Mapreduce开发,迁移到Spark,但是实际面临的情况是公司集群没有足够的内存支持Spark这只把内存当饭吃的猛兽,再加上项目进度的压力以及开发人员的技能现状,所以不得不继续使用Mahout一段时间。 今天记录...
分类:编程语言   时间:2014-10-24 16:36:02    阅读次数:268
hive:框架理解
Hive是基于Hadoop平台的,它提供了类似SQL一样的查询语言HQL。有了Hive,如果使用过SQL语言,并且不理解Hadoop MapReduce运行原理,也就无法通过编程来实现MR,但是你仍然可以很容易地编写出特定查询分析的HQL语句,通过使用类似SQL的语法,将HQL查询语句提交Hiv.....
分类:其他好文   时间:2014-10-24 14:23:25    阅读次数:201
MapReduce编程小结
(1)key-value到map端比较容易,每个分片都会交由一个MapTask,而每个分片由InputFormat(一般是FileInputFormat)决定(一般是64M), 每个MapTask会调用N次map函数,具体是多少次map函数呢? 由job.setInputForm...
分类:其他好文   时间:2014-10-22 23:30:18    阅读次数:371
mapreduce 只使用Mapper往多个hbase表中写数据
只使用Mapper不使用reduce会大大减少mapreduce程序的运行时间。有时候程序会往多张hbase表写数据。所以有如题的需求。下面给出的代码,不是可以运行的代码,只是展示driver中需要进行的必要项设置,mapper类需要实现的接口,map函数需要的参数以及函数内部的处理方式。实现过程比...
分类:移动开发   时间:2014-10-22 20:15:15    阅读次数:219
使用hadoop实现IP个数统计~并将结果写入数据库
通过hadoop中的MapReduce实现Apache日志中的IP个数统计,并将计算结果输出到mysql数据库中。...
分类:数据库   时间:2014-10-22 12:55:09    阅读次数:419
Mongodb学习笔记四(Mongodb聚合函数)
第四章Mongodb聚合函数插入 测试数据for(var j=1;jdb.集合名.mapReduce( map, reduce, options )第二种统计方式--命令统计1.命令如下:注意:out参数out:"Person_Name" 代表会创建一个临时表Person_Name 然后再从临时表中...
分类:数据库   时间:2014-10-22 12:30:43    阅读次数:335
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!