码迷,mamicode.com
首页 >  
搜索关键字:mapreduce partitioner    ( 4100个结果
Hadoop MapReduce编程入门案例
Hadoop MapReduce编程入门案例简析...
分类:其他好文   时间:2014-08-24 18:06:12    阅读次数:207
利用mapreduce清洗日志
package com.libc;import java.io.IOException;import java.io.UnsupportedEncodingException;import java.util.HashMap;import java.util.Iterator;import java...
分类:其他好文   时间:2014-08-24 12:50:43    阅读次数:295
Hadoop MapReduce纵表转横表
输入数据如下:以\t分隔 0-3岁育儿百科 书 23 0-5v液位传感器 5 0-5轴承 2 0-6个月奶粉 23 0-6个月奶粉c2c报告 23 0-6个月奶粉在线购物排名 23 0-6个月奶粉市场前景 23 0-6个月配方奶粉 23 0.001g电子天平 5 0.01t化铝炉 2 0.01吨熔铝合金炉 2 0.03吨化镁炉 ...
分类:其他好文   时间:2014-08-24 11:43:42    阅读次数:171
Hadoop实战-中高级部分 之 Hadoop作业调优参数调整及原理
第一部分:core-site.xml?core-site.xml为Hadoop的核心属性文件,参数为Hadoop的核心功能,独立于HDFS与MapReduce。参数列表?fs.default.name?默认值 file:///?说明:设置Hadoop namenode的hostname及port,预...
分类:其他好文   时间:2014-08-23 15:13:50    阅读次数:217
hadoop 点点滴滴(三)
AttemptID:attempt_1390962167768_0001_m_000026_0 Timed out after 600 secs14/01/29 10:56:54 INFO mapreduce.Job: map 13% reduce 0%14/01/29 10:57:28 INFO ...
分类:其他好文   时间:2014-08-23 15:11:20    阅读次数:591
Pig、Hive、MapReduce 解决分组 Top K 问题(转)
问题:有如下数据文件 city.txt (id, city, value)cat city.txt1 wh 5002 bj 6003 wh 1004 sh 4005 wh 2006 bj 1007 sh 2008 bj 3009 sh 900需要按 city 分组聚合,然后从每组数据中取出前两条va...
分类:其他好文   时间:2014-08-22 22:25:40    阅读次数:455
Win7下Eclipse中运行远程MapReduce程序
1、hadoop插件的参数配置 2、运行时的参数 3、运行结果
分类:Windows程序   时间:2014-08-21 22:57:45    阅读次数:443
Hbase和Hive之间的区别知多少?
Hive是为了简化编写MapReduce程序而生的,使用MapReduce做过数据分析的人都知道,很多分析程序除业务逻辑不同外,程序流程基本一样。在这种情况下,就需要Hive这样的用戶编程接口。Hive本身不存储和计算数据,它完全依赖于HDFS和MapReduce,Hive中的表纯逻辑,就是些表的定义等,也就是表的元数据。使用SQL实现Hive是因为SQL大家都熟悉,转换成本低,类似作用的Pig就...
分类:其他好文   时间:2014-08-21 19:27:44    阅读次数:148
MapReduce流程、如何统计任务数目以及Partitioner
核心功能描述 应用程序通常会通过提供map和reduce来实现Mapper和Reducer接口,它们组成作业的核心。 Map是一类将输入记录集转换为中间格式记录集的独立任务。 这种转换的中间格式记录集不需要与输入记录集的类型一致。一个给定的输入键值对可以映射成0个或多个输出键值对。Hadoop .....
分类:其他好文   时间:2014-08-21 18:40:34    阅读次数:756
基于HBase Hadoop 分布式集群环境下的MapReduce程序开发
HBase分布式集群环境搭建成功后,连续4、5天实验客户端Map/Reduce程序开发,这方面的代码网上多得是,写个测试代码非常容易,可是真正运行起来可说是历经挫折。下面就是我最终调通并让程序在集群上运行起来的一些经验教训。 一、首先说一下我的环境: 1,集群的环境配置请见这篇博文。 2,...
分类:其他好文   时间:2014-08-21 16:26:54    阅读次数:366
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!