码迷,mamicode.com
首页 > 其他好文 > 详细

大数据-Hadoop生态(19)-MapReduce框架原理-Combiner合并

时间:2018-12-12 19:39:44      阅读:172      评论:0      收藏:0      [点我收藏+]

标签:9.png   set   idt   cte   ble   框架   values   key   wordcount   

1. Combiner概述

技术分享图片

 

 2. 自定义Combiner实现步骤

1). 定义一个Combiner继承Reducer,重写reduce方法

public class WordcountCombiner extends Reducer<Text, IntWritable, Text,IntWritable>{

    @Override
    protected void reduce(Text key, Iterable<IntWritable> values,Context context) throws IOException, InterruptedException {

        // 1 汇总操作
        int count = 0;
        for(IntWritable v :values){
            count += v.get();
        }

        // 2 写出
        context.write(key, new IntWritable(count));
    }
}

2). 在Driver类中添加设置

job.setCombinerClass(WordcountCombiner.class);

 

效果

技术分享图片

 

 技术分享图片

 

大数据-Hadoop生态(19)-MapReduce框架原理-Combiner合并

标签:9.png   set   idt   cte   ble   框架   values   key   wordcount   

原文地址:https://www.cnblogs.com/duoduotouhenying/p/10110510.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!