Java实现的一个词频统计程序，考虑海量数据应该怎么做？MapReduce？！...
分类：
编程语言 时间：
2014-05-22 11:29:46
阅读次数：
361
hadoop有种简化机制来管理job和control的非线性作业之间的依赖，job对象时mapreduce的表现形式。job对象的实例化可通过传递一个jobconf对象到作业的构造函数中来实现。
x.addDeopendingJob(y)意味着x在y完成之前不会启动。
鉴于job对象存储着配置和依赖信息，jobcontrol对象会负责监管作业的执行，通过addjob（），你可以为jobcont...
分类：
其他好文 时间：
2014-05-22 07:27:41
阅读次数：
287
一、三道考题开讲之前，我先请你做三道题目。（嘿嘿，得先把你的头脑搞昏才行……唉呀，谁扔我鸡蛋？）考题一，程序代码如下：void Exchg1(int x,
int y){ int tmp; tmp = x; x = y; y = tmp; printf("x = %d, y = %d\n", x, ...
分类：
编程语言 时间：
2014-05-22 02:09:24
阅读次数：
213
import java.io.IOException;import
java.util.StringTokenizer;import org.apache.hadoop.conf.Configuration;import
org.apache.hadoop.fs.Path;import org.ap...
分类：
其他好文 时间：
2014-05-22 01:11:55
阅读次数：
337
Hadoop技术内幕中指出Top
K算法有两步，一是统计词频，二是找出词频最高的前K个词。在网上找了很多MapReduce的Top
K案例，这些案例都只有排序功能，所以自己写了个案例。这个案例分两个步骤，第一个是就是wordCount案例，二就是排序功能。一，统计词频 1 package
TopK;...
分类：
其他好文 时间：
2014-05-21 22:29:14
阅读次数：
599
InputFormat中的Splits集合的获取；InputFormat是一个接口，该接口有2个成员函数；InputSplit[]
getSplits(JobConf job, int numSplits) throws IOException;RecordReader
getRecordReade...
分类：
其他好文 时间：
2014-05-21 19:21:45
阅读次数：
234
代志远早年就职网易研究院从事MapReduce与DFS系统的自主研发，后加入支付宝数据平台负责Hadoop与HBase体系的架构设计与二次研发，支付宝流计算与分布式搜索系统的设计和研发，后成为支付宝海量计算体系架构师兼支付宝三代架构成员。现就转战于阿里巴巴集团-CDO-海量数据部门，负责创新性项目的研究和跟进，目前专注于Google第二代数据库产品MegaStore的研究和在阿里的落地。
在...
分类：
数据库 时间：
2014-05-21 17:04:40
阅读次数：
393
newLISP提供了一个简单的MapReduce的方式，利用net-eval函数，可以向远程运行这newlisp服务进程的机器发起调用。本文介绍最简单的方法：首先服务器启动newlisp进程newlisp -l -c -d 4711 &-l 代表记录日志，默认是打印到终端-c 是不会出现常见的newlisp的会话终端-d 是在连接之间保存状态，一个边际效应就是后续的请求必须等待前面的请求已经完成才...
分类：
其他好文 时间：
2014-05-21 07:20:38
阅读次数：
260
本文是本人在学习网络视屏springMVC的过程中的学习笔记。
为了更便于理解我决定从实际使用的角度解释。
我们在浏览器输入地址
http://localhost:8080/springMVC6/user/data/toUser
界面如下：
此时后台是跳转到下面class的toUser方法的
package com.tgb.web.controller.an...
分类：
编程语言 时间：
2014-05-21 06:27:05
阅读次数：
295
前段时间遇到了一个很诡异的发生的Map阶段的OOM异常，花了些时间才找到原因，这个简要记录一下。先看log。节点一的TaskTracker的log：节点二的TaskTracker的log：节点三的TaskTracker的log：其他节点的TaskTracker中的log都和slave4的一样的：故障分析：OOM是一个比较常见的故..
分类：
其他好文 时间：
2014-05-20 22:15:47
阅读次数：
422
