从《Hadoop权威指南》选取了一个小案例，在Hadoop集群环境中运行。1、新建JAVA类，保存书中源代码。[huser@master bin]$ vi
URLCat.javaimport java.io.InputStream;import java.net.URL;import org.apa...
分类：
其他好文 时间：
2014-05-14 03:52:36
阅读次数：
457
这是我入职A公司的第二个项目，也是我主管的第一个项目。甲方的单位地址在云南，我作为技术跟着领导出差调研。开始拿到这个项目，也是因为入职不久，想有所建树，所以倍感压力。毕竟是跨行业，业务逻辑云里雾里。只是想过去详细了解。最开始的几天，我拿着各种报表，一行行的数据把我难住。我分不清报表间的关系。白天调研...
分类：
其他好文 时间：
2014-05-14 03:12:42
阅读次数：
274
一个Hadoop集群拥有多个并行的计算机，用以存储和
Hadoop强调代码向数据迁移...
分类：
其他好文 时间：
2014-05-13 06:54:15
阅读次数：
366
本文记录Ant编译MapReduce程序的过程。程序使用《Hadoop MapReduce
Cookbook》中的示例代码。1、安装AntAnt项目主页：http://ant.apache.org/下载二进制安装包，例如apache-ant-1.9.4-bin.tar.gz，上传到Hadoop集群环...
分类：
其他好文 时间：
2014-05-12 20:44:36
阅读次数：
398
Thrift 是什么？
Thrift源于大名鼎鼎的facebook之手，在2007年facebook提交Apache基金会将Thrift作为一个开源项目，对于当时的facebook来说创造thrift是为了解决facebook系统中各系统间大数据量的传
输通信以及系统之间语言环境不同需要跨平台的特性...
分类：
其他好文 时间：
2014-05-12 20:35:23
阅读次数：
296
import java.io.IOException;import
org.apache.hadoop.conf.Configuration;import org.apache.hadoop.fs.Path;import
org.apache.hadoop.io.IntWritable;import...
分类：
其他好文 时间：
2014-05-12 19:55:27
阅读次数：
326
架 构 描 述
01、数据层，数据源，有形资源入库，无形资源整理，对外搜索引擎，对内平台搜索，数据类型（文字、图片、声音、视频、组合），数据时空优化，数据安全方案（数据进站关卡，数据出战关卡），数据并发方案，大数据分...
分类：
其他好文 时间：
2014-05-12 05:14:11
阅读次数：
413
在看这一章之前，建议大家先去看一下snapshot的使用。这一章是上一章snapshot的续集，上一章了讲了怎么做snapshot的原理，这一章就怎么从snapshot恢复表。restoreSnapshot方法位于HMaster当中，这个方法没几行代码，调用了SnapshotManager的rest...
分类：
其他好文 时间：
2014-05-12 03:59:20
阅读次数：
386
Web应用代理是YARN的一部分. 默认地，它会作为 Resource Manager(RM)的一部分来运行, 但是也可以配置成独立运行的模式。使用代理的原因就是降低通过YARN的web攻击的可能性。
在YARN中，Application Master(AM) 有责任提供web界面并把链接发给RM。这给一些可能的问题打开了大门。 RM 作为一个可信的用户在运行，访问那个web地址的用户会认...
分类：
Web程序 时间：
2014-05-11 20:27:52
阅读次数：
323
Hadoop集群（第9期）_MapReduce初级案例1、数据去重
"数据去重"主要是为了掌握和利用并行化思想来对数据进行有意义的筛选。统计大数据集上的数据种类个数、从网站日志中计算访问地等这些看似庞杂的任务都会涉及数据去重。下面就进入这个实例的MapReduce程序设计。1.1
实例描述 对数.....
分类：
其他好文 时间：
2014-05-11 16:02:24
阅读次数：
538
