在看这一章之前,建议大家先去看一下snapshot的使用。这一章是上一章snapshot的续集,上一章了讲了怎么做snapshot的原理,这一章就怎么从snapshot恢复表。restoreSnapshot方法位于HMaster当中,这个方法没几行代码,调用了SnapshotManager的rest...
分类:
其他好文 时间:
2014-05-12 03:59:20
阅读次数:
386
设置/etc/yum.repos.d/CentOS-Debuginfo.repo,修改[debug项下的enabled的值为1];debuginfo-install
glibc libgcc libstdc++;
分类:
数据库 时间:
2014-05-12 02:27:00
阅读次数:
399
1. mongodb安装
mongodb的安装, 配置,启动,服务停止,
先下载mongodb,官网地址;http://www.mongodb.org/downloads
curl -O http://downloads.mongodb.org/linux/mongodb-linux-x86_64-2.6.1.tgz...
分类:
数据库 时间:
2014-05-11 21:13:05
阅读次数:
437
Web应用代理是YARN的一部分. 默认地,它会作为 Resource Manager(RM)的一部分来运行, 但是也可以配置成独立运行的模式。使用代理的原因就是降低通过YARN的web攻击的可能性。
在YARN中,Application Master(AM) 有责任提供web界面并把链接发给RM。这给一些可能的问题打开了大门。 RM 作为一个可信的用户在运行,访问那个web地址的用户会认...
分类:
Web程序 时间:
2014-05-11 20:27:52
阅读次数:
323
Hadoop集群(第9期)_MapReduce初级案例1、数据去重
"数据去重"主要是为了掌握和利用并行化思想来对数据进行有意义的筛选。统计大数据集上的数据种类个数、从网站日志中计算访问地等这些看似庞杂的任务都会涉及数据去重。下面就进入这个实例的MapReduce程序设计。1.1
实例描述 对数.....
分类:
其他好文 时间:
2014-05-11 16:02:24
阅读次数:
538
全局安装forevernpm install -g forever 查看帮助forever
-h查看安装位置whereis forever编写自己的sh文件 forever -p web文件路径 -l 路径/access.log -e
路径/error.log -o 路径/out.log -a --...
分类:
Web程序 时间:
2014-05-11 15:28:31
阅读次数:
315
安装了英文版的Ubuntu12.04之后,使用ctrt+space无法切换到中文,才反应过来。
于是查询了下怎么在Ubuntu下安装和配置中文输入法。
第一步安装语言包:
在左侧的菜单栏中点击 system setting 然后搜索下Lanuage Support,弹出一个语言支持的对话框,选择Install/Remove Languages..
在语言选择中找到简体中文,...
分类:
其他好文 时间:
2014-05-11 14:52:46
阅读次数:
371
Hadoop Streaming 是一个工具, 代替编写Java的实现类,而利用可执行程序来完成map-reduce过程
工作流程 :
InputFile --> mappers --> [Partitioner] --> reducers -->
outputFiles
理解 :
1 输入文件,可以是指定远程文件系统内的文件夹下的 *
2 通过集群自己分解到各个PC...
分类:
编程语言 时间:
2014-05-11 14:46:35
阅读次数:
519
目的
此文档描述了 FairScheduler,
Hadoop 的一个可插入式的调度器,允许 YARN 应用在一个大集群中公平地共享资源。
简介
公平调度是一种分配资源给应用的方法,以致到最后,平均上所有应用获得相等的资源。 Hadoop NextGen 能够调度多种类型的资源。默认的, Fair Scheduler 仅以内存为基础作公平调度决策。可以用Ghodsi 等开发的 ...
分类:
其他好文 时间:
2014-05-11 13:05:57
阅读次数:
393
HFileV2文件
HFileV2文件写入通过StoreFile.Writer-->HFileWriterV2进行写入。
文件格式通过hfile.format.version配置。默认为2,也只有2这个值在0.96可用。
可通过cf中配置DATA_BLOCK_ENCODING配置dataBlock的encoding,
可配置值:NONE,PREFIX,DIFF,FAST_DIFF,PREF...
分类:
其他好文 时间:
2014-05-11 02:57:42
阅读次数:
589