来自:http://blog.csdn.net/macyang/article/details/7880671所谓的推测执行,就是当所有task都开始运行之后,Job Tracker会统计所有任务的平均进度,如果某个task所在的task node机器配置比较低或者CPU load很高(原因很多),...
分类:
其他好文 时间:
2014-07-09 21:05:18
阅读次数:
248
1、搭建环境 新建JAVA项目,添加的包有: 有关Hadoop的hadoop-core-0.20.204.0.jar 有关Hbase的hbase-0.90.4.jar、hbase-0.90.4-tests.jar以及Hbase资源包中lib目录下的所有jar包2、主要程序Java代码packagec...
分类:
编程语言 时间:
2014-07-09 00:42:53
阅读次数:
384
还没有修改hosts,请先按前文修改。 还没安装java的,请按照前文配置。 (1)增加用户并设立公钥: sudo addgroup hadoop sudo adduser --ingroup hadoop hduser su - hduser cat $HOME/.ssh/id_rsa.pub >...
分类:
其他好文 时间:
2014-07-08 22:57:08
阅读次数:
329
MIL和MPL是CV的大牛Boris Babenko at UC San Diego提出来的,其思想可以用下面一幅图概况。MIL是指一个对象的学习实例可能有很多种情况,学习的时候不是用一个精确的标注对象来学习,而是用一个对象的多个实例组成的“包”来学习;而MPL是指一个对象会有多个姿态(Pose),学习的时候用一个分类器常常难以达到很好的效果,所以可以训练多个分类器来分别学习不同的Pose。其描述的都是对一个对象多种情况的同时学习和对齐的策略,也就是MIL是“adjusting training sampl...
分类:
其他好文 时间:
2014-07-08 21:41:16
阅读次数:
330
sqoop是一个把关系型数据库数据抽向hadoop的工具。同时,也支持将hive、pig等查询的结果导入关系型数据库中存储。由于,笔者部署的hadoop版本是2.2.0,所以sqoop的版本是:sqoop-1.99.3-bin-hadoop2001、下载sqoop wget http://mirro...
分类:
其他好文 时间:
2014-07-06 15:37:41
阅读次数:
138
1. 安装这里以安装hadoop-0.20.2为例先安装java,参考这个去着下载hadoop解压tar -xzf hadoop-0.20.22. 配置修改环境变量vim ~/.bashrcexport HADOOP_HOME=/home/rte/hadoop-0.20.2 #这里为实际hado.....
分类:
其他好文 时间:
2014-07-06 15:12:24
阅读次数:
255
SSH无密安装与配置具体配置步骤:◎在root根目录下创建.ssh目录(必须root用户登录)cd/root&mkdir.sshchmod700.ssh&cd.ssh◎创建密码为空的RSA密钥对:ssh-keygen-trsa-P""◎在提示的对称密钥名称中输入id_rsa将公钥添加至authori...
分类:
其他好文 时间:
2014-07-06 13:08:10
阅读次数:
280
上一篇转载的文章(http://blog.csdn.net/carson2005/article/details/36900161)介绍了图像旋转的原理,这里给出代码实现;
直接上代码了,细节请参考上面的链接;
void ImgRotate(cv::Mat grayImg, float theta, cv::Mat imgOut)
{
int oldWidth = grayImg.c...
分类:
其他好文 时间:
2014-07-06 12:13:48
阅读次数:
217
问题
最近在学习Hadoop(2.2.0),打算写一个MapReduce的小程序在Ubuntu 64位的环境下测试一把,一切环境配置完毕后,执行的过程中,控制台输出下面的内容:
WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java clas...
分类:
其他好文 时间:
2014-07-06 00:46:04
阅读次数:
434
需要进一步学习hadoop、需要看看内部源码实现,因此需要将hadoop源码导入都eclipse中,简单总结一下,具体步骤如下:
首先确保已经安装了git、maven3、protobuf2.5、如果没有安装需要提前安装一下
1、下载hadoop源码
git clone git://git.apache.org/hadoop-common.git
2、进入hadoop-common目录,...
分类:
系统相关 时间:
2014-07-05 23:37:02
阅读次数:
288