由于从官网下载的hadoop中依赖包native hadoop
library是基于32位版本的,在64位机器上安装,会出现以下错误:2014-05-30 19:47:49,703 INFO
org.apache.hadoop.hdfs.server.datanode.DataNode: regis...
分类:
其他好文 时间:
2014-06-06 23:38:29
阅读次数:
494
这里介绍一下hadoop的组成,
hadoop主要由两部分组成,,一个是hdfs,还有一个是mapreduce这两个部分在hadoop
2.2.0中分别用start-dfs.sh和start-yarn.sh启动。mapreduce 在2.0版本号中有了一个新名字yarn.dfs 主要用来启动
nam...
分类:
其他好文 时间:
2014-06-06 19:27:24
阅读次数:
322
Ubuntu12.04-x64编译安装Hadoop2.2.0集群、Hadoop-Eclipse插件
分类:
其他好文 时间:
2014-06-06 14:08:15
阅读次数:
421
相比Java的MapReduce
api,Pig为大型数据集的处理提供了更高层次的抽象,与MapReduce相比,Pig提供了更丰富的数据结构,一般都是多值和嵌套的数据结构。Pig还提供了一套更强大的数据变换操作,包括在MapReduce中被忽视的连接Join操作。Hadoop版本:2.2.0Pig...
分类:
其他好文 时间:
2014-06-05 20:08:13
阅读次数:
373
package
com.sogou.web.selector.updana.wapPc;import
org.apache.hadoop.conf.Configured;import org.apache.hadoop.fs.Path;import
org.apache.hadoop.io.Text...
分类:
其他好文 时间:
2014-06-05 19:23:04
阅读次数:
335
为了装hadoop,先要装hadoop.然后用wubi装ubuntu
10.10,接着开始装hadoop,但是装hadoop要先装ssh等一系列软件,用命令apt-get install
openssh-server发现没有相应软件,接着更新源,即使网上说的速度最快的源163也无效,然后查了下好像1...
分类:
其他好文 时间:
2014-06-05 17:41:25
阅读次数:
237
由于现在hadoop2.0还处于beta版本,在apache官方网站上发布的beta版本中只有编译好的32bit可用,如果你直接下载安装在64bit的linux系统的机器上,运行会报一个INFO
util.NativeCodeLoader - Unable to load native-hadoop...
分类:
其他好文 时间:
2014-06-05 17:37:23
阅读次数:
310
core-site.xml:fs.default.name:hdfs://hadoop:9000fs.tmp.dir:/usr/local/hadoop/tmphdfs-site.xml:dfs.name.dir:dfs.name.edits.dir:eidtsdfs.replication
分类:
其他好文 时间:
2014-06-04 14:40:40
阅读次数:
254
最近发现 OpenCV 的 C++ 接口写得和 Matlab 实在是太相似了。我用 OpenCV 2.49 来实现 Guided Filter 的时候几乎是直接照抄作者公开的 Matlab 代码。废话不多直接贴我的代码:
cv::Mat guidedFilter(cv::Mat I, cv::Mat p, int r, double eps)
{
/*
% GUIDEDFILTER O(...
分类:
其他好文 时间:
2014-06-02 12:21:53
阅读次数:
187
用hbase做数据库,但由于hbase没有类sql查询方式,所以操作和计算数据非常不方便,于是整合hive,让hive支撑在hbase数据库层面 的 hql查询.hive也即 做数据仓库
1. 基于Hadoop+Hive架构对海量数据进行查询:http://blog.csdn.net/kunshan_shenbin/article/details/7105319
2. HBase...
分类:
其他好文 时间:
2014-06-02 10:33:40
阅读次数:
277