1错误:DataXceiver error processing WRITE_BLOCK operation2014-05-06 15:21:30,378 ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: hadoop-datanode1:...
分类:
其他好文 时间:
2014-08-27 18:04:08
阅读次数:
215
最近由于工作需要,要对我们的智能手机进行兼容性测试,在网上关于windows下测试环境搭建的介绍都比较凌乱,这里总结一下我的androidCTS测试windows下环境搭建,分享给大家,希望对大家有用。 工具/原料 Android?...
分类:
移动开发 时间:
2014-08-27 16:48:48
阅读次数:
334
hadoop多次格式化后,导致datanode启动不了,并且在datanode里面执行hadoop datanode -upgrade 会抛出如下异常:************************************************************/2014-08-27 14...
分类:
其他好文 时间:
2014-08-27 16:20:27
阅读次数:
365
1 Map side tuning参数 1.1 MapTask运行内部原理 当map task开始运算,并产生中间数据时,其产生的中间结果并非直接就简单的写入磁盘。这中间的过程比较复杂,并且利用到了内存buffer来进行已经产生的 部分结果的...
分类:
其他好文 时间:
2014-08-27 14:53:18
阅读次数:
221
hadoop的hdfs API的基本操作
简单的介绍
hadoop为我们提供了hdfs非常方便的shell命令(类似于Linux文件操作的命令),再者。hadoop还为我们提供hdfsAPI,使我们开发人员可以对hfds进行一些操作。如:copy文件(从本地到hdfs,从hdfs到本地)、删除文件或者目录、读取文件的内容、看文件的相关信息、列出文件的所有子目录,在文件后面追加内容。(注意:hd...
概念:Hadoop有一个叫DataJoin的包为Data Join提供相应的框架。它的Jar包存在于contrib/datajoin/hadoop-*-datajoin。为区别于其他的data join技术,我们称其为reduce-side join。(因为我们在reducer上作大多数的工作)re...
分类:
其他好文 时间:
2014-08-27 14:35:47
阅读次数:
213
执行文件拷贝操作 拷贝后的“input”文件夹的内容如下所示: 和我们的hadoop安装目录下的“conf”文件的内容是一样的。 现在,在我们刚刚构建的伪分布式模式下运行wordcount程序: 运行完成后我们查看一下输出的结...
分类:
其他好文 时间:
2014-08-27 13:13:48
阅读次数:
314
执行文件拷贝操作拷贝后的“input”文件夹的内容如下所示:和我们的hadoop安装目录下的“conf”文件的内容是一样的。现在,在我们刚刚构建的伪分布式模式下运行wordcount程序:运行完成后我们查看一下输出的结果:部分统计结果如下:此时我们到达Hadoop的web控制台会发现我们提交并成功的...
分类:
其他好文 时间:
2014-08-27 12:49:47
阅读次数:
236
Solr调研总结开发类型全文检索相关开发Solr版本4.2文件内容本文介绍solr的功能使用及相关注意事项;主要包括以下内容:环境搭建及调试;两个核心配置文件介绍;维护索引;查询索引,和在查询中可以应用的高亮显示、拼写检查、搜索建议、分组统计、拼音检索等功能的使用方法。版本作者/修改人日期V1.0g...
分类:
其他好文 时间:
2014-08-27 12:34:58
阅读次数:
237
1,版本选择2.2.52,安装cygwin,并安装Devel下的make:The GNU version of the 'make' utility3,安装python2.74,下载NDK5,环境变量设置,PATH:C:\cygwin\bin;D:\eclipse_android\sdk\platf...
分类:
其他好文 时间:
2014-08-27 10:47:27
阅读次数:
229