zookeeper介绍zookeeper是一个为分布式应用提供一致性服务的软件，它是开源的Hadoop项目中的一个子项目，并且根据google发表的论文来实现的，接下来我们首先来安装使用下这个软件，然后再来探索下其中比较重要一致性算法。zookeeper安装和使用zookeeper的安装基本上可以按...
分类：
其他好文 时间：
2014-06-18 18:34:49
阅读次数：
202
我们知道，一个典型的Map-Reduce过程包 括：Input->Map->Partition->Reduce->Output。Partition负责把Map任务输出的中间结果 按key分发给不同的Reduce任务进行处理。Hadoop 提供了一个很有用的partitioner类KeyFieldBa...
分类：
编程语言 时间：
2014-06-18 17:00:55
阅读次数：
332
sqoop版本为1.4.4，hadoop版本为2.2.0，hive版本为0.11.0，hive元数据存放位置为mysql，当使用sqoop 从mysql往hive中导入数据时，总是提示找不到所指定的hive数据库，事实上hive中已存在该数据库，sqoop中也设置了hive路 径，/etc/pro....
分类：
数据库 时间：
2014-06-18 15:06:57
阅读次数：
248
1、问题：start-all.sh结果jps发现namenode没有启动，其它进程都启动2、查看日志，没有namenode生产的日志3、奇了，检查其它进程的日志，都在重新连接namenode Zzzzzzz.....4、记得虚拟机是直接关机的，未执行stop-all.sh5、删除tmp目录（metd...
分类：
其他好文 时间：
2014-06-18 13:49:33
阅读次数：
252
随着企业开始同时利用云计算和大数据技术，现在应当考虑如何将这些工具结合使用。尤其是OpenStack作为目前最流行的开源云版本如何部署在Hadoop上。...
分类：
其他好文 时间：
2014-06-17 19:00:58
阅读次数：
304
主要介绍Hadoop家族产品，常用的项目包括Hadoop, Hive, Pig, HBase, Sqoop, Mahout, Zookeeper, Avro, Ambari, Chukwa，新增加的项目包括，YARN, Hcatalog, Oozie, Cassandra, Hama, Whirr, Flume, Bigtop, Crunch, Hue等。
从2011年开始，中国进入大数据风起云...
分类：
其他好文 时间：
2014-06-17 16:44:25
阅读次数：
310
概况Hadoop Streaming 是一个工具， 代替编写Java的实现类，而利用可执行程序来完成map-reduce过程。一个最简单的程序$HADOOP_HOME/bin/hadoop jar $HADOOP_HOME/hadoop-streaming.jar-input myInputDirs...
分类：
其他好文 时间：
2014-06-17 15:33:54
阅读次数：
330
首先，SSH不是一个框架，而是多个框架（struts+spring+hibernate）的集成，是眼下较流行的一种Web应用程序开源集成框架，用于构建灵活、易于扩展的多层Web应用程序。集成SSH框架的系统从职责上分为四层：表示层、业务逻辑层、数据持久层和域模块层（实体层）。Struts作为系统的总...
分类：
其他好文 时间：
2014-06-17 15:23:16
阅读次数：
260
最近系统需要一个office文件预览功能解决方案为使用libreoffice将office文件转换为pdf文件,然后使用swftools将pdf文件转换为swf文件最后在前台使用flexpaper浏览swf文件,即可实现预览环境搭建完成,转换也没有问题,但是预览效果看到所有中文全部为乱码下载转换后的...
分类：
其他好文 时间：
2014-06-17 15:10:23
阅读次数：
330
