导读看这篇文章的时候，最好是能够跟着代码一起看，我是边看代码边写的，所以这篇文章的前进过程也就是我看代码的推进过程。作业执行上一章讲了RDD的转换，但是没讲作业的运行，它和Driver Program的关系是啥，和RDD的关系是啥？官方给的例子里面，一执行collect方法就能出结果，那我们就从co...
分类：
其他好文 时间：
2014-06-28 13:54:31
阅读次数：
257
1. Hadoop中遇到的问题曾经所遇到的问题因为没有记录,所以忘了(1)NameNode没有启动成功, 是因为你对HDFS多次格式化,导致datanode中与namenode中的VERSION文件里的namespaceID不一致(对于NameNode节点,该文件位于hdfs-site配置文件里df...
分类：
其他好文 时间：
2014-06-28 12:47:08
阅读次数：
394
配置系统是复杂软件必不可少的一部分，org.apache.hadoop.conf.Configuration在Hadooop各个子项目中发挥着重要作用。 windows系统广泛使用一种特殊批的ASCII文件.ini作为其主要配置文件标准，被称为（Initialization File）或概要文...
分类：
其他好文 时间：
2014-06-24 09:11:43
阅读次数：
248
1. 创建HBase表的对象HBase表的对项名字叫HTable，创建它的方法有很多，常见的有如下：org.apache.hadoop.hbase.client.HTable hTable = new HTable(org.apache.hadoop.hbase.HBaseConfiguration...
分类：
编程语言 时间：
2014-06-23 08:32:23
阅读次数：
386
Spark已正式申请加入Apache孵化器，从灵机一闪的实验室“电火花”成长为大数据技术平台中异军突起的新锐。本文主要讲述Spark的设计思想。Spark如其名，展现了大数据不常见的“电光石火”。具体特点概括为“轻、快、灵和巧”。轻：Spark 0.6核心代码有2万行，Hadoop 1.0为9万行，...
分类：
其他好文 时间：
2014-06-23 07:25:53
阅读次数：
418
mongodb发展至今已经到2.6版本了，自从获得了1亿美元的风投之后，发展速度更是比以前快了很多，前段时间因为要用缓存，也比较了mongodb,大家也都觉得比较适合做无关系化的大数据存储，所以系统统计分析的功能就用它了。安装mongodb非常的简单，这里先给出作者的安装环境：windows 200...
分类：
数据库 时间：
2014-06-23 00:18:59
阅读次数：
285
鉴于hadoop的需要。。。但是并不限于此。。。有时候闲输入密码麻烦，也可以用这种办法从一个节点通过ssh进入另一个节点。。。设要使master进入slave是免密码的，则可以在master（ip为192.168.169.9）中如下操作：命令：ssh-keygen -t rsa 然后一路回车（该命令...
分类：
其他好文 时间：
2014-06-22 23:31:51
阅读次数：
332
最近在学Hadoop，的确是个好东西，内部原理的确很难理解，不过用起来还是比较方便的因为刚接触，一些指令还是写记下hadoop fs -rmr 每次运行前都要删除输出目录hadoop jar target/Test-1.0-SNAPSHOT.jar javaPath运行hadoop程序hadoop ...
分类：
其他好文 时间：
2014-06-22 23:10:26
阅读次数：
237
六、Hadoop1.x与Hadoop2的区别1、变更介绍Hadoop2相比较于Hadoop1.x来说，HDFS的架构与MapReduce的都有较大的变化，且速度上和可用性上都有了很大的提高，Hadoop2中有两个重要的变更：l HDFS的NameNodes可以以集群的方式布署，增强了NameNodes的水平扩展能力和可用性；l MapReduce将JobTracker中的资源管理及任务生命周期管理...
分类：
其他好文 时间：
2014-06-22 14:07:49
阅读次数：
256
package com.jp.algorithm.sort;/** * 假设我们要对0-7内的5个元素(4,7,2,5,3)排序（这里假设这些元素没有重复）。那么我们就可以采用Bit-map的方法来达到排序的目的。要表示8个数 * ，我们就只需要8个Bit（1Bytes），首先我们开辟1Byte的空...
分类：
其他好文 时间：
2014-06-21 16:20:21
阅读次数：
352
