Spark已正式申请加入Apache孵化器，从灵机一闪的实验室“电火花”成长为大数据技术平台中异军突起的新锐。本文主要讲述Spark的设计思想。Spark如其名，展现了大数据不常见的“电光石火”。具体特点概括为“轻、快、灵和巧”。轻：Spark 0.6核心代码有2万行，Hadoop 1.0为9万行，...
分类：
其他好文 时间：
2014-06-23 07:25:53
阅读次数：
418
鉴于hadoop的需要。。。但是并不限于此。。。有时候闲输入密码麻烦，也可以用这种办法从一个节点通过ssh进入另一个节点。。。设要使master进入slave是免密码的，则可以在master（ip为192.168.169.9）中如下操作：命令：ssh-keygen -t rsa 然后一路回车（该命令...
分类：
其他好文 时间：
2014-06-22 23:31:51
阅读次数：
332
最近在学Hadoop，的确是个好东西，内部原理的确很难理解，不过用起来还是比较方便的因为刚接触，一些指令还是写记下hadoop fs -rmr 每次运行前都要删除输出目录hadoop jar target/Test-1.0-SNAPSHOT.jar javaPath运行hadoop程序hadoop ...
分类：
其他好文 时间：
2014-06-22 23:10:26
阅读次数：
237
Hive 是基于Hadoop 构建的一套数据仓库分析系统，它提供了丰富的SQL查询方式来分析存储在Hadoop 分布式文件系统中的数据，可以将结构
化的数据文件映射为一张数据库表，并提供完整的SQL查询功能，可以将SQL语句转换为MapReduce任务进行运行，通过自己的SQL 去查询分析需
要的内容，这套SQL 简称Hive SQL，使不熟悉mapreduce 的用户很方便的利用SQL 语言...
分类：
数据库 时间：
2014-06-22 22:41:52
阅读次数：
342
摘要：MapReduce程序进行单词计数。
关键词：MapReduce程序 单词计数...
分类：
其他好文 时间：
2014-06-22 19:59:49
阅读次数：
177
摘要：MapReduce程序处理专利数据集。
关键词：MapReduce程序 专利数据集...
分类：
其他好文 时间：
2014-06-22 17:03:44
阅读次数：
188
六、Hadoop1.x与Hadoop2的区别1、变更介绍Hadoop2相比较于Hadoop1.x来说，HDFS的架构与MapReduce的都有较大的变化，且速度上和可用性上都有了很大的提高，Hadoop2中有两个重要的变更：l HDFS的NameNodes可以以集群的方式布署，增强了NameNodes的水平扩展能力和可用性；l MapReduce将JobTracker中的资源管理及任务生命周期管理...
分类：
其他好文 时间：
2014-06-22 14:07:49
阅读次数：
256
摘要：MapReduce程序进行数据去重。
关键词：MapReduce 数据去重...
分类：
其他好文 时间：
2014-06-21 22:35:28
阅读次数：
237
从数据爆炸开始。。。
1.1 第三次工业革命
第一次：18世纪60年代，手工工厂向机器大生产过渡，以蒸汽机的发明和使用为标志。
第二次：19世纪70年代，各种新技术新发明不断被应用于工业生产，以电力的发明使用为标志。
第三次：20世界四五十年代末，以高新技术为代表的新科学技术革命，以原子能、航天技术和电子计算机
1.2 信息技术发展...
分类：
其他好文 时间：
2014-06-21 21:12:22
阅读次数：
399
