1.环境准备1.1软件版本sqoop-1.4.5 下载地址2.配置sqoop的配置比较简单,下面给出需要配置的文件2.1环境变量sudo vi /etc/profileSQOOP_HOME=/home/hadoop/source/sqoop-1.4.5PATH=$SQOOP_HOME/binexpo...
分类:
其他好文 时间:
2015-01-05 09:26:34
阅读次数:
252
环境:Centos6.0-x86_64集群使用三台服务器组成Glusterfs集群,其中两台服务器提供NFS和Rsync服务用于备份每台服务器2块网卡eth0对应内网、eth1对应外网,Glusterfs简介:GlusterFS是Scale-Out存储解决方案Gluster的核心,它是一个开源的分布式文件系统,具有强大的横向扩展能..
分类:
其他好文 时间:
2015-01-03 13:27:20
阅读次数:
701
在分析或者参与一个开源项目之前,了解项目构建的目的是有必要的。既然SequoiaDB是NoSQL数据库产品,则必然存在于传统关系型数据库相同的功能点:数据的增、删、改和查询(CRUD)。先了解怎么用,再在会用的基础上,进一步分析其实现。在上一篇中已经列出的安装环境,以及SequoiaDB的下载地址。...
分类:
数据库 时间:
2015-01-03 07:02:53
阅读次数:
302
Hive安装部署(安装会有版本问题 hadoop1.0版本以上的请安装hive-0.90测试hadoop2.0以上请安装hive-0.12.0或者最新版测试)hive-0.9.0 下载地址:http://pan.baidu.com/s/1rj6f8hive-0.12.0下载地址:http://mir...
分类:
其他好文 时间:
2015-01-02 17:26:11
阅读次数:
307
前几章将有特点的公有云计算平台都介绍了一下,这里费下嘴,不是说只有这些云平台,实际上有很大,到现在Bat、360等都得云计算平台有涉及,方向、功能大体相似,我们常用的网盘算是其中之一。通过前面云计算的介绍,云计算相关的虚拟化、并行计算、主机管理等技术,我们也积累很多东西,现在就开始应用到实践中。...
分类:
其他好文 时间:
2014-12-31 22:53:16
阅读次数:
290
HDFS作为一个分布式文件系统,是所有这些项目的基础。分析好HDFS,有利于了解其他系统。由于Hadoop的HDFS和MapReduce是同一个项目,我们就把他们放在一块,进行分析。 如果把整个hadoop当做一个java中的类的话,那么HDFS就是这个类的静态变量,其他的项目是hadoop中的方法...
分类:
其他好文 时间:
2014-12-31 22:46:33
阅读次数:
301
1.概要我打算分享一下,我开发Hadoop的一些心得,对于即将步入Hadoop行业的童鞋,希望我整理的这些博文对您有帮助,我打算分为以下几部分来描述。2.步骤 注:点击链接可直接跳到指定位置(1)Hadoop社区版集群的搭建(2)hive的安装部署(3)sqoop的安装部署(4)hbase和zook...
分类:
其他好文 时间:
2014-12-30 14:57:18
阅读次数:
162
散仙,在上篇文章对ElasticSearch整体入门作了个介绍,那么本篇我们来看下,如何安装,部署es,以及如何安装es的几个比较常用的插件.es的安装和部署,是非常简单方便的,至少这一点散仙在es和solr之间,能够很明显的体现出来,solr的安装是需要依赖servlet容器,比如jetty,或..
分类:
其他好文 时间:
2014-12-30 01:51:33
阅读次数:
254
散仙,在上篇文章对ElasticSearch整体入门作了个介绍,那么本篇我们来看下,如何安装,部署es,以及如何安装es的几个比较常用的插件.es的安装和部署,是非常简单方便的,至少这一点散仙在es和solr之间,能够很明显的体现出来,solr的安装是需要依赖servlet容器,比如jetty,或者...
分类:
其他好文 时间:
2014-12-29 22:43:26
阅读次数:
284
摘要:Hadoop使用了MapReduce编程范式,目前已经被公认为是分布式环境中分析大数据的标准框架。然而,它并不能很好的应用于大规模的计算几何处理。本文介绍的CG_Hadoop是一套可伸缩的和高效的MapReduce算法,用于处理各种基本计算几何问题,例如多边形合并、skyline(轮廓线)、convex hull(凸包)、farthest pair(最远相对)以及最近相对等,这些都是其它几何算法的基础。对于每一个计算几何操作,CG_Hadoop有两个版本,一个基于Apache Hadoop系统,一个基...
分类:
其他好文 时间:
2014-12-26 20:24:40
阅读次数:
227