按照之前的理解,glusterfs稳定版包括3.6、3.5,但不包括3.7,最近gluster官网明确标出,gluster3.7为稳定版,显然官方认为3.7版本已经足够稳定,可用于生产环境。之前博文“如何选择GlusterFS版本”介绍了如何选择glusterfs版本,这里根据最新更新再补充一下:1)如果有一定的..
分类:
其他好文 时间:
2016-05-04 19:34:13
阅读次数:
1675
Hadoop是一个能够对大量数据进行分布式处理的软件框架。具有可靠、高效、可伸缩的特点。 Hadoop的核心是HDFS和Mapreduce,hadoop2.0还包括YARN。 下图为hadoop的生态系统: 2、HDFS(Hadoop分布式文件系统) 源自于Google的GFS论文,发表于2003年 ...
分类:
其他好文 时间:
2016-05-04 19:12:46
阅读次数:
155
摘要 我们设计并实现了Google GFS文件系统,一个面向大规模数据密集型应用的、可伸缩的分布式文件系统。GFS虽然运行在廉价的普遍硬件设备上,但是它依然了提供灾难冗余的能力,为大量客户机提供了高性能的服务。 虽然GFS的设计目标与许多传统的分布式文件系统有很多相同之处,但是,我们的设计还是以我们 ...
分类:
其他好文 时间:
2016-05-04 14:35:58
阅读次数:
314
Hadoop Hive sql语法详解 Hadoop Hive sql语法详解 Hive 是基于Hadoop 构建的一套数据仓库分析系统,它提供了丰富的SQL查询方式来分析存储在Hadoop 分布式文件系统中的数据,可以将结构 化的数据文件映射为一张数据库表,并提供完整的SQL查询功能,可以将SQL ...
分类:
数据库 时间:
2016-04-30 13:01:11
阅读次数:
287
Hadoop HDFS分布式文件系统设计要点与架构 Hadoop简介:一个分布式系统基础架构,由Apache基金会开发。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力高速运算和存储。Hadoop实现了一个分布式文件系统(Hadoop Distributed File Sy ...
分类:
其他好文 时间:
2016-04-30 12:52:24
阅读次数:
146
一、Hive是什么? Hive 是基于 Hadoop 构建的一套数据仓库分析系统,它提供了丰富的 SQL 查询方式来分析存储在 Hadoop 分布式文件系统中的数据, 可以将结构化的数据文件映射为一张数据库表,并提供完整的 SQL 查询功能,可以将 SQL 语句转换为 MapReduce 任务进行运行,通过自己的 SQL 去 查询分析需要的内容,这套 SQL 简称 Hive SQL。
二...
分类:
其他好文 时间:
2016-04-29 19:39:54
阅读次数:
366
fastdfs是一个轻量级的分布式文件系统,主要由 tracker server, storage server 以及client组成,这里主要涉及两点 :
1)客户端上传文件流程和协议分析
2)实现一个简单的文件上传函数一: 文件上传的基本流程fastdfs中上传一个文件,主要涉及以下几个步骤:1)上传连接请求,客户端会向tracker server发出上传文件的请求
2)...
分类:
Web程序 时间:
2016-04-29 15:20:32
阅读次数:
195
跟踪服务器:192.168.4.121 (edu-dfs-tracker-01) 存储服务器:192.168.4.125 (edu-dfs-storage-01) 环境:CentOS 6.6 用户:root 数据目录:/fastdfs (注:数据目录按你的数据盘挂载路径而定) 安装包: FastDF ...
分类:
其他好文 时间:
2016-04-24 00:35:53
阅读次数:
441
1.什么是NFS?NFS,全名叫NetworkFile
System,中文叫网络文件系统,是Linux、UNIX系统的分布式文件系统的一个组成部分,可实现在不同网络上共享远程文件系统。NFS由Sun公
司开发,目前已经成为文件服务的一种标准之一。其最大的功能就是可以通过网络,让不同操作系统的计算机..
分类:
其他好文 时间:
2016-04-23 23:19:40
阅读次数:
900
软件架构理解 1FastDFS介绍 1.1什么是FastDFS FastDFS是用c语言编写的一款开源的分布式文件系统。FastDFS为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等 ...
分类:
其他好文 时间:
2016-04-23 19:52:29
阅读次数:
319