1、HDFS(分布式文件系统体系) 1.1、NameNode:(名称节点) ????????Hdfs的守护程序 ????????记录文件是如何分割成数据块的,以及这些数据块被存储到了哪些节点上 ????????对内存和I/O...
分类:
其他好文 时间:
2015-09-16 23:46:51
阅读次数:
575
1.HDFS是什么?Hadoop分布式文件系统(HDFS),被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统。它和现有的分布式文件系统有很多共同点。2.HDFS中的基本概念(1)块(block) " 块 " 是固定大小的存储单元,HDFS的文件被分成块进行存储,....
分类:
其他好文 时间:
2015-09-16 18:05:22
阅读次数:
151
Linux文件系统管理Linux文件系统称为vfs(VirtualFileSystem虚拟文件系统)可支持的文件系统类型:Linux:ext2,ext3,ext4,reiserfs,xfs,btrfs,swap光盘:iso9660Windows:fat32(vfat),ntfsUnix:ffs,ufs,jfs,jfs2网络文件系统:nfs,cifs集群文件系统:ocfs2,gfs2分布式文件系统:ce..
分类:
其他好文 时间:
2015-09-15 09:30:45
阅读次数:
316
Tachyon是一个高容错的分布式文件系统,允许文件以内存的速度在集群框架中进行可靠的共享,就像Spark和 MapReduce那样。通过利用信息继承,内存侵入,Tachyon获得了高性能。Tachyon工作集文件缓存在内存中,并且让...
分类:
其他好文 时间:
2015-09-10 19:41:48
阅读次数:
280
转载请注明来自36大数据(36dsj.com):36大数据 » Hadoop分布式文件系统HDFS的工作原理详述转注:读了这篇文章以后,觉得内容比较易懂,所以分享过来支持一下。Hadoop分布式文件系统(HDFS)是一种被设计成适合运行在通用硬件上的分布式文件系统。HDFS是一个高度容错性的系统,适...
分类:
其他好文 时间:
2015-09-10 11:08:23
阅读次数:
157
参考资料:http://www.moosefs.org/tl_files/manpageszip/moosefs-step-by-step-tutorial-cn-v.1.1.pdf环境介绍:OS: CentOS 6.3 x86_64server1 - mfsmaster & mfschunkser...
分类:
其他好文 时间:
2015-09-09 13:27:21
阅读次数:
285
实验原理: MogileFS是一个开源的分布式文件系统,用于组建分布式文件集群,由LiveJournal旗下DangaInteractive公司开发,Danga团队开发了包括 Memcached、MogileFS、Perlbal等不错的开源项目:(注:Perlbal是一个强大的Perl写的反向代.....
分类:
其他好文 时间:
2015-09-09 08:31:08
阅读次数:
248
MogileFS简介MogileFS是一套开源的分布式存储组件,由LiveJournal旗下的DangaInteractive研发,主要应用于存储海量的小文件。MogileFS有3个组件:1)TrackerNodes:是文件系统集群的核心节点,借助数据库节点保存元数据,主要功能包括监控后端Storage节点,及指示Storage节点完..
分类:
其他好文 时间:
2015-09-08 23:41:21
阅读次数:
345
storage安装1,安装相关库文件gitclonehttps://github.com/happyfish100/libfastcommon.git
cdlibfastcommon/
shmake.sh
shmake.shinstall2,安装fastDFSgitclonehttps://github.com/happyfish100/fastdfs.git
cdfastdfs
shmake.sh
shmake.shinstall3,安装完成截图mkdir-p/usr/b..
分类:
其他好文 时间:
2015-09-02 19:16:04
阅读次数:
320
1,安装相关库文件gitclonehttps://github.com/happyfish100/libfastcommon.git
cdlibfastcommon/
shmake.sh
shmake.shinstall2,安装fastDFStrackerdgitclonehttps://github.com/happyfish100/fastdfs.git
cdfastdfs
shmake.sh
shmake.shinstall3,安装完成信息mkdir-p/usr/bin
m..
分类:
其他好文 时间:
2015-09-01 18:32:28
阅读次数:
215