Hadoop分布式文件系统(HDFS)被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统。HDFS是一个高度容错性的系统,适合部署在廉价的机器上。HDFS能提供高吞吐量的数据访问,非常适合大规模数据集上的应用。 前提和设计目标 硬件错误 硬件错误是常态而不是异常。H ...
分类:
其他好文 时间:
2017-11-26 13:52:14
阅读次数:
200
1、Hadoop 是一个能够对大量数据进行分布式处理的软件框架。具有可靠、高效、可伸缩的特点。Hadoop的核心是HDFS和Mapreduce,hadoop2.0还包括YARN。 2、HDFS Hadoop的分布式文件系统。是Hadoop体系中数据存储管理的基础。它是一个高度容错的系统,能检测和应对 ...
分类:
其他好文 时间:
2017-11-22 21:54:33
阅读次数:
278
HDFS文件系统: HDFS 是存取数据的分布式文件系统,那么对 HDFS 的操作,就是文件系统的基本操作,比如文件的创建、修改、删除、修改权限等,文件夹的创建、删除、重命名等。对HDFS 的操作命令类似于 lLinux 的 shell 对文件的操作,如 ls、mkdir、rm 等。 我们执行以下操 ...
分类:
系统相关 时间:
2017-11-21 16:55:19
阅读次数:
202
1知识介绍1.1中级1.1.1初级:系统基础1.1.2中级:系统管理、服务安全及服务管理、shell脚本1.2高级1.2.1Mysql数据库cache&storage1.2.2集群Clusterlb:4layer7layerha:1.2.3分布式:zookeeper分布式文件系统1.2.4虚拟化技术:xenkvm1.2.5openstack:IASS云1.2.5运维工具an..
分类:
其他好文 时间:
2017-11-20 21:52:29
阅读次数:
131
一.FastDFS: 是一个分布式文件系统,具有文件存储,文件同步,文件访问解决了大量文件存储问题 二.FastDFS:架构 Client: 客户端 Tracker: tracker是一个追踪服务器,它时刻的关注着Storage服务器,它是storage和client的桥梁 Storage: 文件存 ...
分类:
其他好文 时间:
2017-11-17 14:55:39
阅读次数:
140
1.启动/关闭/查看glusterd服务 2.开机自动启动glusterd服务 3.查看配置信息 4.为存储池添加/移除服务器节点 在其中一个节点上操作即可: 注意,移除节点时,需要提前将该节点上的Brick移除。 查看所有节点的基本状态(显示的时候不包括本节点): 5.挂载分区 6.创建/启动/停 ...
分类:
其他好文 时间:
2017-11-16 14:32:06
阅读次数:
167
FastDFS分布式文件系统 FastDFS安装,FastDFS,fastdfs,spring,springmvc,spring mvc,web开发,java分布式架构 愿意了解框架技术或者源码的朋友直接求求交流分享技术:2042849237 分布式的一些解决方案,有愿意了解的朋友可以找我们团队... ...
分类:
其他好文 时间:
2017-11-16 11:43:14
阅读次数:
159
1.测试 前面两篇博文已对FastDFS的安装和配置,做了比较详细的讲解。FastDFS的基础模块都搭好了,现在开始测试下载。 1.1 配置客户端 同样的,需要修改客户端的配置文件: 修改完成的文件为: connect_timeout=30 network_timeout=60 base_path= ...
分类:
其他好文 时间:
2017-11-08 21:23:55
阅读次数:
221
1.CentOS7 FastDFS搭建 前面已下载好了要用到的工具集,下面就可以开始安装了: 如果安装过程中出现问题,可以下载我提供的,当前测试可以通过的工具包: 点这里点这里 1.1 安装libfastcommon 安装成功后解压libfastcommon-master.zip 当我们./make ...
分类:
其他好文 时间:
2017-11-08 21:23:32
阅读次数:
202
Linux文件系统管理Linux文件系统:ext2,ext3,ext4,xfs,btrfs,reiserfs,jfs,swapswap:交换分区光盘:iso9660Windows:fat32,NTFSUnix:FFSS,UFS,JFS2网络文件系统:NFS,CIFS集群文件系统:GFS2,OCFS2分布式文件系统:ceph,moosefs,mogilefs,glusterFS,Lustre根据其是否支持"jou..
分类:
系统相关 时间:
2017-11-04 00:22:19
阅读次数:
280