Hadoop是一个由Apache基金会所开发的分布式系统基础架构。 用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。 [1] Hadoop实现了一个分布式文件系统(Hadoop Distributed File System),简称HDFS。HDFS有高 ...
分类:
其他好文 时间:
2018-04-17 19:44:38
阅读次数:
134
原文链接:https://www.58jb.com/html/135.html 在上一次的Mysql容器中,已经使用过了配置宿主机目录挂载的方式,这样虽然方便但是不够安全;一般都是把数据存储在远程服务器上如:NFS,GlusterFS,ceph等;一般目前主流的还是使用ceph、GlusterFS; ...
分类:
Web程序 时间:
2018-04-16 14:42:20
阅读次数:
354
什么是Hadoop? hadoop是Apache 开源发布的分布式系统基础架构。它实现了分布式文件系统(hadoop Distributed File System,HDFS),分布式系统是运行在多个主机上的软件系统。HDFS有着高容错性的特点,能够保存多个副本,并可以将自动失败的任务重新分配。Ha ...
分类:
其他好文 时间:
2018-04-16 14:34:24
阅读次数:
148
[toc] 环境 |主机名|系统|ip地址|角色| | | | | | |ops k8s 175|ubuntu16.04| 192.168.75.175|k8s master,glusterfs,heketi| |ops k8s 176 |ubuntu16.04| 192.168.75.176|k8 ...
分类:
Web程序 时间:
2018-04-15 21:52:37
阅读次数:
3721
关于3.2.5版本分析,详见《GlusterFS之内存池(mem-pool)实现原理及代码详解》 此4.0.1版本内存池与版本3中的描述变化有点大,总的原理还是类似LINUX中的SLAB算法,定义一系列大小类型的池子, 1. 一共定义了15个池,每个池子大小都是依次幂级数增长的 结构体 mem_po ...
分类:
其他好文 时间:
2018-04-15 21:04:37
阅读次数:
271
下载地址:网盘下载 内容提要 《分布式计算系统导论:原理与组成/普通高等教育“十一五”国家级规划教材》较全面地介绍分布式计算系统的原理与组成,包括命名、进程、通信、同步与互斥和多副本一致性技术,以及网络存储系统、分布式文件系统、分布式事务、面向对象的分布计算、面向服务的分布计算、公用服务分布计算和志 ...
分类:
其他好文 时间:
2018-04-15 15:02:55
阅读次数:
471
部署分布式存储服务一、分布式文件系统介绍二、配置分布式存储服务2.1配置主控节点(111)装包修改配置文件启动服务查看端口]#yum-yinstallgccgcc-c++libevent]#cdfastdfs]#yum-yinstalllibevent-*.rpm]#tar-zxfFastDFS_v4.06.tar.gz]#cdFastDFS]#./make.sh]#./make.shinstal
分类:
其他好文 时间:
2018-04-15 13:35:57
阅读次数:
166
1、网络要设置成NAT模式,方便系统间通信 2、客户端使用FastDFS 需要在springMVC中配置多媒体解析器 3、更改Linux的网络设置,在Linux常用命令中,一条命令就可以设置了 注:详见淘淘day03 ...
分类:
其他好文 时间:
2018-04-14 15:31:11
阅读次数:
151
HBase 和 HDFS HDFS | HBase | HDFS是适于存储大容量文件的分布式文件系统。 | HBase是建立在HDFS之上的数据库。 HDFS不支持快速单独记录查找。 | HBase提供在较大的表快速查找 它提供了高延迟批量处理;没有批处理概念。 | 它提供了数十亿条记录低延迟访问单 ...
分类:
其他好文 时间:
2018-04-14 00:42:08
阅读次数:
215
1.分布式文件系统概述 分布式文件系统是一种通过网络实现文件在多台主机上进行分布式存储的文件系统。 普通的文件系统只需要单个计算机节点就可以完成文件的存储和处理,而分布式文件系统把文件分成一定量的数据块,分布存储到多个计算机节点上,成千上万的计算机节点构成计算机集群。而目前分布式文件系统所采用的计算 ...
分类:
其他好文 时间:
2018-04-13 20:28:39
阅读次数:
499