https://blog.csdn.net/qq_33009107/article/details/90641940 #Tracker 端口号 22122 启动tracker /etc/init.d/fdfs_trackerd start 查看 netstat -unltp|grep fdfs 关闭... ...
分类:
其他好文 时间:
2019-11-23 18:12:38
阅读次数:
54
1.windows配置环境变量hadoop,winutils.exe和hadoop.dll下载链接:https://share.weiyun.com/5eebZFr 2.demo: (1)pom.xml: <?xml version="1.0" encoding="UTF-8"?> <project ...
分类:
其他好文 时间:
2019-11-23 16:12:36
阅读次数:
76
一 前期准备 1.1 基础知识 Heketi提供了一个RESTful管理界面,可以用来管理GlusterFS卷的生命周期。Heketi会动态在集群内选择bricks构建所需的volumes,从而确保数据的副本会分散到集群不同的故障域内。同时Heketi还支持任意数量的ClusterFS集群。 提示: ...
分类:
Web程序 时间:
2019-11-22 19:08:48
阅读次数:
95
1、什么是FastDFS FastDFS 是用 c 语言编写的一款开源的分布式文件系统。FastDFS 为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用 FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。 FastDFS 架构 ...
分类:
其他好文 时间:
2019-11-19 00:57:36
阅读次数:
85
最近进行学习过程中,遇到一些可以用得上的benchmark,在这里进行简要记录:之后估计会用到 TensorFlow benchmarks https://github.com/tensorflow/benchmarks 文件系统测试工具整理 https://www.cnblogs.com/xuya ...
分类:
其他好文 时间:
2019-11-18 13:15:37
阅读次数:
83
HDFS 1.hdfs整体工作机制: 1>hdfs:分布式文件系统。 hdfs:分布式文件系统 hdfs有着文件系统共同的特征: 2>有目录结构,顶层目录是: / 3>系统中存放的就是文件 4>系统可以提供对文件的:创建、删除、修改、查看、移动等功能 2.hdfs跟普通的单机文件系统有区别: 1>单 ...
分类:
其他好文 时间:
2019-11-17 23:55:37
阅读次数:
136
原文链接:https://blog.csdn.net/Lwj879525930/article/details/82559596 1.spark中的RDD是什么,有哪些特性? 答:RDD(Resilient Distributed Dataset)叫做分布式数据集,是spark中最基本的数据抽象,它 ...
分类:
其他好文 时间:
2019-11-15 22:41:39
阅读次数:
120
一、简介 1、分布式文件系统钢结构 分布式文件系统由计算机集群中的多个节点构成,这些节点分为两类: 主节点(MasterNode)或者名称节点(NameNode) 从节点(Slave Node)或者数据节点(DataNode) 2、HDFS能够带来什么好处 兼容廉价的硬件设备 流数据读写 大数据集 ...
分类:
其他好文 时间:
2019-11-15 12:07:41
阅读次数:
209
一、ceph概念 Ceph是一种为优秀的性能、可靠性和可扩展性而设计的统一的、分布式文件系统。ceph 的统一体现在可以提供文件系统、块存储和对象存储,分布式体现在可以动态扩展。 特点: (1)高性能: a. 摒弃了传统的集中式存储元数据寻址的方案,采用CRUSH算法,数据分布均衡,并行度高。 b. ...
分类:
其他好文 时间:
2019-10-29 19:55:53
阅读次数:
117
一、简介 FastDFS是一个开源的轻量级分布式文件系统,它对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务,如相册网站、视频网站等等。 FastDFS为互联网量身定制,充分考虑了冗余备份、负载均衡、线性 ...
分类:
其他好文 时间:
2019-10-29 19:31:47
阅读次数:
97