一。 HDFS概念 1.1 概念 HDFS是一个分布式文件系统,用于存储文件,通过目录树来定位文件,适合一次写入,多次读出的场景,且不支持文件的修改。适合用来做数据分析,并不适合用来做网盘应用。 1.2 组成 1)HDFS集群包括,NameNode和DataNode以及Secondary Namen ...
分类:
其他好文 时间:
2019-06-11 09:15:49
阅读次数:
120
人大:第13讲市面上主流的分布式文件系统(FS):(Hadoop的)HDFS,(Google的)GFS数据服务与键值对数据库:数据服务:data serving 数据服务:数据的简单读写 数据库事务:也算一种数据服务,但属于mission-critical,较为复杂的数据服务数据服务起源:优化布局日 ...
分类:
数据库 时间:
2019-06-09 00:43:45
阅读次数:
136
学习大数据必先学习Hadoop,因为它是目前世界上最流行的分布式数据处理框架、Hadoop是一个用于分布式大数据处理的编程框架 一、Hadoop介绍 1、开源大数据框架2、分布式计算的解决方案3、Hadoop=HDFS(分布式文件系统)+MapReduce(分布式计算) Hadoop的构造模块 Na ...
分类:
其他好文 时间:
2019-06-06 22:57:16
阅读次数:
119
第1章 课程简介【学前须知】本章对这门课程进行说明,包括:课程整体设计思路、课程使用的技术介绍、课程的学习规划、高效学习的方式方法等。第2章 kubernetes快速入门【k8s必知必会】本章中将从核心概念、架构设计、认证授权以及集群搭建方案对比几方面,带领大家快速掌握kubernetes的重要知识 ...
分类:
Web程序 时间:
2019-06-06 00:25:33
阅读次数:
393
利用Shell命令与HDFS进行交互 以”./bin/dfs dfs”开头的Shell命令方式 1.目录操作 在HDFS中为hadoop用户创建一个用户目录(hadoop用户) 在用户目录下创建一个input目录 在HDFS的根目录下创建一个名称为input的目录 删除HDFS根目录中的“input ...
分类:
其他好文 时间:
2019-06-05 00:21:43
阅读次数:
100
一、目录操作 1.开启Hadoop服务 2.在HDFS中为hadoop用户创建一个用户目录(hadoop用户) 3.在用户目录下创建一个input目录 4.在HDFS的根目录下创建一个名称为input的目录 5.删除HDFS根目录中的“input”目录 二、文件操作 1.使用vim编辑器,在本地Li ...
分类:
其他好文 时间:
2019-06-04 09:29:03
阅读次数:
152
1、安装FastDFS 2、测试是否安装成功 创建utils/fastdfs/client.conf配置文件 安装相关包 2、实例 views视图 FDFS_Client模块 ...
分类:
Web程序 时间:
2019-06-01 11:24:50
阅读次数:
228
1.目录操作 在HDFS中为hadoop用户创建一个用户目录(hadoop用户) 在用户目录下创建一个input目录 在HDFS的根目录下创建一个名称为input的目录 删除HDFS根目录中的“input”目录 2.文件操作 使用vim编辑器,在本地Linux文件系统的“/home/hadoop/” ...
分类:
其他好文 时间:
2019-05-31 21:23:34
阅读次数:
132
利用Shell命令与HDFS进行交互 以”./bin/dfs dfs”开头的Shell命令方式 1.目录操作 在HDFS中为hadoop用户创建一个用户目录(hadoop用户) 在用户目录下创建一个input目录 在HDFS的根目录下创建一个名称为input的目录 删除HDFS根目录中的“input ...
分类:
其他好文 时间:
2019-05-28 22:22:11
阅读次数:
163
1. 图片服务器的安装 1、存储空间可扩展。 2、提供一个统一的访问方式。 使用FastDFS,分布式文件系统。存储空间可以横向扩展,可以实现服务器的高可用。支持每个节点有备份机。 1.1. 什么是FastDFS? FastDFS是用c语言编写的一款开源的分布式文件系统。FastDFS为互联网量身定 ...
分类:
其他好文 时间:
2019-05-27 17:42:08
阅读次数:
135