一、下载安装scala 1、官网下载 2、spar01和02都建立/opt/scala目录,解压tar -zxvf scala-2.12.8.tgz 3、配置环境变量 vi /etc/profile 增加一行 export SCALA_HOME=/opt/scala/scala-2.12.8 同时把 ...
分类:
其他好文 时间:
2018-12-07 11:47:15
阅读次数:
164
获取分布式文件系统 URI 对象是指向hadoop集群中的namenode 节点, 端口也是配置的 , user = “”ljs“” 用户 上传文件到hdfs文件系统 从hdfs文件系统下载文件 给hdfs文件系统创建目录s 删除某文件 给某个文件或目录改名字 ...
本文由腾讯云数据库发表前言CynosDB是新一代分布式数据库,100%兼容MySQL和PostgreSQL,支持存储弹性扩展,一主多从共享数据,性能更是超越社区原生MySQL和PostgreSQL。CynosDB采用sharestorage架构,其弹性扩展和高性价比的基石则是CynosDBFileSystem(简称CynosFS):一款腾讯云自研的用户态分布式文件系统。本文旨在从整体上讲述Cyno
分类:
数据库 时间:
2018-12-03 19:51:23
阅读次数:
248
1.HadoopCommon是Hadoop体系最底层的一个模块,为Hadoop各个子模块提供各种工具,比如系统配置工具Configuration、远程调用RPC、序列化机制和日志操作等等,是其他模块的基础。2.HDFS是Hadoop分布式文件系统缩写,它是Hadoop的基石。HDFS是一个具备高度容错性的文件系统,适合部署在廉价的机器上,它能提供高吞吐量的数据访问,非常适合大规模数据集上的应用。3
分类:
其他好文 时间:
2018-11-30 20:09:21
阅读次数:
354
1.Hadoop与HDFS 的关系是什么? hadoop中有3个核心组件: 分布式文件系统:HDFS —— 实现将文件分布式存储在很多的服务器上 分布式运算编程框架:MAPREDUCE —— 实现在很多机器上分布式并行运算 分布式资源调度平台:YARN —— 帮用户调度大量的mapreduce程序, ...
分类:
其他好文 时间:
2018-11-30 15:36:52
阅读次数:
180
一、前言 1.1 什么是FastDFS? FastDFS是用c语言编写的一款开源的分布式文件系统。FastDFS为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。 1.2 Fas ...
分类:
其他好文 时间:
2018-11-29 23:15:50
阅读次数:
299
FastDFS分布式文件系统 1. 什么是FastDFS FastDFS 是用 c 语言编写的一款开源的分布式文件系统。FastDFS 为互联网量身定制, 充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用 FastDFS 很容易搭建一套高性能的文件服务器集群提供文件上传 ...
分类:
其他好文 时间:
2018-11-27 19:37:52
阅读次数:
177
--HDFS-- Hadoop Distributed File System HDFS一个分布式,高容错,可线性扩展的文件系统 简介: Hadoop分布式文件系统(HDFS)是一种分布式文件系统,设计用于在商用硬件上运行。它与现有的分布式文件系统有许多相似之处。但是,与其他分布式文件系统的差异很大 ...
分类:
其他好文 时间:
2018-11-23 20:57:09
阅读次数:
312
近期, 全球权威IT咨询机构Forrester发布"The Forrester Wave: CloudData Warehouse Q4 2018"研究报告,阿里巴巴分析型数据库(AnalyticDB)成功入选。
分类:
数据库 时间:
2018-11-22 21:00:29
阅读次数:
216