码迷,mamicode.com
首页 > 数据库 > 详细

hadoop常用命令之hdfs

时间:2018-03-23 14:46:18      阅读:272      评论:0      收藏:0      [点我收藏+]

标签:hadoop

随着互联网数据规模的不断增大,对文件存储系统提出了更高的要求,需要更大的容量、更好的性能以及更高安全性的文件存储系统,与传统分布式文件系统一样,HDFS分布式文件系统也是通过计算机网络与节点相连,但也有优于传统分布式文件系统的优点。

1. 支持超大文件

HDFS分布式文件系统具有很大的数据集,可以存储TBPB级别的超大数据文件,能够提供比较高的数据传输带宽与数据访问吞吐量,相应的,HDFS开放了一些POSIX的必须接口,容许流式访问文件系统的数据。

2. 高容错性能

HDFS面向的是成百上千的服务器集群,每台服务器上存储着文件系统的部分数据,在集群的环境中,硬件故障是常见的问题,这就意味着总是有一部分硬件因各种原因而无法工作,因此,错误检测和快速、自动的恢复是HDFS最核心的架构目标,因此,HDFS具有高度的容错性。

3. 高数据吞吐量

HDFS采用的是“一次性写,多次读”这种简单的数据一致性模型,在HDFS中,一个文件一旦经过创建、写入、关闭后,一般就不需要修改了,这样简单的一致性模型,有利于提高吞吐量。

4. 流式数据访问

HDFS的数据处理规模比较大,应用一次需要访问大量的数据,同时这些应用一般都是批量处理,而不是用户交互式处理,应用程序能以流的形式访问数据集。

Hadoop已经迅速成长为首选的、适用于非结构化数据的大数据分析解决方案,HDFS分布式文件系统是Hadoop的核心组件之一,保证了大数据的可靠存储,与MapReduce配合使用,可以对结构化和复杂大数据进行快速、可靠分析,从而为企业做出更好的决策,促进收入增长,改善服务,降低成本提供有力支撑!

hadoop常用命令之hdfs

标签:hadoop

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
老男孩python编程
加入时间:2017-12-13
  关注此人  发短消息
老男孩教育为广大IT爱好者提供专业技术指导,传授精深IT知识技能!
指导电话:18500150262
官方网站:www.oldboyedu.com
老男孩python编程”关注的人------(0
老男孩python编程”的粉丝们------(0
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!