今天来说说hadoop的一大核心——HDFS,这个是很重要的,它呢,是分布式文件系统。为什么说hadoop能存储海量数据?其实主要还是依赖与hdfs的能力,主要依赖的是hdfs能存储海量数据。
1、 为什么hdfs能存储海量数据呢?
一开始抛出这样的问题来想想。至于HDFS的基本概念什么的都不用多说了的~我们重在使用,而不是去做“研究”。扯蛋的话就是,“专家的研究”已经成为名副其实的贬义词了,...
分类:
其他好文 时间:
2014-08-03 18:09:05
阅读次数:
332
1.Hadoop和MapReduce概念Mapreduce是一种模式。Hadoop是一种框架。Hadoop是一个实现了mapreduce模式的开源的分布式并行编程框架。2.Hadoop框架借助Hadoop 框架及云计算核心技术MapReduce 来实现数据的计算和存储,并且将HDFS 分布式文件系统...
分类:
其他好文 时间:
2014-08-02 20:45:54
阅读次数:
252
近年来的大数据应用特别热,特别是Hadoop和Spark。但大家使用这些分布式文件系统和计算框架都需要一个分布式的集群环境,而大家手头一般没有多余的机器部署master和多个slave节点,就只能在VMware上多安装几个虚拟机来模拟集群的搭建,但是安装好一台虚拟机后,我想大部分的人都不想再耗时再重...
分类:
其他好文 时间:
2014-08-02 01:49:52
阅读次数:
267
本文首发于烂泥行天下。今天在ubuntu系统上使用远程NFS,发现一直报错无法使用。查看NFS挂载命令没有错误,命令如下:mount-tnfs192.168.1.11:/data/work/soft/iso/home/lianzhou/iso查看相关资料说,因为ubunutu14默认是没有安装NFS客户端的,需要安装NFS客户端。安装NFS客户..
分类:
其他好文 时间:
2014-08-01 20:16:03
阅读次数:
224
本文由秀依林枫提供友情赞助,首发于烂泥行天下。今天在ubuntu系统上使用远程NFS,发现一直报错无法使用。查看NFS挂载命令没有错误,命令如下:mount -t nfs 192.168.1.11:/data/work/soft/iso /home/lianzhou/iso查看相关资料说,因为ubu...
分类:
其他好文 时间:
2014-08-01 15:53:41
阅读次数:
250
Hadoop实例视频教程-深入浅出Hadoop实战开发Hadoop是什么,为什么要学习Hadoop?Hadoop是一个分布式系统基础架构,由Apache基金会开发。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力高速运算和存储。Hadoop实现了一个分布式文件系统(Hado...
分类:
其他好文 时间:
2014-07-31 16:35:06
阅读次数:
177
glusterfs文件系统是一个分布式的文件系统,但是与很多分布式文件系统不一样,它没有元数服务器,听说swift上也是应用了这个技术的。glusterfs中每个xlator的配置信息都是用dict进行管理的。dict这玩意儿,说白了就是一个hash表,是一个key/value的内存数据库。今天.....
分类:
其他好文 时间:
2014-07-31 16:24:47
阅读次数:
229
安装只要 yum -y installnfs-utils即可一、NFS服务器的设定NFS服务器的设定可以通过/etc/exports这个文件进行,设定格式如下:分享目录主机名称或者IP(参数1,参数2)/arm2410s10.22.22.*(rw,sync,no_root_squash)可以设定的参...
分类:
其他好文 时间:
2014-07-30 20:16:04
阅读次数:
346
安装nfs-3g软件即可./configuremakemakeinstall使用:mount-tntfs-3g/dev/sdb1/mnt或者直接用ntfs-3g/dev/sdb1/mnt
分类:
系统相关 时间:
2014-07-30 17:56:15
阅读次数:
255
Hadoop学习笔记(6) ——重新认识Hadoop 之前,我们把hadoop从下载包部署到编写了helloworld,看到了结果。现是得开始稍微更深入地了解hadoop了。 Hadoop包含了两大功能DFS和MapReduce, DFS可以理解为一个分布式文件系统,存储而已,所以这里暂时就不深入....
分类:
其他好文 时间:
2014-07-30 09:44:03
阅读次数:
344