既然HDFS 是存取数据的分布式文件系统,那么对HDFS的操作,就是对文件系统的基本操作,比如文件的创建、修改、删除、修改权限等,文件夹的创建、删除、重命名等。对HDFS 的操作命令类似于Linux 的shell 对文件的操作,只是在HDFS中,hadoop fs是主命令,其他像ls,mv,cp都是...
分类:
其他好文 时间:
2014-07-16 23:04:42
阅读次数:
372
1.1 Samba 概述Samba主要用于Windows和Linux之间的文件共享,也一样用于Linux和Linux之间的共享文件;不过对于Linux和Linux之间共享文件有更好的网络文件系统NFS,NFS也是需要架设服务器的。我们可以通过samba架设一个功能非常强大的文件服务器,也可以将其架设...
分类:
其他好文 时间:
2014-07-16 19:50:08
阅读次数:
170
服务端:[root@localhosttmp]#rpm-qa|grepnfsnfs-utils-lib-1.0.8-7.6.el5nfs-utils-1.0.9-44.el5//提供文件系统system-config-nfs-1.3.23-1.el5[root@localhosttmp]#rpm-qa|grepportmapportmap-4.0-65.2.2.1//提供rpc协议[root@localhosttmp]#/etc/init.d/nfsrestart[root@loc..
分类:
Web程序 时间:
2014-07-15 11:37:13
阅读次数:
215
简介:
unix/linux系统一种远程文件目录共享的服务,可以把某一个远程的文件目录共享到本地,进而像操作本地文件一样,操作这个远程的目录。
例如:a主机作为服务端,共享出来test1这个目录,b主机作为客户端,b以其test2目录挂载a主机的test1目录,那么这个时候查看b主机的test2中的内容则会与a主机的test1中一样,对b主机test2目录的操作就是在操作a主机的test1目录...
分类:
系统相关 时间:
2014-07-13 00:14:01
阅读次数:
238
一、客户需求1、需求描述有些客户有自己的存储设备,但是并没有集群文件系统服务,所以如果我们多个节点(计算节点)如果想同时使用其中的一个块且要保证高可用的话,就需要我们自己来完成类似集群文件系统的服务组合,在此我们使用的服务组合是:iscsi共享+drbd+heartbeat+nfs..
分类:
其他好文 时间:
2014-07-10 18:31:52
阅读次数:
418
The Google File System中文版译者:alex摘要我们设计并实现了Google GFS文件系统,一个面向大规模数据密集型应用的、可伸缩的分布式文件系统。GFS虽然运行在廉价的普遍硬件设备上,但是它依然了提供灾难冗余的能力,为大量客户机提供了高性能的服务。虽然GFS的设计目标与许多传...
分类:
其他好文 时间:
2014-07-10 17:02:08
阅读次数:
289
以下图1是hadoop生态图,通俗的说,就是hadoop核心模块和衍生的子项目。 图 1 Hadoop生态系统图由图可知,hadoop生态系统包括以下成员:① 各种浏览器,产生海量的Web数据;② Nutch项目,一个快速搜索海量网页的开源项目③ HDFS,Hadoop分布式文件系统,大数据的存储系...
分类:
其他好文 时间:
2014-07-10 15:32:23
阅读次数:
189
现在 Hadoop 已经发展成为包含多个子项目的集合。虽然其核心内容是 MapReduce 和Hadoop 分布式文件系统(HDFS),但 Hadoop 下的Common 、Avro、 Chukwa、Hive 、HBase等子项目也是不可或缺的。它们提供了互补性服务或在核心层上提供了更高层的服务。以...
分类:
其他好文 时间:
2014-07-10 14:57:00
阅读次数:
333
一环境准备二拓扑结构三前提条件四安装相关软件五配置heartbeat六测试web集群七问题汇总八共享存储一环境准备操作系统centos6.4x86_64最小化安装如使用yum安装的方式centos5.5安装的是V2.X,centos6.4安装的是V3.XYUM安装Vimmanntp“developmenttools”“serverplatformdevelop..
分类:
Web程序 时间:
2014-07-08 08:47:22
阅读次数:
246
超级好的配置centos下服务的链接 http://www.server-world.info/en/note?os=CentOS_6&p=nfs http://linux.vbird.org/linux_server/0330nfs.php 以下是NFS最显而易见的好处: 本地工作站使用更少的磁盘...
分类:
其他好文 时间:
2014-07-06 16:37:55
阅读次数:
188