hive创建目录时相关的几个hdfs中的类:org.apache.hadoop.hdfs.DistributedFileSystem,FileSystem的具体实现类
org.apache.hadoop.hdfs.DFSClient,client操作hdfs文件系统的类
org.apache.hadoop.fs.permission.FsPermission文件权限相关类,主要的方法有getUMask和applyUMask..
分类:
其他好文 时间:
2014-12-19 01:58:23
阅读次数:
149
YARN
Hadoop2.0与HAdoop1.0的区别:
Hadoop1.0主要由HDFS和MapReduce两个系统够长,但在Hadoop2.0中主要由 Hadoop Common、HDFS 、Hadoop YARN和Hadoop MapReduce2.0构成。
Hadoop1.0更多是在于离线的...
分类:
其他好文 时间:
2014-12-18 14:56:59
阅读次数:
244
This a translation of an article (?http://microservices.io/patterns/microservices.html) originally written and copyrighted by Chris Richardson (?http://twitter.com/crichardson). 模式:微服务架构 ...
分类:
其他好文 时间:
2014-12-18 07:00:43
阅读次数:
308
2014年11月25日,Storm发布了0.9.3的版本。Storm 0.9.3的版本修改了100个Bug,改进了与Kafka的集成,并增加了与HDFS和HBase的集成。改进了与Kafka的集成Apache Storm从0.9.2-incubating版本开始支持Kafka作为流数据的数据源。0....
分类:
其他好文 时间:
2014-12-17 20:12:03
阅读次数:
223
#!/bin/bash
hadoop_home=/opt/hadoop-2.4.0
tw_nginx_home=/var/www/nginx_0
cn_nginx_home=/var/www/nginx1
current_date=$(date +%Y%m%d)
echo "hadoop_home = $hadoop_home"
echo "tw_nginx_home = $t...
分类:
其他好文 时间:
2014-12-17 18:35:46
阅读次数:
378
Fromhttps://source.android.com/devices/graphics/architecture.htmlGraphics architectureIN THIS DOCUMENTBufferQueue and grallocgralloc HALSurfaceFlinger...
分类:
移动开发 时间:
2014-12-17 14:27:21
阅读次数:
472
本文发表于本人博客。这次来看看我们的客户端用url方式来连接JobTracker。我们已经搭建了伪分布环境,就知道了地址。现在我们查看HDFS上的文件,比如地址:hdfs://hadoop-master:9000/data/test.txt。看下面代码: static final String...
分类:
编程语言 时间:
2014-12-17 09:48:36
阅读次数:
175
本文提供几个简单的实例,来说明如何使用hadoop的java API针对HDFS进行文件上传、创建、重命名、删除操作本文地址:http://www.cnblogs.com/archimedes/p/hdfs-api-operations.html,转载请注明源地址。1.上传本地文件到HDFS通过Fi...
Hadoop 命令手册
1、 用户命令
1.1 archive
1.1.1 什么是Hadooparchives
Hadoop的归档文件,每个文件以块方式存储,块的元数据存储在名称节点的内存里,此时存储一些小的文件,HDFS会较低效。因此,大量的小文件会耗尽名称节点的大部分内存。(注意,相较于存储文件原始内容所需要的磁盘空间,小文件所需要的空间不会更多...
分类:
其他好文 时间:
2014-12-16 15:08:12
阅读次数:
376
本文发表于本人博客。 我们知道HDFS是Hadoop的分布式文件系统,那既然是文件系统那最起码会有管理文件、文件夹之类的功能吧,这个类似我们的Windows操作系统一样的吧,创建、修改、删除、移动、复制、修改权限等这些操作。 那我们现在来看看hadoop下是怎么操作的。 先输入hadoop ...
分类:
系统相关 时间:
2014-12-16 13:22:12
阅读次数:
241