Hadoop有两个大版本0.20.x,1.x通常为hadoop
1版本,运行环境依赖JobTracker和TaskTracker,运行资源通过作业表示模型MapTask和ReduceTask来组成;运行资源通过槽位Slot来表示。0.23.x,2.x称之为hadoop
2版本,在开发模型上类似1,都...
分类:
其他好文 时间:
2014-05-18 19:24:17
阅读次数:
291
脚本名:power.sh脚本内容:Shell代码 #!/bin/sh username3=$1
dir_name2=$2 # get existing directory file_path=$dir_name2 while true do if [ -d
$fil...
分类:
系统相关 时间:
2014-05-18 18:49:24
阅读次数:
319
我们在运维中,尤其是linux运维,都知道脚本的重要性,脚本会让我们的
运维事半功倍,所以学会写脚本是我们每个linux运维必须学会的一门功课,这里收藏linux运维常用的脚本。如何学好脚本,最关键的是就是大量的练习
和实践。根据以下脚本我们可以拓展,这样我们提高的很快!举一反三! 1.用Shell...
分类:
系统相关 时间:
2014-05-18 02:07:12
阅读次数:
403
PrerequisiteHadoop 2.2 has been installed (and
the below installation steps should be applied on each of Hadoop node)Step 1.
Install R (by yum)[hadoop...
分类:
系统相关 时间:
2014-05-17 21:51:24
阅读次数:
671
工作流(Workflow),就是“业务过程的部分或整体在计算机应用环境下的自动化”,它主要解决的是“使在多个参与者之间按照某种预定义的规则传递文档、信息或任务的过程自动进行,从而实现某个预期的业务目标,或者促使此目标的实现”。
分类:
其他好文 时间:
2014-05-17 20:12:36
阅读次数:
190
1. shell判断文件,目录是否存在或者具有权限 2. #!/bin/sh 3. 4.
myPath="/var/log/httpd/" 5. myFile="/var /log/httpd/access.log" 6. 7. # 这里的-x
参数判断$myPath是否存在并且是否具有可执行权限 ...
分类:
其他好文 时间:
2014-05-17 19:23:57
阅读次数:
267
最近对微信接口进行深入的研究,通过把底层接口一步步进行封装后,逐步升级到自动化配置、自动化应答,以及后台处理界面的优化和完善上,力求搭建一个较为完善、适用的微信门户应用管理系统。微信门户应用管理系统,采用基于MVC+EasyUI的路线,由于多数域名服务器上都只能支持.NET4.0,所以以MVC3,C...
分类:
微信 时间:
2014-05-17 19:07:46
阅读次数:
647
NameNode有这么几个配置:PropertyDescriptionSuggested
valuedfs.name.dirDirectory in NameNode’s local filesystem to store HDFS’s
metadata/home/hadoop/dfs/namedf...
分类:
其他好文 时间:
2014-05-17 18:56:09
阅读次数:
367
shell中条件判断if中的-z到-d的意思[-aFILE]如果FILE存在则为真。[-bFILE]如果FILE存在且是一个块特殊文件则为真。[-cFILE]如果FILE存在且是一个字特殊文件则为真。[-dFILE]如果FILE存在且是一个目录则为真。[-eFILE]如果FILE存在则为真。[-fF...
分类:
其他好文 时间:
2014-05-17 18:41:31
阅读次数:
201
1. 概括适合一次写入多次查询情况,不支持并发写情况通过hadoop shell
上传的文件存放在DataNode的block中,通过linux
shell只能看见block,看不见文件(HDFS将客户端的大文件存放在很多节点的数据块中,Block本质上是一个逻辑概念,它是hdfs读写数据的基本单位...
分类:
编程语言 时间:
2014-05-17 18:38:16
阅读次数:
364