HDFS小文件问题及解决方案:http://dongxicheng.org/mapreduce/hdfs-small-files-solution/Hadoop升级方案(一):Hadoop
1.0内部版本升级(初稿):http://dongxicheng.org/mapreduce-nextgen/...
分类:
其他好文 时间:
2014-05-10 02:08:24
阅读次数:
327
单词计数是最简单也是最能体现MapReduce思想的程序之一,可以称为MapReduce版"Hello
World",该程序的完整代码可以在Hadoop安装包的"src/examples"目录下找到。单词计数主要完成功能是:统计一系列文本文件中每个单词出现的次数,如下图所示。现在我们以"hadoop...
分类:
其他好文 时间:
2014-05-10 01:54:48
阅读次数:
445
乐队指挥不可能一个人演奏所有乐器,团队领导也不可能一人包揽所有任务。有效分权,下属才能成长,你才能够高升。但成功分权需要破除5大迷思。随着我们在一个组织内部获得提拔,我们看待事物的视角也开始发生变化,有时甚至会让你自己觉得不自在。大多数人进入一个组织之后首先承担的是某个技术领域的角色,而且他们基本上...
分类:
其他好文 时间:
2014-05-09 17:33:52
阅读次数:
363
Hadoop
MapReduce开发最佳实践(上篇)本文是Hadoop最佳实践系列第二篇,上一篇为《Hadoop管理员的十个最佳实践》。MapRuduce开发对于大多数程序员都会觉得略显复杂,运行一个WordCount(Hadoop中hello
word程序)不仅要熟悉MapRuduce模型,还要了...
分类:
其他好文 时间:
2014-05-08 21:45:46
阅读次数:
640
DRBD+Pacemaker实现DRBD主从角色的自动切换前提:drbd设备名,以及drbd设备的挂载点都要与对端节点保持一致;因为我们定义资源,使用到设备名及挂载点,所以两端的drbd设备名和设备的挂载点都必须保持一致;如何定义主从资源?主从资源是一类特殊的克隆资源;要成为克隆资源,首..
分类:
其他好文 时间:
2014-05-05 12:36:33
阅读次数:
556
主机规划172.16.16.15node1.ja.com172.16.16.16node2.ja.com一、准备工作=======================================================================1.为各主机设置主机名,IP地址,并测试主机连通性分别为各节点设置主机名node1:hostnamenode1.ja.comnode2:hostnamenode2.ja.c..
分类:
其他好文 时间:
2014-05-05 12:30:16
阅读次数:
517
1.核心 HDFS 分布式文件系统 主从结构,一个namenoe和多个datanode,
分别对应独立的物理机器
1)NameNode是主服务器,管理文件系统的命名空间和客户端对文件的访问操作。NameNode执行文件系统的命名空间操作,比如打开关闭重命名文件或者目录等,它也负责...
分类:
其他好文 时间:
2014-05-05 10:35:14
阅读次数:
432
根据企业大小和业务重点,与网站相关的几个职业相互混合(其实这几个职业相对其他职业相差确实不大)。小企业:SEO&程序员&网站编辑&外链专员&其他推广工作于一身;中型企业:开始分角色;大型企业:划定清晰的工作职责。
分类:
其他好文 时间:
2014-05-05 10:13:23
阅读次数:
274
转自:http://blog.csdn.net/bluesky8640/article/details/6945776之前装python、jdk、hadoop都是用的root账户,这是一个绝对的失策,linux对用户访问权限很严格,新创的hod账户根本无法启动hadoop,而root在hod模式下使...
分类:
系统相关 时间:
2014-05-05 10:09:20
阅读次数:
753
目标:主机做了Mirror和Replication,当主机出现问题时,Replication和Mirror实现自动的故障转移(Mirror和Replication都切换到备机,而当主机重新启动后,自动充当备机的角色)。环境:五台虚拟机,配置均为Windows2008Enterprise
+ SQLS...
分类:
数据库 时间:
2014-05-04 19:07:28
阅读次数:
560