这里介绍一下hadoop的组成, hadoop主要由两部分组成,,一个是hdfs,另一个是mapreduce
这两个部分在hadoop 2.2.0中分别用start-dfs.sh和start-yarn.sh启动。mapreduce 在2.0版本中有了一个新名字yarn.
dfs 主要用来启动 namenode 和 datanode, namenode既是是传说中的matser, datanod...
分类:
其他好文 时间:
2014-05-07 04:33:35
阅读次数:
359
集群安装配置Hadoop
集群节点:node4、node5、node6、node7、node8。具体架构:
node4
Namenode,secondnamenode,jobtracker
node5
Datanode,tasktracker
node6
Datanode,tasktracker...
分类:
其他好文 时间:
2014-05-07 02:52:47
阅读次数:
361
需求:将本地Java程序部署到linux服务器并执行,首先要将本地Java程序打成jar包,然后拷贝到服务器后运行java -jar xx.jar
问题:该程序本地运行正常,服务端运行报错找不到第三方包中的类
原因:本地打jar包时有错,未能正确引入第三方包
解决:本地通过fat jar插件来打包,方法如下
在Eclipse 下 java 应用程序打包 Mainfest.mf 格式...
分类:
编程语言 时间:
2014-05-06 23:43:26
阅读次数:
488
mapreduce数据本地化(核心特征)、无共享。
1 HDFS的设计
为了存储超大文件 流式访问(一次写入多次读取)商用硬件(不需要超豪华的机器)
2 数据快(block)
磁盘一般是512字节 HDFS默认是64M 但与其他文件系统不同的是小于一个块大小的文件不会占用整个块的空间。块为什么设置这么大?(最小化寻址开销)块抽象带来的好处(一个文件的...
分类:
其他好文 时间:
2014-05-06 23:26:24
阅读次数:
519
右键New->Other->AndroidSampleProject->选择Android4.4.2->选择Support7Demos,finish。会出现编译错误解决如下:1.把这三个文件导入到Eclipse里,这三个是库文件,并且勾选COPY到工作空间里选项如果没有这三个文件,就从这里下载2.导入三个library工程后,mediar..
分类:
其他好文 时间:
2014-05-06 20:34:11
阅读次数:
864
大体的步骤
创建project 添加junit包 创建一个待测试的类JDemo.java 为JDemo.java创建一个Junit测试用例JDemoTest.java
运行测试
1. 创建一个project :【new】-》【project】 (以下截图是操作过程的主要步骤,并非所有)
2....
分类:
系统相关 时间:
2014-05-06 19:01:44
阅读次数:
445
马哥课程的学习任务:RHCE+RHCA+shell编程+MySQL+Web集群+NoSQL+Hadoop+Hbase+Openstack。1基础(RHCE):RH033RH133RH2532RHCA:RH401RH423(LDAP)RH442(系统调优)RH436RHS3333MySQL4NoSQL5系统工程师:是指具备较高专业技术水平,能够分析商业需求,并使用各种系统平台和服务器..
分类:
系统相关 时间:
2014-05-06 17:15:49
阅读次数:
479
whoami:当前登录到系统的有效用户who:显示当前系统上登录的用户都有哪些-r:显示当前的运行级别的who|grep"hadoop"
echo$?w:显示谁登陆了,并且正在干什么。(显示的信息比who更详细)last:显示登录的日志,记录登录历史和重启历史-n#:只显示#次的登录信息lastb:/var/log/..
分类:
系统相关 时间:
2014-05-06 16:05:21
阅读次数:
506
今天在试验jqgrid时用到jquery,一直报jQueryisnotdefined错误。此错误的原因基本是jquery文件引入时路径有错误。最初用src="../js/jquery-1.11.0.min.js",在eclipse中可以找到该文件,但是在firebug中表示路径有误。改为js/jquery-1.11.0.min.js就可以了。另外一种解决办法是..
分类:
Web程序 时间:
2014-05-06 15:57:09
阅读次数:
557