五、搭建Hadoop集群上面的步骤，确认了单机可以执行Hadoop的伪分布执行，真正的分布式执行无非也就是多几台slave机器而已，配置方面的有一点点区别，配置起来就非常简单了。1、准备三台服务器192.168.56.101192.168.56.102192.168.56.103在每台机器的/etc/hosts中都将ip及hostname给映射上：192.168.56.101 nginx1192...
分类：
其他好文 时间：
2014-06-16 23:18:41
阅读次数：
499
二、Hadoop目录结构这里重点介绍几个目录bin、conf及lib目录。1、$HADOOP_HOME/bin目录文件名称说明hadoop用于执行hadoop脚本命令，被hadoop-daemon.sh调用执行，也可以单独执行，一切命令的核心hadoop-config.shHadoop的配置文件hadoop-daemon.sh通过执行hadoop命令来启动/停止一个守护进程(daemon)。该命令...
分类：
其他好文 时间：
2014-06-16 23:13:29
阅读次数：
338
前言Hadoop从存储上来说，是类似于冗余磁盘阵列(RAID)的存储方式，将数据分散存储并提供以提供吞吐量，它的存储系统就是HDFS（Hadoop Distuibute Fils System）；从计算上来说，它通过MapReduce模型，将大数据的计算分发到多台计算机上完成，再将结果合并，减少计算的时间。Hadoop适合于：1、超大数据的计算；2、一次写入、多次读取的模式；3、可以跑在普通的硬件...
分类：
其他好文 时间：
2014-06-16 22:58:13
阅读次数：
250
本文主要介绍一个轻量级的文件监控方式，对文件的Create & Change & Delete，都有一个对应的Event方法来进行处理。对于核心的File Monitor Class，我们继承一个监听适配器类FileAlterationListenerAdaptor，这样会更文件，不用再去重写每个Event方法。...
分类：
编程语言 时间：
2014-06-16 21:23:44
阅读次数：
285
四、测试Hadoop一个简单的求每年温度最大值的程序。1、准备两个文本测试数据准备两个名为data1.txt及data2.txt的文件，用于做为计算的输入数据，将其放于/home/fenglibin/java/data目录下：data1.txtdata2.txt1999 101999 201999 252000 212000 222000 182000 402001 452001 652002 9...
分类：
其他好文 时间：
2014-06-16 20:52:57
阅读次数：
443
Spark1.0.0可以通过以下几种方式来对Spark应用程序进行监控：
Spark应用程序的WebUI或者Spark Standalone的集群监控指标，然后通过支持指标收集的集群监控系统，如ganglia进行监控辅助监控工具
1：WebUI
Spark应用程序提交后，driver和Executor之间不断的交换运行信息，可以通过driver的4...
分类：
其他好文 时间：
2014-06-16 20:12:51
阅读次数：
325
三、配置Hadoop1、设置$HADOOP_HOME/conf/hadoop-env.sh这个文件中设置的是Hadoop运行时需要的环境变量，在1.2.1版中共有19个环境变量，如下： 变量名称默认值说明JAVA_HOME 设置JDK的路径，这个必须设置，否则Hadoop无法启动，值如：/usr/local/jdk1.6.0_33HADOOP_CLASSPATH空这个用以设置用户的类路径，也可以在...
分类：
其他好文 时间：
2014-06-16 19:59:35
阅读次数：
380
客户端监控：在此演示下前面提到的三种监控客户端的方式：方式一：snmp服务端ip：192.168.100.133客户端ip：192.168.100.132重启客户端snmpd在服务器端snmp命令获取客户端的相关值在此获取客户端的1分钟5分钟15分钟的load值为例在此基础上，我们可以使用nagios的插件方式二：nr..
分类：
移动开发 时间：
2014-06-16 18:24:58
阅读次数：
343
01.在服务端创建zabbix组configuration---Templates---createtemplate---TemplateLinux
DiskIO===其中选择组为"Template"在TemplateLinuxDiskIO中创建Discoveryrule：Name:Diskdevice
discovery
Key:custom.vfs.dev.discovery
FilterMacro{#DISK}Regexp@Disk
devicefordiscover..
分类：
其他好文 时间：
2014-06-16 17:00:42
阅读次数：
543
