现有的hadoop生态系统中存在的问题1)使用mapreduce进行批量离线分析;2)使用hive进行历史数据的分析;3)使用hbase进行实时数据的查询;4)使用storm进行实时的流处理;5)。。。。。。导致:维护成本高、学习成本高Spark的出现弥补了Hadoop生态系统中的缺陷,使用spar...
分类:
其他好文 时间:
2014-06-28 14:08:46
阅读次数:
306
前提:安装好jdk1.7,hadoop安装步骤:1、安装scala下载地址:http://www.scala-lang.org/download/配置环境变量:export SCALA_HOME=/..../scalaexport PATH=.:$SCALA_HOME/bin ....验证:sca....
分类:
其他好文 时间:
2014-06-28 14:08:09
阅读次数:
404
1. Hadoop中遇到的问题曾经所遇到的问题因为没有记录,所以忘了(1)NameNode没有启动成功, 是因为你对HDFS多次格式化,导致datanode中与namenode中的VERSION文件里的namespaceID不一致(对于NameNode节点,该文件位于hdfs-site配置文件里df...
分类:
其他好文 时间:
2014-06-28 12:47:08
阅读次数:
394
补充knowledge xpert for pl/sql (有专题, 例如 best practice)CodeXpert (在pl/sql编辑版的下半部分) 可以对pl/sql语句进行有效的优化提示 培训1. 系统监控用户设置做系统级的监控只能用 sys 和 system 用户, 在 toad 中...
分类:
其他好文 时间:
2014-06-28 12:34:52
阅读次数:
321
配置系统是复杂软件必不可少的一部分,org.apache.hadoop.conf.Configuration在Hadooop各个子项目中发挥着重要作用。 windows系统广泛使用一种特殊批的ASCII文件.ini作为其主要配置文件标准,被称为(Initialization File)或概要文...
分类:
其他好文 时间:
2014-06-24 09:11:43
阅读次数:
248
1. 创建HBase表的对象HBase表的对项名字叫HTable,创建它的方法有很多,常见的有如下:org.apache.hadoop.hbase.client.HTable hTable = new HTable(org.apache.hadoop.hbase.HBaseConfiguration...
分类:
编程语言 时间:
2014-06-23 08:32:23
阅读次数:
386
2014-06-20 BaoXinjianDBA常用的SQL汇总1.监控索引是否使用alter index &index_name monitoring usage;alter index &index_name nomonitoring usage;select * from v$object_u...
分类:
数据库 时间:
2014-06-23 08:04:16
阅读次数:
370
Spark已正式申请加入Apache孵化器,从灵机一闪的实验室“电火花”成长为大数据技术平台中异军突起的新锐。本文主要讲述Spark的设计思想。Spark如其名,展现了大数据不常见的“电光石火”。具体特点概括为“轻、快、灵和巧”。轻:Spark 0.6核心代码有2万行,Hadoop 1.0为9万行,...
分类:
其他好文 时间:
2014-06-23 07:25:53
阅读次数:
418
测试使用agentd监听获取数据。服务端的安装可以查看http://blog.chinaunix.net/space.php?uid=25266990&do=blog&id=3380929下载http://www.zabbix.com/downloads/2.0.3/zabbix_agents_2....
分类:
系统相关 时间:
2014-06-23 06:30:18
阅读次数:
261
鉴于hadoop的需要。。。但是并不限于此。。。有时候闲输入密码麻烦,也可以用这种办法从一个节点通过ssh进入另一个节点。。。设要使master进入slave是免密码的,则可以在master(ip为192.168.169.9)中如下操作:命令:ssh-keygen -t rsa 然后一路回车(该命令...
分类:
其他好文 时间:
2014-06-22 23:31:51
阅读次数:
332