码迷,mamicode.com
首页 >  
搜索关键字:apache hadoop yarn    ( 47386个结果
/bin/bash: line 0: fg: no job control一般解决方法
测试版本:CDH5.0,(Hadoop2.3)在使用windows调用Hadoop yarn平台的时候,一般都会遇到如下的错误:2014-05-28 17:32:19,761 WARN org.apache.hadoop.yarn.server.nodemanager.DefaultContainerExecutor: Exception from container-launch with co...
分类:其他好文   时间:2014-06-03 06:26:17    阅读次数:277
ubuntu下apache虚拟主机出现forbidden错误的解决办法
apache的虚拟主机一直运行都是正常,但是当我升级了ubuntu系统之后,再启动apache时,虚拟主机出现了forbidden的错误。在网上找了很长时间答案,但是很多方法试了之后都无效,最后还是找到了解决办法,先记录下来,后面防止再发生这样的错误。 奇怪现象:如果将document root指向/var/www或其子目录,那么就不会出现forbidden错误————太奇怪了~~ 失败方法:...
分类:其他好文   时间:2014-06-03 04:13:25    阅读次数:202
Spark 1.0.0版本发布
前言 今天Spark终于跨出了里程碑的一步,1.0.0版本的发布标志着Spark已经进入1.0时代。1.0.0版本不仅加入了很多新特性,并且提供了更好的API支持。Spark SQL作为一个新的组件加入,支持在Spark上存储和操作结构化的数据。已有的标准库比如ML、Streaming和GraphX也得到了很大程度上的增强,对Spark和Python的接口也变得更稳定。以下是几个主要的改进点...
分类:其他好文   时间:2014-06-03 00:43:41    阅读次数:269
HP Vertica Analytics Platform 评测
1.vertica概念 面向数据分析的数据仓库系统解决方案 2.vertica关键特性 Ø  标准的SQL接口:可以利用已有的BI、ETL、Hadoop/MapReduce和OLTP环境 Ø  高可用:内置的冗余也提升了查询速度 Ø  自动化数据库设计:数据库自动安装、优化、管理 Ø  高级压缩:十多种压缩算法最多可节省90%的空间 Ø  大规模并行处理:运行于低成本的x86型Lin...
分类:其他好文   时间:2014-06-02 23:09:24    阅读次数:483
HADOOP2.0(HDFS2)以及YARN设计的亮点
YARN总体上仍然是Master/Slave结构,在整个资源管理框架中,ResourceManager为Master,NodeManager为Slave,ResouceManager负责对各个NodeManager上的资源进行统一管理和调度。当用户提交一个应用程序时,需要提供一个用以跟踪和管理这个程...
分类:其他好文   时间:2014-06-02 22:20:44    阅读次数:377
Hadoop动态添加/删除节点(datanode和tacktracker)
总的来说,正确的做法是优先通过配置文件,再在具体机器上进行相应进程的启动/停止操作。 网上一些资料说在调整配置文件的时候,优先使用主机名而不是IP进行配置。 总的来说添加/删除DataNode和TaskTracker的方法非常相似,只是操作的配置项和使用的命令有微小差异。 1. DataNode 1.0 配置文件 在namenode下修改配置文件conf/mapred-site.xml。 关键参数dfs.hosts和dfs.hosts.exclude。 注意:不同hado...
分类:其他好文   时间:2014-06-01 10:45:08    阅读次数:340
crontab中运行newLISP脚本的环境变量设置
今天遇到一个问题,在终端里运行newLISP脚本,一切正常,移动到crontab中就不行。即便crontab -e命令运行在同一个用户下,还是有问题。由于newLISP脚本要用到hive和hadoop,估计是环境变量的问题。所以先用newLISP shell运行(env)命令,将当前环境变量记录到文件evn.lsp中。然后在newLISP脚本中加载之。下面是env.lsp文件部分内容:(set '...
分类:其他好文   时间:2014-06-01 10:26:57    阅读次数:330
java.lang.ClassNotFoundException: org.apache.commons.lang.exception.NestableRuntimeException
java.lang.ClassNotFoundException: org.apache.commons.lang.exception.NestableRuntimeException 遇到这种问题是因为jar包引入不全,完整的应该包含: commons-beanutils-1.8.3.jar commons-lang-2.5.jar ezmorph-1.0.6.jar...
分类:编程语言   时间:2014-06-01 09:47:36    阅读次数:240
Spark 1.0.0 横空出世 Spark on yarn 部署(hadoop 2.4)
就在昨天,北京时间5月30日20点多。Spark 1.0.0终于发布了:Spark 1.0.0 released 根据官网描述,Spark 1.0.0支持SQL编写:Spark SQL Programming Guide 个人觉得这个功能对Hive的市场的影响很小,但对Shark冲击很大,就像win7和winXP的关系,自相残杀嘛? 这么着急的发布1.x 版是商业行为还是货真价实的体现,让我们拭目以待吧~~~~ 本文是CSDN-撸大湿原创,如要转载请注明出处,谢谢:http://blog.csdn.net...
分类:其他好文   时间:2014-06-01 08:55:43    阅读次数:460
SQLUnit 环境搭建
包含 SQLUnit 测试环境搭建流程,以及在第四小节包含了 MySQL 连接测试示例。 环境快速搭建 1. SQLUnit 2. Apache Ant Apache Ant入门示例 3. Java 3 编译...
分类:数据库   时间:2014-05-31 23:35:58    阅读次数:666
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!