第一步:打开/etc 下面的 profile文件,在其中加入环境变量设置的代码doneJAVA_HOME=/home/hadoop/installer/jdk7u65PATH=$JAVA_HOME/bin:$PATHCLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HO...
分类:
其他好文 时间:
2014-07-22 08:04:37
阅读次数:
220
1.1 Spark交互式分析
运行Spark脚本前,启动Hadoop的HDFS和YARN。Spark的shell提供
了简单方式去识别API,同样也有一个强大的工具去交互式地分析数据。两种语言有这样的交换能力,分别是Scala 和 Python。下面将演示如何使用Python来分析数据文件。
进入Spark安装主目录,输入下面的命令,python命令行模式将会启动。
./bin/pysp...
分类:
其他好文 时间:
2014-07-22 00:29:38
阅读次数:
239
hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供简单的sql查询功能,可以将sql语句转换为MapReduce任务进行运行。 其优点是学习成本低,可以通过类SQL语句快速实现简单的MapReduce统计,不必开发专门的MapReduce应用,十分适合数据...
分类:
其他好文 时间:
2014-07-22 00:20:35
阅读次数:
252
Exception in thread "main" java.lang.NoClassDefFoundError: org/codehaus/jackson/map/JsonMappingException
at org.apache.hadoop.mapreduce.Job$1.run(Job.java:563)
at java.security.AccessC...
分类:
移动开发 时间:
2014-07-21 16:36:54
阅读次数:
251
1、Could not chdir to home directory /home/USER: Permission denied启动datanode时会报这个错误,尝试利用ssh登录datanode,发现需要密码。解决办法: 利用root权限修改/etc/sysconfig/selinux,将S....
分类:
其他好文 时间:
2014-07-21 14:27:28
阅读次数:
281
Hadoop 1.x版本不支持FileSystem的append操作,而需要升级到Hadoop 2.x,否则会报异常:org.apache.hadoop.ipc.RemoteException: java.io.IOException: Append is not supported. Please...
分类:
移动开发 时间:
2014-07-21 09:13:27
阅读次数:
1094
1. 概述在传统数据库(如:MYSQL)中,JOIN操作是非常常见且非常耗时的。而在HADOOP中进行JOIN操作,同样常见且耗时,由于Hadoop的独特设计思想,当进行JOIN操作时,有一些特殊的技巧。本文首先介绍了Hadoop上通常的JOIN实现方法,然后给出了几种针对不同输入数据集的优化方法。...
分类:
其他好文 时间:
2014-07-21 09:03:08
阅读次数:
329
1 官网下载Cocos2dx1.1 下载链接:http://www.cocos2d-x.org/download2 VS版本我试了一下,VS2005是没有办法打开Cocos2d-x v3.2的版本,以前的版本没有试过,我用的是VS2013,经测试打开Sln正常3 打开工程并编译Demo1) 打开工程...
分类:
其他好文 时间:
2014-07-21 00:17:47
阅读次数:
434
windows下的python开发环境搭建的一个简单教程,包括python安装,ez_install pip virtualenv的安装使用以及一些注意事项
分类:
编程语言 时间:
2014-07-20 22:29:47
阅读次数:
425
- - - - android培训、java培训、期待与您交流!- - - - - -JRE和JDKJRE:Java Runtime Environment,java运行环境。JDK:Java Development Kit,java开发工具包。使用JDK开发java程序,交给JRE运行。JDK下载...
分类:
编程语言 时间:
2014-07-20 22:20:16
阅读次数:
319