JDK 1.6 + HIVE 1.1.0 启动时抛异常:root@ubuntu:~# hiveLogging initialized using configuration in jar:file:/hive/apache-hive-1.1.0-bin/lib/hive-common-1.1.0.j...
分类:
其他好文 时间:
2015-03-14 06:06:20
阅读次数:
214
1.先说说什么是Hadoop? 个人理解:一个分布式文件存储系统+一个分布式计算框架,在其上还有很多的开源项目来丰富他的功能,如Hbase,hive等等。官方:Hadoop是一个用Java编写的开源系统,可安排在大规模的计算平台上,从而提高计算效率。本质上它只是一个海量数据处理平台架构。2.Had....
分类:
其他好文 时间:
2015-03-13 22:16:15
阅读次数:
213
set hive.exec.reducers.bytes.per.reducer=2000000000; ##每个reduce任务处理的数据量,默认为1000^3=1G set hive.groupby.skewindata = true ##对于join和Group操作都可能会出现数据倾斜 set hive.optimize.sk...
分类:
其他好文 时间:
2015-03-13 20:54:49
阅读次数:
166
写了一条hive sql ,其中条件中存在dt>=20150101 and dt<=20150228 这样的条件,原来执行没问题,今天就抛出FAILED: Hive Internal Error: java.lang.NullPointerException(null)java.lang.NullP...
分类:
编程语言 时间:
2015-03-13 20:19:56
阅读次数:
163
在配置hadoop2.6 ?,hive1.2的时候,会报一个错误。 Terminal initialization failed; falling back to unsupported java.lang.IncompatibleClassChangeError: Found class jline.Terminal, but interface was ex...
分类:
其他好文 时间:
2015-03-13 19:12:57
阅读次数:
545
深入浅出Hive企业级架构优化、Hive Sql优化、压缩和分布式缓存(企业Hadoop应用核心产品)课程讲师:Cloudy课程分类:Hadoop适合人群:初级课时数量:10课时用到技术:Hive涉及项目:Hive企业级优化咨询qq:1840215592一、课程环境:Cloudera Hadoop ...
分类:
其他好文 时间:
2015-03-13 12:37:36
阅读次数:
239
Hadoop家族系列文章,主要介绍Hadoop家族产品,常用的项目包括Hadoop, Hive, Pig, HBase, Sqoop, Mahout, Zookeeper, Avro, Ambari, Chukwa,新增加的项目包括,YARN, Hcatalog, Oozie, Cassandra,...
分类:
其他好文 时间:
2015-03-13 12:28:34
阅读次数:
218
一、概述Surus是NetFlix开源的UDFs,是基于pig和hive的数据分析工具。解决问题Surus中的功能能够解决多种多样的问题,例如分数预测模型、异常检测与模式匹配等等,Surus还可以作为提高大数据分析能力的辅助工具。二、系统架构目前开源的UDF功能主要包括两个,包括ScorePMML和Ro..
分类:
其他好文 时间:
2015-03-13 02:03:48
阅读次数:
277
启动hiveserver2:hiveserver2 --hiveconf hive.execution.engine=spark spark.master=yarn使用beeline连接hiveserver2:beeline -u jdbc:hive2://hadoop000:10000 -n sp...
分类:
其他好文 时间:
2015-03-12 18:56:16
阅读次数:
835
问题导读
1.hive除了包含用户接口、元数据,还包含哪些内容?
2.hive包含哪些操作?
3.hive数据能否被修改?
4.hive优化有哪些常用方法?
摘要:
Hive 是建立在 Hadoop 上的数据仓库基础构架。它提供了一系列的工具,可以用来进行数据提取转化加载(ETL),这是一种可以存储、查询和分析存储在 Hadoop 中的大规模数据的机制。Hi...
分类:
其他好文 时间:
2015-03-12 17:21:26
阅读次数:
207