Hive的基本使用(一)——数据类型 1. Hive的基本数据类型 | Hive数据类型 | Java数据类型 | 长度 | 例子 | | | | | | | TINYINT | byte | 1byte有符号整数 | 20 | | SMALINT | short | 2byte有符号整数 | 20 ...
分类:
其他好文 时间:
2019-11-03 14:38:05
阅读次数:
90
压抑了这么久了,是时候来一啵活动了。 为了感谢朋友们一直以来的支持,今天米兜得到一位既是主编也是粉丝的支持,将赠送来自这位朋友编写的一本书籍《Hive数据仓库企业级应用》。此书真心推荐朋友们阅读。 本次赠书活动规则: 第一阶段:11月2日 11月8日,将从点击本文在看且转发朋 ...
分类:
其他好文 时间:
2019-11-03 12:45:10
阅读次数:
80
大数据是对海量数据存储、计算、统计、分析等一系列处理手段,处理的数据量是TB级,甚至是PB或EB级的数据,是传统数据处理手段无法完成的,大数据涉及分布式计算、高并发处理、高可用处理、集群、实时性计算等等,汇集的是IT最热门、最流行的IT技术,大数据是机器学习、深度学习、AI等尖端可以领域的基础架构。 ...
分类:
其他好文 时间:
2019-11-03 12:27:52
阅读次数:
101
下面是hive使用过程中一些调优策略一、fetch抓取?Fetch抓取是指,Hive中对某些情况的查询可以不必使用MapReduce计算。例如:SELECT*FROMemployees;在这种情况下,Hive可以简单地读取employee对应的存储目录下的文件,然后输出查询结果到控制台。?在hive-default.xml.template文件中hive.fetch.task.conversion
分类:
其他好文 时间:
2019-11-03 11:11:19
阅读次数:
87
一、jdbc连接mysql代码示例publicclassTestConnector{finalstaticStringUSER="root";finalstaticStringPASSWORD="wjt86912572";finalstaticStringURL="jdbc:mysql://bigdata121:3306/metastore?useSSL=false&serverTimez
分类:
数据库 时间:
2019-11-03 10:24:06
阅读次数:
133
在配置 Metastore 到 MySql时,遇到一个java.net.ConnectException的坑。 首先我们应该排除基本的hive配置是成功的,至少保证在单机模式(Metastore 默认存储在自带的 derby 数据库)输入hive能到达下面界面 其次,我们需要安装版本较低的数据库(尽 ...
分类:
其他好文 时间:
2019-11-03 01:33:46
阅读次数:
97
Hive安装配置及基本操作 1. Hive安装及配置 (1). 上传文件到Hadoop102节点,解压到 (2). 修改/opt/module/hive/conf目录下的hive env.sh.template名称为hive env.sh (3). 配置hive env.sh文件 ? (a). 配置 ...
分类:
其他好文 时间:
2019-11-03 01:09:06
阅读次数:
98
从早期的互联网大数据爆发开始,主要的搜索引擎公司和电子商务公司就一直在和不断增长的数据进行较量。最近社交网站也遇到了同样的问题。如今,许多组织已经意识到他们所收集的数据是让他们了解用户,提高业务在市场上的表现以及提高基础架构效率的一个宝贵资源。 Hadoop生态系统就是为处理如此大数据集二产生的一个 ...
分类:
其他好文 时间:
2019-11-02 18:13:38
阅读次数:
81
在 hive 中分区表是很常用的,分桶表可能没那么常用,本文主讲分区表。 概念 分区表 在 hive 中,表是可以分区的,hive 表的每个区其实是对应 hdfs 上的一个文件夹; 可以通过多层文件夹的方式创建多层分区; 通过文件夹把数据分开 分桶表 分桶表中的每个桶对应 hdfs 上的一个文件; ...
分类:
其他好文 时间:
2019-11-02 16:14:57
阅读次数:
104
hive 配置 hive> set; 查看所有配置hive> set key; 查看某个配置hive> set key value; 设置某个配置 我们可以看到一些 hadoop 的配置,因为 hive 也读入了 hadoop 的配置 hive 的参数配置有 3 种方式 1. 配置文件 默认配置文件 ...
分类:
其他好文 时间:
2019-11-02 15:33:31
阅读次数:
61