hive运行模式 hive on tez Tez是一个构建于YARN之上的支持复杂的DAG任务的数据处理框架。它由Hontonworks开源,它把mapreduce的过程拆分成若干个子过程,同时可以把多个mapreduce任务组合成一个较大的DAG任务,减少了mapreduce之间的文件存储,同时合 ...
分类:
其他好文 时间:
2019-06-18 13:49:20
阅读次数:
94
第一节:hive的产生背景 mapreduce处理的绝大多数的数据,都是格式化的数据。格式化的数据的处理sql最擅长。mapjoin reducejoin的开发代码要写40行,而sql就一个sql语句就可以了,例如:select * from a join b on a.id=b.id;。 mapr ...
分类:
其他好文 时间:
2019-06-17 01:07:49
阅读次数:
119
一、简介 在hive中默认只支持单字节分隔符,不支持多字节(超过一个字节)分割符的。 单字节:| . : \t 多字节:|| :: .. create table test01(id int,name string) row format delimited fields terminated by ...
分类:
其他好文 时间:
2019-06-17 00:58:37
阅读次数:
169
第一节:原子数据类型 9种 整型4种 :tinyint、smallint、int、bigint 浮点型:float 、double 布尔:boolean 字符串:string 时间戳:timestamp 第二节:复杂数据类型 一、简介 所有的复杂数据类型都是由原子数据类型构成 二、array 1、概 ...
分类:
其他好文 时间:
2019-06-17 00:54:21
阅读次数:
132
一、进入hive之前的操作 1、简介 进入hive客户端之前的操作 hive [-hiveconf x=y]* [<-i filename>]* [<-f filename>|<-e query-string>] 2、设置参数相关的 -hiveconf set key=value hive -hiv ...
分类:
其他好文 时间:
2019-06-17 00:44:22
阅读次数:
86
第一节:数据库 Hive的数据库同mysql中的数据库,将数据进行细化管理,不同业务模块的数据放在一个数据库中。 第二节:数据表 一、按管理权限分 1、内部表 管理权限是hive自己,hive对表中的数据(原始数据)有绝对的增删权限的。内部表在进行删除表的时候,表中的数据(hdfs对应的目录)会被删 ...
分类:
其他好文 时间:
2019-06-17 00:43:46
阅读次数:
117
第一节:内置函数 一、显示内置函数列表 show functions; 默认271个 二、查看函数的基本使用 desc function funname; desc function max; 三、查看函数的详细使用教程 desc function extended funname; desc fu ...
分类:
其他好文 时间:
2019-06-17 00:39:40
阅读次数:
130
Mac上Hive安装配置 1、安装 下载hive,地址:http://mirror.bit.edu.cn/apache/hive/ 之前我配置了集群,tjt01、tjt02、tjt03,这里hive安装在tjt01机器上。 我下载的是“apache-hive-3.0.0-bin.tar.gz”,将h ...
分类:
系统相关 时间:
2019-06-16 14:14:13
阅读次数:
497
返回类型 函数名 描述 intlength(string A)返回字符串A的长度 select length(weoirjewo);select length(name) from stu; 此函数在实际工作,可以用于校验手机号,身份号等信息的合法性stringreverse(string A)返回... ...
分类:
其他好文 时间:
2019-06-16 14:04:45
阅读次数:
544
说真的,这个模式在我做sql开发的岁月里,从未用到过。用的都是动态分区非严格模式。 我的好友东岳同学在车上问我。确实问到了我 。体现出了我基本功不扎实的情况。 1.what is Hive严格模式 Hive提供了一个严格模式,可以防止用户执行那些可能产生意向不到的不好的效果的查询。说通俗一点就是这种 ...
分类:
其他好文 时间:
2019-06-16 13:27:31
阅读次数:
215