一.Fetch抓取 Fetch抓取是指,Hive 中对某些情况的查询可以不必使用MapReduce计算。 在 hive-default.xml.template 文件中 hive.fetch.task.conversion 默认是 more,老版本 hive默认是 minimal,该属性修改为 mo ...
分类:
其他好文 时间:
2020-01-28 23:21:26
阅读次数:
87
从xlsx读出数据: # coding=utf-8 from openpyxl import load_workbook wb = load_workbook("test.xlsx") #打开的一个工作簿会有多个工作表 sheets = wb.sheetnames # 第一个表格的名称 sheet_ ...
分类:
编程语言 时间:
2020-01-28 23:12:58
阅读次数:
78
1、Hive和传统数据库的区别 (1)表数据验证:传统数据库是写模式,hive是读模式。传统数据库在写入数据的时候就去检查数据格式,hive在读取数据的时候检查。因此,写时模式,查询快,读时模式数据加载快。 (2)hive不支持实时处理,并且对索引支持较弱。 (3)hive不支持行级插入和事务。 ( ...
分类:
数据库 时间:
2020-01-28 21:08:01
阅读次数:
108
1、Hive内部表和外部表区别:主要分为两方面,数据加载load、删除表drop。 数据加载:创建内部表时,会将数据移动到hive指向的路径,并且由hive来管理数据的生命周期。 创建外部表时,只是记录数据所在的路径,不对数据位置做改变。 删除表:删除内部表,数据和元数据会一起删除掉。 删除外部表, ...
分类:
其他好文 时间:
2020-01-28 19:16:01
阅读次数:
68
传送门:https://www.cnblogs.com/arthurliu/archive/2011/04/13/2015120.html ...
分类:
编程语言 时间:
2020-01-27 23:58:35
阅读次数:
120
【1】显式转换操作符 以前对explicit关键字的理解可以参考随笔《explicit关键字》。 而在C++11中,标准将explicit的使用范围扩展到了自定义的类型转换操作符上,以支持所谓的“显式类型转换”。 explicit关键字作用于类型转换操作符上,意味着只有在直接构造目标类型 或 显式类 ...
分类:
编程语言 时间:
2020-01-27 23:40:22
阅读次数:
110
在公司用Hive实现个规则的时候,遇到了要查询某个字段是否在另一张表中,大概情况就是 A表: | id | value1 | value2 | | | : | | | 1 | 100 | 0 | | 2 | 101 | 1 | | 3 | 102 | 1 | B表: | value1 | | | | ...
分类:
其他好文 时间:
2020-01-27 18:55:28
阅读次数:
433
广州楼盘数据柱状图可视化 楼盘的价格评估在房地产中发挥着至关重要的作用。楼盘数据的可视化,则可使数据一目了然。 需要准备的数据有: 广州楼盘.xls、 国道.shp、 省道.shp、 河流.shp、 广东省.shp、 广州市.shp 1加载数据 (1)打开ArcMap,【添加数据】,选择“国道.sh ...
分类:
其他好文 时间:
2020-01-27 17:17:41
阅读次数:
160