set hive.cli.print.header=true;set mapred.max.split.size=256000000;set mapred.min.split.size.per.node=256000000;set mapred.min.split.size.per.rack=256 ...
分类:
数据库 时间:
2018-12-14 19:59:21
阅读次数:
131
create database hive_to_mongodb;add jar /hgx/mongo-hadoop-core-1.5.1.jar /hgx/mongo-hadoop-hive-1.5.1.jar /hgx/mongo-java-driver-3.2.1.jar;add jar /ja ...
分类:
数据库 时间:
2018-12-14 19:56:51
阅读次数:
216
#!/bin/bash #################################### code review heguoxiu@berchina.com 20170504# System Name : 大数据智慧分析平台# Author : heguoxiu# Description : ...
分类:
其他好文 时间:
2018-12-14 19:48:21
阅读次数:
93
导入hdfs建表 use ods_db;CREATE EXTERNAL TABLE BER_O2O_PV(JSON STRING)PARTITIONEDBY(YEARSTRING,MONTHSTRING)STORED AS TEXTFILELOCATION '/ODS/ODS_DB/BER_O2O_ ...
分类:
其他好文 时间:
2018-12-14 19:26:51
阅读次数:
533
参考地址:https://cwiki.apache.org/confluence/display/Hive/LanguageManual+WindowingAndAnalytics 环境准备: 数据: 1、LEAD函数 LEAD (scalar_expression [,offset] [,defa ...
分类:
其他好文 时间:
2018-12-14 13:58:18
阅读次数:
484
1、由于hive的元数据存储在关系型数据库中,先安装mysql mysql官网,选择社区版:https://dev.mysql.com/downloads/mysql/5.7.html#downloads wget下载安装包:wget https://dev.mysql.com/get/Downlo ...
分类:
其他好文 时间:
2018-12-13 23:32:38
阅读次数:
943
Alibaba Java Coding Guidelines 经过247天的持续研发,阿里巴巴于10月14日在杭州云栖大会上,正式发布众所期待的《阿里巴巴Java开发规约》扫描插件!该插件由阿里巴巴P3C项目组研发。P3C是世界知名的反潜机,专门对付水下潜水艇,寓意是扫描出所有潜在的代码隐患。 为了 ...
分类:
其他好文 时间:
2018-12-13 14:28:03
阅读次数:
167
使用TreeNMS数据库管理工具 支持Redis和Memchaed并存同时管理维护,支持集群管理,减少运维成本,提高工作效率 自带环境,免安装。免布署,下载解压即可使用。适用于windows,Linux,Mac ,手机端 还有一个产品叫TreeDMS,支持MySQL,Oracle,PostgreSQ ...
分类:
其他好文 时间:
2018-12-13 10:25:00
阅读次数:
376
InnoDB: InnoDB是 MySQL 默认的事务型存储引擎,也是最重要、使用最广泛的存储引擎。只有在需要它不支持的特性时,才考虑使用其它存储引擎。被设计用来处理大量的短期事务,短期事务大部分情况是正常提交的,很少会被回滚。 InnoDB采用多版本并发控制(MVCC)来支持高并发,并且实现了四个 ...
分类:
数据库 时间:
2018-12-13 01:24:55
阅读次数:
243
1. Combiner概述 2. 自定义Combiner实现步骤 1). 定义一个Combiner继承Reducer,重写reduce方法 2). 在Driver类中添加设置 效果 ...
分类:
其他好文 时间:
2018-12-12 19:39:44
阅读次数:
172