一.基本概念 Hive分桶: 1.概念 分桶表是对列值取哈希值的方式,将不同数据放到不同文件中存储。对于hive中每一个表、分区都可以进一步进行分桶。(可以对列,也可以对表进行分桶)由列的哈希值除以桶的个数来决定每条数据划分在哪个桶中。 2.设置 set hive.enforce.bucketing ...
分类:
其他好文 时间:
2018-01-15 00:23:45
阅读次数:
196
需求场景:部署一套sftp环境,用于客户上传电子文件(合同文件或视频文件等),文件上传到sftp后立即实时同步到业务应用服务器上。为了安全考虑,文件在首次同步后,后续再同步时就不覆盖同名文件,这样做是为了防止文件被篡改! 部署思路:1)sftp高可用环境部署,参考:http://www.cnblog ...
分类:
其他好文 时间:
2018-01-13 00:23:09
阅读次数:
186
本实验用4台虚拟机,2台做负载均衡,2台做web服务器 lb01:192.168.0.235 --主负载均衡器 lb02:192.168.0.236 --备负载均衡器 web1:192.168.0.237 web2:192.168.0.238 VIP:192.168.0.248 一. 在lb01和l ...
分类:
其他好文 时间:
2018-01-09 16:44:49
阅读次数:
226
一、VFS作为内核子系统,为用户空间程序提供了文件系统相关的接口。所有实际文件系统依赖VFS共存,依靠VFS系统工作。 1、VFS提供通用文件系统接口:用户空间程序可以利用标准的UNIX文件系统调用,如open()\read()\write(),对不同物理介质上的不同文件系统进行操作。 2、VFS提 ...
分类:
其他好文 时间:
2018-01-05 19:54:10
阅读次数:
112
转载 2014年12月16日 19:16:54 1937 转载 2014年12月16日 19:16:54 1937 [功能] 以行的方式比较文本文件的异同处 若要比较目录,则会比较相同文件名的文件[参数] -b 忽略空格数目的不同 -B 忽略空白行 -y 在两侧显示两个文件 --left-colum ...
分类:
其他好文 时间:
2018-01-03 16:02:27
阅读次数:
143
安装JDK 选择安装目录 安装过程中会出现两次 安装提示 。第一次是安装 jdk ,第二次是安装 jre 。建议两个都安装在同一个java文件夹中的不同文件夹中。(不能都安装在java文件夹的根目录下,jdk和jre安装在同一文件夹会出错) 如下图所示 安装JDK 选择安装目录 安装过程中会出现两次 ...
分类:
其他好文 时间:
2017-12-28 16:02:57
阅读次数:
171
一, 我们平时在项目开发过程中会根据不同的环境打包不同的文件。如数据库连接文件,三方接口文件,日志文件等等,他们在开发,测试和线上环境的配置不一样,部署测试环境或线上环境都要改相应文件,很繁琐。可以利用maven maven-resources-plugin插件帮我们简化这一过程。 二.配置pom文 ...
分类:
其他好文 时间:
2017-12-27 14:04:02
阅读次数:
195
文件操作 1,文件路径 绝对路径:从根目录到目标文件路径 相对路径:根目录相同文件夹下的文件名 2,编码方式:utf-8,gbk....... 3,操作方式:只读,只写,追加,读写,写读..... 文件读取:以什么编码方式存储的就以什么编码方式打开 只读: r(Unicode类型) rb(bytes ...
分类:
编程语言 时间:
2017-12-25 20:57:56
阅读次数:
146
昨日完成: 修复上传头像问题; 增加物流信息、快递员信息数据库,以及其实现类 增加“天使快递员”申请窗口 遇到问题: 用户上传头像会把相同文件名的头像覆盖,解决方案:根据ip +时间戳 + 随机数自动生成唯一文件名 今日计划: 完善“天使快递员”功能。 ...
分类:
其他好文 时间:
2017-12-23 11:56:43
阅读次数:
111
我现在在学习,微信小程序开发,刚刚看看一篇对我特别有用的博客文章,我就把摘抄过来了,好好的学习一下。 序言 开始开发应用号之前,先看看官方公布的「小程序」教程吧!(以下内容来自微信官方公布的「小程序」开发指南) 本文档将带你一步步创建完成一个微信小程序,并可以在手机上体验该小程序的实际效果。这个小程 ...
分类:
微信 时间:
2017-12-22 13:35:29
阅读次数:
286