最近有一个将 mysql 数据导入到 MongoDB 中的需求,打算使用 Kettle 工具实现。本文章记录了数据导入从0到1的过程,最终实现了每秒钟快速导入约 1200 条数据。一起来看吧~ 一、Kettle 连接图 简单说下该转换流程,增量导入数据: <! more 1)根据 source 和 ...
分类:
数据库 时间:
2020-01-24 23:40:06
阅读次数:
116
一、Guava介绍 Guava是Google guava中的一个内存缓存模块,用于将数据缓存到JVM内存中。实际项目开发中经常将一些公共或者常用的数据缓存起来方便快速访问。 Guava Cache是单个应用运行时的本地缓存。它不把数据存放到文件或外部服务器。如果不符合需求,可以选择Memcached ...
分类:
编程语言 时间:
2020-01-14 13:24:40
阅读次数:
91
覆盖率高不一定代表质量好,但覆盖率不高的代码质量风险肯定很高 ...
分类:
其他好文 时间:
2020-01-13 16:29:27
阅读次数:
80
有限状态机功能强大,但是不代表提倡;借助综合工具实现电路功能,对状态转移图或者verilog描述过程产生错误或者错误理解的话可能会出问题。 对状态转移图充分理解 有限状态机的状态不能太多,要尽可能小。 设计一个 三大方程:输出方程、状态转移方程、激励方程; moore型速度快,仅受限于输出逻辑决定, ...
分类:
其他好文 时间:
2020-01-07 11:41:05
阅读次数:
97
需求说明 对于带有层级结构的数据中,用户为了能够更加清晰直观地查看,往往需要在数据展示时将层级展示出来,比如常见的省、市、县结构,或者一些科目中也会带有层级。通常,我们管这种形式叫做树状报表。在查询统计类报表中可以使用报表的左主格来实现,但是由于填报模型更加侧重于数据处理,格式设计上有别于查询统计报 ...
分类:
其他好文 时间:
2019-12-29 15:21:36
阅读次数:
82
需求说明 对于带有层级结构的数据中,用户为了能够更加清晰直观地查看,往往需要在数据展示时将层级展示出来,比如常见的省、市、县结构,或者一些科目中也会带有层级。通常,我们管这种形式叫做树状报表。在查询统计类报表中可以使用报表的左主格来实现,但是由于填报模型更加侧重于数据处理,格式设计上有别于查询统计报 ...
分类:
其他好文 时间:
2019-12-27 17:59:44
阅读次数:
70
需求说明 对于带有层级结构的数据中,用户为了能够更加清晰直观地查看,往往需要在数据展示时将层级展示出来,比如常见的省、市、县结构,或者一些科目中也会带有层级。通常,我们管这种形式叫做树状报表。在查询统计类报表中可以使用报表的左主格来实现,但是由于填报模型更加侧重于数据处理,格式设计上有别于查询统计报 ...
分类:
其他好文 时间:
2019-12-15 10:27:19
阅读次数:
78
基础架构 平时我们使用数据库,看到的通常都是一个整体, 例如下面: 我们看到的只是输入一条语句,返回一个结果,那么这条语句在MySQL内部的执行过程是如何的呢? 下面是 的经典架构图 大致可以分为4层: + 连接层 最上层是一些客户端和连接服务,包含本地socket和大多数基于客户端/服务端工具实现 ...
分类:
数据库 时间:
2019-12-15 10:22:48
阅读次数:
89
Linux服务器的运维管理,离不开命令行。现在可以通过“宝塔面板”这样的管理工具,实现界面化操作,简化了运维人员的工作量。 下面进入正题: 一、宝塔面板安装,对于Linux服务器的要求 内存:512M以上,推荐768M以上(纯面板约占系统60M内存) 硬盘:100M以上可用硬盘空间(纯面板约占20M ...
分类:
系统相关 时间:
2019-12-13 12:07:07
阅读次数:
127
工作中,使用ansible等自动化运维工具实现服务器批量自动化运维管理,需要先解决管理端和被管理端的免密码登录,可以脚本实现ssh基于key的验证,代码如下: 将需要部署的机器IP写入hosts.txt文件中,每行一个 ...
分类:
其他好文 时间:
2019-12-11 22:00:08
阅读次数:
159