很多程序员,不止.net程序员都有可能会用到SSIS包来处理一些数据流程上的任务。可以说SSIS作为BI下的一个ETL工具,方便易学,而且功能也确实很强大。于是开发OLTP的同事总会到我们这边寻求技术上的支持,更多的时候会问我,当一个SSIS包开发完成之后,都有哪几种方式可以让它运行起来。一直以来我 ...
分类:
其他好文 时间:
2019-01-29 20:41:18
阅读次数:
243
1、测试环境准备[oracle@redhat3 ~]$ uname -aLinux redhat3 2.6.32-573.el6.x86_64 #1 SMP Wed Jul 1 18:23:37 EDT 2015 x86_64 x86_64 x86_64 GNU/Linux[oracle@redha ...
分类:
系统相关 时间:
2019-01-24 16:26:44
阅读次数:
183
纵观任何一家大数据平台的技术架构,总少不了ElasticSearch;ES作为溶合了后端存储、快速检索、OLAP分析等功能的一套开源组件,更绝的是提供了一套集数据采集与前端展现为一体的框架(即ELK), 在我们的应用过程中,与ES集成的前端框架包含有Kibana、Grafana等系统,实际应用过程中 ...
分类:
其他好文 时间:
2019-01-23 17:33:14
阅读次数:
1039
近期阿里开源了Fescar分布式事务中间件, 值得期待. 分布式事务是指一个事务会涉及到到多个应用接口调用, 底层数据表涉及到多个, 但数据库可以是一个或多个, 它是传统单数据库事务在广度上的延伸. 事务并发控制, 在OLTP关系型数据库中, 事务并发控制往往是指事务的隔离性, 在本文中, 指的是应 ...
分类:
其他好文 时间:
2019-01-21 17:05:53
阅读次数:
169
SQL 百万级数据提高查询速度的方法 1.应尽量避免在 where 子句中使用!=或<>操作符,否则将引擎放弃使用索引而进行全表扫描。 2.对查询进行优化,应尽量避免全表扫描,首先应考虑在 where 及 order by 涉及的列上建立索引。3.应尽量避免在 where 子句中对字段进行 null ...
分类:
数据库 时间:
2019-01-20 00:56:36
阅读次数:
226
在介绍 HBase 是不是列式存储数据库之前,我们先来了解一下什么是行式数据库和列式数据库。 行式数据库和列式数据库 在维基百科里面,对行式数据库和列式数据库的定义为:列式数据库是以列相关存储架构进行数据存储的数据库,主要适合于批量数据处理(OLAP)和即时查询。相对应的是行式数据库,数据以行相关的 ...
分类:
数据库 时间:
2019-01-11 18:05:34
阅读次数:
396
项目背景首都信息发展股份有限公司是北京市政府下属的专业信息化科技公司,在过去的18年里,一直以专业的运维能力,保障着2000多万北京市民百姓的京医通、医保卡、医保卡网上申报等民生系统的健康运行。已经积累了10多年运维经验,团队非常稳定,经验非常深厚,有大量的实时在线结算的数据业务(OLTP)。为了适应不同时期不同的运维需求,社保部门也是用了多种运维监控工具。但是仍然存在着这样或那样的各种问题和痛点
分类:
其他好文 时间:
2019-01-08 17:18:13
阅读次数:
181
我们知道 当今的数据处理大致可分为两大类 联机事务处理 OLTP (on-line transaction processing) 以及联机分析处理 OLAP (On-Line Analytical Processing) OLTP 是传统关系型数据库的主要应用 用来执行一些基本的、日常的事务处理 ...
分类:
数据库 时间:
2018-12-30 02:59:47
阅读次数:
301
在大多数SQL Server的工作环境中,尤其是在OLTP环境中,数据库的事务日志性能出现瓶颈时往往会导致事务完成需要更多的时间,此时许多人把原因都归结于I/O子系统,理由是它不能够支撑工作负载产生的的大量的事务日志,然而实际情况却都未必如此。 事务日志写等待时间 对 于事务日志来讲,写操作等待的时 ...
分类:
数据库 时间:
2018-12-30 02:37:23
阅读次数:
178
一.Kylin的概述 官方网址:http://kylin.apache.org/cn/ Apache Kylin?是一个开源的分布式分析引擎,提供Hadoop/Spark之上的SQL查询接口及多维分析(OLAP)能力以支持超大规模数据,最初由eBay Inc. 开发并贡献至开源社区。它能在亚秒内查询 ...
分类:
其他好文 时间:
2018-12-24 02:36:24
阅读次数:
155