摘要: 背景 Greenplum是一个MPP的数据仓库系统,最大的优点是水平扩展,并且一个QUERY就能将硬件资源的能力发挥到极致。 但这也是被一些用户诟病的一点,因为一个的QUERY就可能占光所有的硬件资源,所以并发一多的话,query相互之间的资源争抢就比较严重。 Greenplum资源隔 背景 ...
分类:
其他好文 时间:
2017-03-27 17:09:43
阅读次数:
366
当业务扩展到一定程度时,服务器的负载能力往往不能胜任当前的业务规模,解决的方法无非是横向扩展和纵向扩展:横向扩展:又称水平扩展(Scale
Out),是通过负载均衡的方式,将压力疏散到后端各个节点服务器;纵向扩展:又称垂直扩展(Scale
Up),简单提高服务器的硬件性能,..
分类:
数据库 时间:
2017-03-22 23:53:36
阅读次数:
398
Kafka是由LinkedIn开发的一个分布式的消息系统,使用Scala编写,它以可水平扩展和高吞吐率而被广泛使用。目前越来越多的开源分布式处理系统如Cloudera、Apache Storm、Spark都支持与Kafka集成。InfoQ一直在紧密关注Kafka的应用以及发展,“Kafka剖析”专栏 ...
分类:
其他好文 时间:
2017-03-21 10:17:25
阅读次数:
175
方案: 将原来的系统 按一定的标准 分为不同的子系统 目标: 提高整个系统的可用性, 子系统耦合减低, 某个子系统出错, 整体系统还是可用 目标: 当某个子系统变大的时候, 可以对这个子系统水平扩展, 而不影响其他系统, 如同前端的组件化开发, 一个组件可以不断去丰富它的功能, 而不会影响到先用其他 ...
分类:
其他好文 时间:
2017-03-08 11:10:59
阅读次数:
115
zookeeper集群 配置多个实例共同构成一个集群对外提供服务以达到水平扩展的目的,每个服务器上的数据是相同的,每一个服务器均可以对外提供读和写的服务,这点和redis是相同的,即对客户端来讲每个服务器都是平等的。 这篇主要分析leader的选择机制,zookeeper提供了三种方式: Leade ...
分类:
其他好文 时间:
2017-02-20 22:34:58
阅读次数:
316
分片(增加服务器,水平扩展)是MongoDB的扩展方式,通过分片能过增加更多的机器来应对不断增加的负载和数据,还不影响应用。 【简介】 分片(sharding)是指将数据拆分,将其分散存在不同的机器上的过程。在关系型数据库中,当一个表太大(超过几亿行数据)时,我们也有分表的做法,和这里的分片是类似的 ...
分类:
数据库 时间:
2017-02-09 11:04:59
阅读次数:
273
E.1 安装Kafka E.1.1 下载Kafka Kafka是由LinkedIn设计的一个高吞吐量、分布式、基于发布订阅模式的消息系统,使用Scala编写,它以可水平扩展、可靠性、异步通信和高吞吐率等特性而被广泛使用。目前越来越多的开源分布式处理系统都支持与Kafka集成,其中Spark Stre ...
分类:
其他好文 时间:
2016-12-21 09:42:46
阅读次数:
222
MongoDB的基本使用 MongoDB特点: 使用BSON存储数据 支持相对丰富的查询操作(相对其他nosql数据库) 支持索引 副本集(支持多个实例/多个服务器运行同个数据库) 分片(数据库水平扩展) 无模式(同个数据文档中的数据可以不一样) 部署简单方便(默认无密码,也带来安全问题) 服务的启 ...
分类:
其他好文 时间:
2016-12-11 03:09:31
阅读次数:
171
总结下负载均衡的常用方案及适用场景 轮询调度 以轮询的方式依次请求调度不同的服务器;实现时,一般为服务器带上权重;这样有两个好处: 优点:实现简单、高效;易水平扩展; 缺点:请求到目的结点的不确定,造成其无法适用于有写的场景(缓存,数据库写) 应用场景:数据库或应用服务层中只有读的场景; 优点:实现 ...
分类:
编程语言 时间:
2016-11-27 23:55:02
阅读次数:
391
30分钟开始分布式系统理论:CAP:一致性可用性分区容错性MongoDB:安装crud索引副本集分片NoSQL:非关系型、分布式、不提供ACID功能技术特点:1、简单数据模型2、元数据和应用数据分离(分不同服务器存储)3、弱一致性优势:1、避免不必要的复杂性2、高吞吐量3、高水平扩展能力和..
分类:
数据库 时间:
2016-11-27 20:36:03
阅读次数:
268