1. 集群节点及服务分配 说明: 1.1. 在每个节点上启动两个clickhouse服务(后面会详细介绍如何操作这一步),一个数据分片,一个数据备份,为了确保宕机数据一致性,数据分片和数据备份不能同一节点,比如gawh201上的shard不能备份在gawh201的replica,如果这样做,当gaw ...
分类:
其他好文 时间:
2019-12-10 13:08:05
阅读次数:
328
RocketMQ是阿里开源的分布式消息中间件,跟其它中间件相比,RocketMQ的特点是纯JAVA实现;集群和HA实现相对简单;在发生宕机和其它故障时消息丢失率更低。 一.RocketMQ专业术语 Producer(生产者) 消息生产者,位于用户的进程内,Producer通过NameServer获取 ...
分类:
其他好文 时间:
2019-12-07 23:06:19
阅读次数:
134
有没有好奇过redis、memcache等是怎么实现集群负载均衡的呢? 其实他们都是通过一致性hash算法实现节点调度的。 讲一致性hash算法前,先简述一下求余hash算法: hash(object)%N 一个缓存服务器宕机了,这样所有映射到这台服务器的对象都会失效,我们需要把属于该服务器中的缓存 ...
分类:
编程语言 时间:
2019-12-06 21:33:07
阅读次数:
107
任何系统都会有各种各样的问题,有些是系统本身设计问题,有些却是使用姿势问题。HBase也一样,在真实生产线上大家或多或少都会遇到很多问题,有些是HBase还需要完善的,有些是我们确实对它了解太少。总结起来,大家遇到的主要问题无非是Full GC异常导致宕机问题、RIT问题、写吞吐量太低以及读延迟较大 ...
分类:
其他好文 时间:
2019-12-06 17:36:30
阅读次数:
107
Linux集群从功能分类 高可用集群,高可用集群通常为俩台服务器,一台工作,另一台冗余,当提供服务器的服务器宕机时候,冗余服务器将接替宕机的服务器继续提供服务。实现高可用的集群开源软件有Heatbeat和Keepalived。 负载均衡集群,需要有一台服务器作为分发器,它负载把用户的请求分发给后端的 ...
分类:
其他好文 时间:
2019-12-05 18:53:26
阅读次数:
92
主题: 1、kafka是写磁盘还是写内存? 2、kafka究竟是由 consumer 从 broker 那里拉数据,还是由 broker 将数据推到 consumer? 3、如何区分已消费(consumed)的记录? 4、kafka用什么方法保障持久化的低延迟和高效率? 5、kafka的消息保证有几 ...
分类:
其他好文 时间:
2019-12-05 18:29:32
阅读次数:
106
作者:中华石杉 面试题 redis 的持久化有哪几种方式?不同的持久化机制都有什么优缺点?持久化机制具体底层是如何实现的? 面试官心理分析 redis 如果仅仅只是将数据缓存在内存里面,如果 redis 宕机了再重启,内存里的数据就全部都弄丢了啊。你必须得用 redis 的持久化机制,将数据写入内存 ...
分类:
其他好文 时间:
2019-12-04 01:36:38
阅读次数:
66
目的:无法阻止宕机的缓存被使用,但可以尽可能保证正常的服务器一切如常。[取余的方式一旦有机器增减,数据位置100%失效,缓存雪崩]场景:缓存服务器集群原理:节点在0-2^32圜环上占位,每次使用HASH(KEY)无限趋近的节点作为落地。【虚拟节点的目的是为了尽可能保持数据平衡,3台机器很容易失衡导致某一台机器数据过载。】classconsistentHash{private$nodes;priva
分类:
编程语言 时间:
2019-11-30 12:09:45
阅读次数:
79
MHA高可用工作过程 MHA对主从节点进行监控,发现主节点故障,会提升一个同步度较高的从节点为新的主;并且应用同步度高的从节点的中继日志到其他从节点上;如果主节点的故障并非是硬件造成,可以进行ssh连接,那么MHA服务器(安装MHA-manager包的主机)会进行故障转移,会从宕机的主机节点中保存二 ...
分类:
数据库 时间:
2019-11-27 19:33:21
阅读次数:
116
4. 分布式事务解决方案之TCC 4.1. 什么是TCC事务 TCC是Try、Confirm、Cancel三个词语的缩写,TCC要求每个分支事务实现三个操作 :预处理Try、确认Confirm、撤销Cancel。Try操作做业务检查及资源预留,Confirm做业务确认操作,Cancel实现一个与Tr ...
分类:
其他好文 时间:
2019-11-26 22:47:52
阅读次数:
130