欢迎转载,转载请注明出处,徽沪一郎。概要本篇主要阐述在TaskRunner中执行的task其业务逻辑是如何被调用到的,另外试图讲清楚运行着的task其输入的数据从哪获取,处理的结果返回到哪里,如何返回。准备spark已经安装完毕spark运行在local mode或local-cluster mod...
分类:
其他好文 时间:
2014-07-07 14:20:42
阅读次数:
267
欢迎转载,转载请注明出处,徽沪一郎。楔子在Spark源码走读系列之2中曾经提到Spark能以Standalone的方式来运行cluster,但没有对Application的提交与具体运行流程做详细的分析,本文就这些问题做一个比较详细的分析,并且对在standalone模式下如何实现HA进行讲解。没有...
分类:
其他好文 时间:
2014-07-07 14:05:03
阅读次数:
352
heartbeat+drbd+mysql是一种早期的mysql高可用技术。资料来源:http://www.drbd.orgDRBD原理:DRBD是对磁盘块操作的复制,可看做网络raid1。不复制磁盘内容,只复制操作。原理可见下图架构描述服务器列表 192.168.1.82192.168.1.1...
分类:
数据库 时间:
2014-07-03 00:37:22
阅读次数:
584
本文仅针对RabbitMQ与Redis做队列应用时的情况进行对比具体采用什么方式实现,还需要取决于系统的实际需求简要介绍RabbitMQRabbitMQ是实现AMQP(高级消息队列协议)的消息中间件的一种,最初起源于金融系统,用于在分布式系统中存储转发消息,在易用性、扩展性、高可用性等方面表现不俗。...
分类:
其他好文 时间:
2014-07-02 10:35:35
阅读次数:
243
环境
CentOS
Mysql 5.1
前提
安装了EPEL,具体安装步骤请参照
http://blog.csdn.net/robinsonmhj/article/details/36184863
机器列表
机器IP
机器名
192.168.0.135
db1
192.168.0.136
monitor
19...
分类:
数据库 时间:
2014-07-02 07:25:58
阅读次数:
398
如下介绍了data guard的基础知识,整理自网络: DataGurad通过冗余数据来提供数据保护,DataGurad通过日志同步机制保证冗余数据和主数据之前的同步,这种同步可以是实时,延时,同步,异步多种形式。DataGurad常用于异地容灾和小企业的高可用性方案,虽然可以在Standby机.....
分类:
其他好文 时间:
2014-07-01 19:46:21
阅读次数:
338
负载均衡是集群部署中的一种,通过多个节点来承担邮件服务的工作,每个获取Web页面的新请求都被动态路由到一个负载较低的节点上。即把负载压力根据某种算法合理分配到集群中的每一台计算机上,以减轻主服务器的压力,降低对主服务器的硬件和软件要求,适用于大容量用户使用。集群技术解析集群(Cluster)技术是指...
分类:
其他好文 时间:
2014-07-01 18:00:42
阅读次数:
267
监听和替换多台服务器之间的来回切换一.安装tar zxvf keepalived-1.1.15.tar.gzcd keepalived-1.1.15./configure --prefix=/usr/local/keepalivedmake && make install# 这段配置只是为了使用的方...
分类:
其他好文 时间:
2014-07-01 17:48:39
阅读次数:
215
配置mongodb分片群集(sharding cluster)Sharding cluster介绍这是一种可以水平扩展的模式,在数据量很大时特给力,实际大规模应用一般会采用这种架构去构建monodb系统。要构建一个 MongoDB Sharding Cluster,需要三种角色:Shard Serv...
分类:
数据库 时间:
2014-06-30 22:41:02
阅读次数:
285
故障重现:某集团准备测试使用SCVMM2012R2来管理当前企业内部异构虚拟环境及群集,计划测试后正式上线,测试途中,添加了一个现有的Hyper-v群集,But,添加失败了,在SCVMM中,无法删除失败的群集,而且继续添加群集。解决思路:首先尝试使用Powershell语句,强行Remove群集,..
分类:
其他好文 时间:
2014-06-29 21:11:05
阅读次数:
424