实时计算里,需要对日志实时收集,logstash可以做到。目前的版本是1.4.2,官方文档在http://www.logstash.net/docs/1.4.2/,里面有详细的配置说明,使用也很简单。这里主要对logstash的可靠性做了简单的验证intput为file,kill掉logstas.....
分类:
其他好文 时间:
2014-08-17 22:44:32
阅读次数:
2054
TCP提供一种面向连接的、可靠的字节流服务。面向连接意味着两个使用TCP的应用(通常是一个客户和一个服务器)在彼此交换数据包之前必须先建立一个TCP连接。这一过程与打电话很相似,先拨号振铃,等待对方摘机说“喂”,然后才说明是谁。在一个TCP连接中,仅有两方进行彼此通信。广播和多播不能用于TCP。
TCP通过下列方式来提供可靠性:
1.面向字节流和缓存机制:应用数据被分割成TCP认为最适...
分类:
其他好文 时间:
2014-08-17 18:38:22
阅读次数:
193
(注:本文所讲的网络协议只针对TCP协议)背景:开发一个C/S的应用势必需要服务端和客户端的适配,包括网络协议、数据传输格式、业务处理的适配。由于服务端承载着大量的客户端,需要高并发、高性能、高可靠性,在我们的认知里往往认为服务端的网络模型和架构设计很复杂。但是..
分类:
其他好文 时间:
2014-08-17 17:10:43
阅读次数:
185
一 传输控制协议(TCP)是一种面向连接的、可靠的、基于字节流的传输层通信协议。1 面向连接意味着两个使用TCP的应用(通常是一个客户端和一个服务器)在彼此交换数据之前必须先建立一个TCP连接。2 TCP通过下列方式来提供可靠性: 1)应用数据被分割程TCP认为合适的数据块。TCP传递给IP的信息....
分类:
其他好文 时间:
2014-08-17 16:50:12
阅读次数:
169
HDFS可靠性冗余副本策略机架策略心跳机制安全模式校验和回收站元数据保护在数据节点启动后,会把本地的文件系统遍历一次,产生一份数据块以及本地文件对应关系的清单叫做块报告,会汇报给NameNodeHadoop机架感知集群中各个节点之间会相互传递信息包心跳机制nameNode周期性从dat..
分类:
其他好文 时间:
2014-08-16 17:15:21
阅读次数:
317
背景知识MongoDB 是用C++写的, 开源的, NoSQL(Not Only SQL)文档数据库.特点:high performance(高性能), high availability(高可靠性), and automatic scaling(自动调整).结构与JSON类似.安装1. 下载安装包...
分类:
数据库 时间:
2014-08-15 14:08:08
阅读次数:
312
首先介绍一下什么是多路径(multi-path)?先说说多路径功能产生的背景,在多路径功能出现之前,主机上的硬盘是直接挂接到一个总线(PCI)上,路径是一对一的关系,也就是一条路径指向一个硬盘或是存储设备,这样的一对一关系对于操作系统而言,处理相对简单,但是缺少了可靠性..
分类:
系统相关 时间:
2014-08-15 13:02:29
阅读次数:
8340
一.TCP简介
TCP提供一种面向连接的,可靠的字节流服务。面对连接意味着两个使用TCP的应用,在彼此交换数据之前必须先建立一个连接。TCP通过以下方式提供可靠性:
1. 应用数据被分割成TCP认为最适合发送的数据块,由TCP传递给IP的信息单位成为报文段。
2. 当TCP发出一个段后,它就启动一个定时器,等待目的端确认收到这个报文段。如果不能及时收到一...
分类:
其他好文 时间:
2014-08-15 12:53:48
阅读次数:
368
前面我们介绍了简单的集群配置实例。在简单实例中,虽然MongoDB auto-Sharding解决了海量存储问题,和动态扩容问题,但是离我们在真实环境下面所需要的高可靠性和高可用性还有一定的距离。下面我们就介绍一个接近实际的解决方案:Shard:使用Replica Sets,来确保数据的可靠性。通过...
分类:
数据库 时间:
2014-08-15 10:39:28
阅读次数:
302
针对当前热门实时计算技术storm的参数设置总结,已经性能测试!...
分类:
其他好文 时间:
2014-08-13 19:06:27
阅读次数:
282