前阵子从支付宝转账1万块钱到余额宝,这是日常生活的一件普通小事,但作为互联网研发人员的职业病,我就思考支付宝扣除1万之后,如果系统挂掉怎么办,这时余额宝账户并没有增加1万,数据就会出现不一致状况了。 上述场景在各个类型的系统中都能找到相似影子,比如在电商系统中,当有用户下单后,除了在订单表插入一条记录外,对应商品表的这个商品数量必须减1吧,怎么保证?!在搜索广告系统中,当用户点击某广告后,除了在...
分类:
其他好文 时间:
2015-12-10 19:44:01
阅读次数:
189
作者 郭俊 发布于infoq 2015年3月10日Kafka是由LinkedIn开发的一个分布式的消息系统,使用Scala编写,它以可水平扩展和高吞吐率而被广泛使用。目前越来越多的开源分布式处理系统如Cloudera、Apache Storm、Spark都支持与Kafka集成。InfoQ一直在紧.....
分类:
其他好文 时间:
2015-11-27 19:16:09
阅读次数:
223
接上一部分:一共81个,开源大数据处理工具汇总(上),第二部分主要收集整理的内容主要有日志收集系统、消息系统、分布式服务、集群管理、RPC、基础设施、搜索引擎、Iaas和监控管理等大数据开源工具。 日志收集系...
分类:
其他好文 时间:
2015-11-16 17:46:31
阅读次数:
309
1. RabbitMQ简介RabbitMQ是一个在AMQP基础上完整的,可复用的企业消息系统。他遵循Mozilla Public License开源协议2.安装与部署RabbitMQ的安装依赖Erlang语言开发包。2.1下载安装Erlang下载:http://www.erlang.org/down...
分类:
其他好文 时间:
2015-11-16 12:19:45
阅读次数:
179
Kafka 是一个高吞吐、分布式、基于发布订阅的消息系统,利用Kafka技术可在廉价PC Server上搭建起大规模消息系统。Kafka具有消息持久化、高吞吐、分布式、多客户端支持、实时等特性,适用于离线和在线的消息消费Kakfa特点:解耦:消息系统在处理过程中插入一个隐含、基于数据的接口层。冗余....
分类:
其他好文 时间:
2015-11-09 20:58:24
阅读次数:
440
阿里阿里的开源项目很多,这也跟@淘宝正明的开源态度密不可分。有很多重量级的项目,例如LVS、Tengine,或者很有实践价值的中间件,例如 MetaQ(分布式消息系统)、dubbo(RPC框架)、cobar(数据库中间件),或者是Java世界的工具,例如druid、fastjson。都说国内Java...
分类:
其他好文 时间:
2015-11-08 15:12:40
阅读次数:
469
作者:大数据女神-诺蓝(微信公号:dashujunvshen)。本文是36大数据专稿,转载必须标明来源36大数据。 接上一部分:一共81个,开源大数据处理工具汇总(上),第二部分主要收集整理的内容主要有日志收集系统、消息系统、分布式服务、集群管理、RPC、基础设施、搜索引擎、Iaas和监控管理等大....
分类:
其他好文 时间:
2015-10-13 12:09:51
阅读次数:
305
我们为什么要搭建该系统 Kafka是一个消息系统,原本开发自LinkedIn,用作LinkedIn的活动流(activity stream)和运营数据处理管道(pipeline)的基础。现在它已为多家不同类型的公司作为多种类型的数据管道(dat...
分类:
其他好文 时间:
2015-10-03 18:20:27
阅读次数:
191
RabbitMQ是一个在AMQP基础上完整的,可复用的企业消息系统。它可以用于大型软件系统各个模块之间的高效通信,支持高并发,支持可扩展。前提是你的RabbitMq服务已搭建好,制作一个winform窗体如图入队列(生产者): ServerAddress = this.ServerAddress.T...
分类:
其他好文 时间:
2015-09-23 19:20:40
阅读次数:
191
一、Kafka介绍 Kafka是Linkin在2010年开源的分布式发布订阅消息系统,Kafka是高吞吐量的消息订阅系统。二、Kafka结构 Kafka由三部分构成,producer、broker、consumer,即producer生成消息,broker存储消息,consumer消费消息,其中.....
分类:
其他好文 时间:
2015-09-17 00:57:21
阅读次数:
135