最初,Kafka实际上是LinkedIn用于日志处理的分布式消息队列,现今,Kafka主要用于处理活跃的流式数据,如分析用户的行为,对用户搜索关键词进行统计以便分析出当前的流行趋势,存数据库浪费,而直接用传统的存硬盘方式效率又低下的业务数据也可以使用Kafka的分布式进行存储。...
                            
                            
                                分类:
其他好文   时间:
2015-06-18 19:57:08   
                                阅读次数:
240
                             
                    
                        
                            
                            
                                Kafka[1]是linkedin用于日志处理的分布式消息队列,linkedin的日志数据容量大,但对可靠性要求不高,其日志数据主要包括用户行为(登录、浏览、点击、分享、喜欢)以及系统运行日志(CPU、内存、磁盘、网络、系统及进程状态)。当前很多的消息队列服务提供可靠交付保证,并默认是即时消费(不适...
                            
                            
                                分类:
其他好文   时间:
2015-06-17 11:04:37   
                                阅读次数:
132
                             
                    
                        
                            
                            
                                一、引言 在上一专题中,商家发货和用户确认收货功能引入了消息队列来实现的,引入消息队列的好处可以保证消息的顺序处理,并且具有良好的可扩展性。但是上一专题消息队列是基于内存中队列对象来实现,这样实现有一个弊端,就是一旦服务重启或出现故障时,此时消息队列中的消息会丢失,并且也记录不了日志。所以就会出现....
                            
                            
                                分类:
Web程序   时间:
2015-06-16 10:44:25   
                                阅读次数:
125
                             
                    
                        
                            
                            
                                1、缘起;2、分布式消息队列功能设计;3、Redis功能分析;4、代码实现。...
                            
                            
                                分类:
其他好文   时间:
2015-05-15 06:46:33   
                                阅读次数:
206
                             
                    
                        
                            
                            
                                纯代码干货:访问Redis的工具类;队列接口;队列的Redis实现类;获取队列实例的工具类;向队列中添加任务的代码;从队列中取出任务执行的代码。...
                            
                            
                                分类:
其他好文   时间:
2015-05-15 06:46:28   
                                阅读次数:
522
                             
                    
                        
                            
                            
                                kafka是一个开源的分布式消息队列他提供可靠的集群容错机制,并保证故障切换时的数据完整性。下面简单记录一下安装步骤和常用命令。1、安装http://kafka.apache.org/documentation.html下载压缩包并解压可以解压到 /usr/local/kafka2、配置vim co...
                            
                            
                                分类:
其他好文   时间:
2015-05-14 23:39:51   
                                阅读次数:
20804
                             
                    
                        
                            
                            
                                1 Gearman简介
1.1 概况
   Gearman是一个用来把工作委派给其他机器、分布式的调用更适合做某项工作的机器、并发的做某项工作在多个调用间做负载均衡、或用来在调用其它语言的函数的系统。
   
1.2 组成
    Gearman是一个分发任务的程序架构,由三部分组成:
1)Gearman client:提供gearman client API给应用程序调用。API...
                            
                            
                                分类:
系统相关   时间:
2015-05-14 14:24:40   
                                阅读次数:
245
                             
                    
                        
                            
                            
                                Redis是什么鬼?性能如何?是否有便于实现队列的数据类型?“事务隔离级别”如何控制?如何实现HA和Sharding?持久化方面会有哪些问题?...
                            
                            
                                分类:
其他好文   时间:
2015-05-14 07:32:36   
                                阅读次数:
4567
                             
                    
                        
                            
                            
                                源:EQueue - 一个C#写的开源分布式消息队列的总体介绍EQueue - 一个纯C#写的分布式消息队列介绍2EQueue - 详细谈一下消息持久化以及消息堆积的设计
                            
                            
                         
                    
                        
                            
                            
                                一年前,当我第一次开发完EQueue后,写过一篇文章介绍了其整体架构,做这个框架的背景,以及架构中的所有基本概念。通过那篇文章,大家可以对EQueue有一个基本的了解。经过了1年多的完善,EQueue无论是功能上还是成熟性上都完善了不少。所以,希望再写一篇文章,介绍一下EQueue的整体架构和关键特...