码迷,mamicode.com
首页 >  
搜索关键字:elk kafka rsyslog flume    ( 6983个结果
ubuntu与登录有关的log配置信息
1. 所有sudo, sshd, sftp登录的信息都在auth.log中。2. pam的配置是在/etc/pam.conf与/etc/pam.d中,在文件夹pam.d对cron, sudo,sshd等进行了配置。3. cron是用rsyslog来记录log,配置在/etc/rsyslog.d/50...
分类:其他好文   时间:2014-06-28 17:18:30    阅读次数:198
Ubuntu系列Crontab日记记录
修改rsyslog文件,将/etc/rsyslog.d/50-default.conf 文件中的#cron.*前的#删掉重启rsyslog服务service rsyslog restart重启cron服务service cron restartsudo tail -f /var/log/cron.l...
分类:其他好文   时间:2014-06-22 23:23:28    阅读次数:216
【Java】Appache Flume 中文介绍
前话 Flume OG 也就是 Flume original generation 由 Cloudera公司开发,最新版本是0.9.4。而Flume NG 就是 Flume next generation, 大概在2011年6月份由 Cloudera贡献给开源社区,目前属于Apache的一个incubator project。官网:http://flume.appache.org/...
分类:移动开发   时间:2014-06-22 10:33:01    阅读次数:266
HAproxy负载均衡-配置篇
安装HAProxy及环境配置红帽的yum源已经为我们提供了最新版本的haproxy,所以我们只需要yum安装即可[root@node1~]#yuminstallhaproxy-y配置haproxy的日志编辑rsyslog[root@node1haproxy]#vim/etc/rsyslog.conf将以下参数开启$ModLoadimudp$UDPServerRun514加入参数:*.info;mail..
分类:其他好文   时间:2014-06-22 09:53:49    阅读次数:280
KAFKA分布式消息系统
Kafka[1]是linkedin用于日志处理的分布式消息队列,linkedin的日志数据容量大,但对可靠性要求不高,其日志数据主要包括用户行为(登录、浏览、点击、分享、喜欢)以及系统运行日志(CPU、内存、磁盘、网络、系统及进程状态)。当前很多的消息队列服务提供可靠交付保证,并默认是即时消费(不适...
分类:其他好文   时间:2014-06-21 06:22:00    阅读次数:273
Apache Kafka —一个不同的消息系统
Apache已经发布了Kafka 0.8,也是自从成为Apache软件基金会的顶级项目后Kafka的 第一个主版本。 Apache Kafka是发布—订阅消息传递,实现了分布式提交日志,适用于离线和在线消息消费。它最初由LinkedIn开发的消息系统,用于低延迟的收集和发送大 量的事件和日志数据。最...
分类:其他好文   时间:2014-06-21 06:21:23    阅读次数:253
Flume概述和简单实例
##Flume概述[Flume](http://flume.apache.org/)是一个分布式、可靠、和高可用的海量日志采集、聚合和传输的系统。支持在日志系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据进行简单处理,并写到各种数据接受方(比如文本、HDFS、Hbase等)的能力 ...
分类:其他好文   时间:2014-06-20 22:18:57    阅读次数:309
kafka集群配置与测试
刚接触一些Apache Kafka的内容,用了两天时间研究了一下,仅以此文做相关记录,以供学习交流。概念:kafka依赖的项:1.硬件上,kafka利用线性存储来进行硬盘直接读写。2.kafka没有使用内存作为缓存。3.用zero-copy。4.Gzip和Snappy压缩,5.kafka对事务处理比...
分类:其他好文   时间:2014-06-20 18:18:45    阅读次数:329
开源日志系统比较:scribe、chukwa、kafka、flume
1. 背景介绍许多公司的平台每天会产生大量的日志(一般为流式数据,如,搜索引擎的pv,查询等),处理这些日志需要特定的日志系统,一般而言,这些系统需要具有以下特征:(1) 构建应用系统和分析系统的桥梁,并将它们之间的关联解耦;(2) 支持近实时的在线分析系统和类似于Hadoop之类的离线分析系统;(...
分类:其他好文   时间:2014-06-20 16:18:14    阅读次数:294
HAProxy + Keepalived + Flume 构建高性能高可用分布式日志系统
一、HAProxy简介 HAProxy提供高可用性、负载均衡以及基于TCP和HTTP应用的代 理,支持虚拟主机,它是免费、快速并且可靠的一种解决方案。HAProxy特别适用于那些负载特大的web站点,这些站点通常又需要会话保持或七层处理。 HAProxy运行在当前的硬件上,完全可以支持数以万计的并发...
分类:其他好文   时间:2014-06-20 15:54:21    阅读次数:196
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!