需求;logstash运行在SUSE,LINUX,PPC LINUX,AIX机器上,并监控文件发送日志到KAFKA中去, 问题:在AIX机器上,file插件总是报异常,无法完成数据的读取 NotImplementedError: stat.st_dev unsupported or native s ...
分类：
其他好文 时间：
2016-07-10 23:09:45
阅读次数：
242
最近研究logstash。使用过程中发现logstashtimestamp记录的时间戳为UTC时间。比我们的时区早8个小时。造成发送到es里的数据每天早上8点才创建索引，发送的file的数据每天早上8点自动切割。不符合我们实际的需求。找了两周都没解决这个问题。功夫不负有心人。终于找到一个方法解..
分类：
其他好文 时间：
2016-07-07 22:45:43
阅读次数：
1176
Logstash管道可以配置一个或多个输入插件、过滤器插件和输出插件。其中，输入插件和输出插件是必选的，过滤器插件是可选的。下图是Logstash常见的使用场景。上一节的例子中我们使用标准的输入和输出插件做了简单的示例。接下来我们演示一些复杂的场景。如下图所示是Logstash的..
分类：
其他好文 时间：
2016-07-07 17:35:49
阅读次数：
167
前言：通常情况下，我们将Kafka的日志数据通过logstash订阅输出到ES，然后用Kibana来做可视化分析，这就是我们通常用的ELK日志分析模式。但是基于ELK的日志分析，通常比较常用的是实时分析，日志存个十天半个月都会删掉。那么在一些情况下，我需要将日志数据也存一份到我HDFS，..
分类：
其他好文 时间：
2016-07-06 18:47:15
阅读次数：
850
https://github.com/elastic/beats-dashboards一、介绍filebeat貌似功能笔logstash更好，是下一代的日志收集器。topbeat定期收集系统信息如每个进程信息、负载、内存、磁盘等等，然后将数据发送到elasticsearch进行索引。packetbeat可以分析某个时间段mysql或者mongodb的慢查询..
分类：
其他好文 时间：
2016-07-06 18:37:49
阅读次数：
288
日志类型日志设备/类型说明authpam产生的日志authprivssh,ftp等登录信息的验证信息cron时间任务相关kern内核lpr打印mail邮件mark(syslog)rsyslog服务内部的信息,时间标识news新闻组user用户程序产生的相关信息uucpunixtounixcopy,unix主机之间相关的通讯local1-7自定义的日志设..
分类：
其他好文 时间：
2016-07-05 19:09:46
阅读次数：
391
今天给大家带来的是开源实时日志分析ELK,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。官方网站：https://www.elastic.co其中的3个软件是：Elasticsearch是个开源分布式搜索引擎，它的特点有：分布式，零配置，自动发现，索引自动分片，索引副本机制，restful风格..
分类：
其他好文 时间：
2016-07-03 23:38:44
阅读次数：
364
1. rsyslog rsyslog可记录的日志有 rsyslog可记录的日志有 auth ：(authpriv) 主要与认证有关的机制，例如 login, ssh, su 等需要帐号/密码的咚咚； cron： 就是例行性工作排程 cron/at 等产生讯息记录的地方； daemon： 与各个 da ...
分类：
其他好文 时间：
2016-07-01 18:26:59
阅读次数：
161
Logstash是一个应用程序日志、事件的传输、处理、管理和搜索的平台。你可以用它来统一对应用程序日志进行收集管理，提供Web接口用于查询和统计。Logstash配置要求Logstash支持Java1.7版本以上。启动Logstash[root@Server01bin]#./logstash-e‘input{stdin{}}output{stdout{}}‘
S..
分类：
其他好文 时间：
2016-07-01 16:35:45
阅读次数：
131
装完elk跑起来之后，我的内心几乎是崩溃的，16G内存16核cpu还经常报错。一、logstash和elasticsearch同时报错logstash出现大量报错，可能是es占用heap太多，没有优化es导致的retryingfailedactionwithresponsecode:503{:level=>:warn}toomanyattemptsatsendingevent.droppin..
分类：
其他好文 时间：
2016-06-30 14:40:01
阅读次数：
540
