需求 多个文本文件需要存到 ES 中去。 每一个文件存放为一个 doc。 每一个文件都是多行的，行数不定，且没有固定的内容格式。 实现 可以通过 logstash-filter-multiline 插件，配置 pattern 为 "EOF"，可以实现把每一个文档当作一个 Event 处理。 ...
分类：
其他好文 时间：
2016-05-20 11:50:07
阅读次数：
1920
Elasticsearch是一款提供检索以及相关度排序的开源框架，同时，也支持对存储的文档进行复杂的的统计-聚合。kubana的图标就是基于聚合来绘制的。更多内容请参考Elasticsearch+Logstash+Kibana教程 前言 ES中的聚合被分成两大类：Metrics度量和bucket桶， ...
分类：
其他好文 时间：
2016-05-19 16:25:24
阅读次数：
351
官网地址 本文内容 语法 测试数据 可配置选项 参考资料 date 插件是日期插件，这个插件，常用而重要。 如果不用 date 插件，那么 Logstash 将处理时间作为时间戳。时间戳字段是 Logstash 自己添加的内置字段 @timestamp，在ES中关于时间的相关查询，必须使用该字段，你... ...
分类：
其他好文 时间：
2016-05-18 17:33:08
阅读次数：
414
架构图 ELK 架构图：其中es 是集群，logstash 是单节点(猜想除非使用nginx对log4j的网络输出分发），kibana是单机（用不着做成集群）。 1.拓扑图 2.logstash 收集日志示意图。 3.带有redis的流程图。 ELK部署 1.三种组件下载地址：https://www ...
分类：
其他好文 时间：
2016-05-17 11:29:18
阅读次数：
461
今天网站后台出现504,前台出现此错误信息：[14-May-201612:03:44]WARNING:[poolwww]child25347,script‘/usr/data/ckl-sapi/baiduNotify.php‘(request:"POST/baiduNotify.php")executingtooslow(10.818417sec),logging
[14-May-201612:03:44]WARNING:[poolwww]child25269,script..
分类：
Web程序 时间：
2016-05-14 17:12:04
阅读次数：
483
SLOWLOG subcommand [argument] 什么是 SLOWLOG Slow log 是 Redis 用来记录查询执行时间的日志系统。 查询执行时间指的是不包括像客户端响应(talking)、发送回复等 IO 操作，而单单是执行一个查询命令所耗费的时间。 另外，slow log 保存 ...
分类：
其他好文 时间：
2016-05-13 11:34:48
阅读次数：
147
我们在用Logstash收集日志的时候会碰到日志会错行，这个时候我们需要把错的行归并到上一行，使某条数据完整；也防止因为错行导致其他字段的不正确。
在Logstash-filter插件中，multiline插件可以解决这个问题，举个例子如下：
假如我们的日志形式如下：
2016-04-05 13:39:52.534 1.28.253.193 20160311090433074f5b47c04...
分类：
其他好文 时间：
2016-05-12 18:28:06
阅读次数：
669
项目中监控框架中用到JMXProxyBeat，在此学习已做记录。
官网文档位置https://github.com/radoondas/jmxproxybeat。
JMXProxyBeat
是一个简单的beat，检索tomcat jmx中的指标值的工具。检索出的数据提供给LogStash或者Elasticsearch呈现。jmx指标是通过在tomcat中配置“JMX Proxy Ser...
分类：
其他好文 时间：
2016-05-12 12:51:23
阅读次数：
271
一、ELK说明二、架构图三、规划说明四、安装部署nginx+logstash五、安装部署redis六、安装部署logstashserver七、安装部署elasticsearch集群八、安装kibana一、ELK说明ELKStack是Elasticsearch、Logstash、Kibana三个开源软件的组合。在实时数据检索和分析场合，三者通常是配合..
分类：
其他好文 时间：
2016-05-11 20:03:24
阅读次数：
358
【背景】我们要统一收集日志，统一分析，统一在一个平台上搜索过滤日志！在上一篇中已经完成了ELK的搭建，那么该如何将每台客户端的日志集中到ELK平台中呢？【本系统介绍】ELK--192.168.100.10(这个地方要有FQDN创建SSL证书的时候需要配置FQDN，www.elk.com)被收集日志的客户端..
分类：
其他好文 时间：
2016-05-10 23:48:15
阅读次数：
2647
