从geoip字段取location的longitude字段 [geoip][location][0] 支持变量内插 "the longitude is %{[geoip][location][0]}" grok表达式： 普通正则：\s+ (?<request_time>\d+(?\.\d+)?)\s ...
分类：
其他好文 时间：
2016-12-01 13:46:21
阅读次数：
130
ElasticSearch存储和搜索LogStash对日志收集Kibana展示
分类：
其他好文 时间：
2016-11-30 23:20:34
阅读次数：
195
LogStash 本身并不维护队列。这里，需要熟练使用本节说的测试方法，针对自己的每一段配置，都确定其性能。LogStash 给自己的线程都设置了单独的线程名称，你可以在 top -H 结果中查看具体线程的负载情况。 摘至：http://udn.yyuap.com/doc/logstash-best ...
分类：
其他好文 时间：
2016-11-30 17:25:02
阅读次数：
138
本文介绍了如何使用成熟的经典架构ELK（即Elastic search，Logstash和Kibana）构建分布式日志监控系统，很多公司采用该架构构建分布式日志系统，包括新浪微博，freewheel，畅捷通等。 背景日志，对每个系统来说，都是很重要，又很容易被忽视的部分。日志里记录了程序执行的关键信 ...
分类：
其他好文 时间：
2016-11-30 14:35:05
阅读次数：
247
elk日志分析与挖掘深入分析 1 为什么要做日志采集？ 2 挖财自己的日志采集和分析体系应该怎么建？ 2.1 日志的采集 2.2 日志的汇总与过滤 2.3 日志的存储 2.4 日志的分析与查询 3 需要解决哪些技术问题？ 3.1 logstash与kafka的对接 3.2 kafka到elastic ...
分类：
其他好文 时间：
2016-11-30 14:26:09
阅读次数：
397
大纲： 一、简介 二、Logstash 三、Redis 四、Elasticsearch 五、Kinaba 一、简介 1、核心组成 ELK由Elasticsearch、Logstash和Kibana三部分组件组成； Elasticsearch是个开源分布式搜索引擎，它的特点有：分布式，零配置，自动发现 ...
分类：
其他好文 时间：
2016-11-30 13:39:06
阅读次数：
4268
在这里，以两台es集群为例。 es集群健康状况有三种状态，这里我们搭建的es集群，只要两台不同时挂掉，数据不会丢失。 举个例子： 比如说现在集群节点es1位主节点，es2位复制分片节点，默认情况下，两台es都接收logstash传过来的日志，是负载均衡的。 如果es1宕掉，es2会被提升为主节点，只 ...
分类：
其他好文 时间：
2016-11-29 13:36:15
阅读次数：
484
logstash是java应用，依赖JDK，首先需要安装JDK，在安装jdk过程中，logstash-2.3.4使用JDK-1.7版本有bug，使用JDK-1.8版本正常，因此我们安装JDK-1.8版本。 安装JDK 官网地址：http://www.oracle.com/technetwork/ja ...
分类：
其他好文 时间：
2016-11-29 11:34:58
阅读次数：
247
ELK日志分析之安装 1.介绍： NRT elasticsearch是一个近似实时的搜索平台，从索引文档到可搜索有些延迟，通常为1秒。 集群 集群就是一个或多个节点存储数据，其中一个节点为主节点，这个主节点是可以通过选举产生的，并提供跨节点的联合索引和搜索的功能。集群有一个唯一性标示的名字，默认是e ...
分类：
其他好文 时间：
2016-11-28 23:29:53
阅读次数：
290
redis作为logstash中的官方broker，既有input插件，还有output插件。 redis input插件 data_type属性： 有三种类型， list －》 BLPOP －－阻塞式列表弹出 channel －》 SUBSCRIBE －－ 指定订阅者 pattern_channe ...
分类：
其他好文 时间：
2016-11-26 20:55:03
阅读次数：
206
