最近涌现出各种各样能帮助你理解日志的新工具,有类似 Scribe、Logstash 这样的开源项目,也有类似 Splunk 的预付费工具,还有托管服务如 SumoLogic 和 PaperTrail。这些工具的共同点是对日志数据进行清洗,在大量...
分类:
其他好文 时间:
2015-07-09 06:23:34
阅读次数:
122
最近在做日志分析这块儿,要使用 Logstash+Elasticsearch+Kibana 实现日志的导入、过滤及可视化管理,官方文档写的不够详细,网上的文章大多要么是针对Linux系统的用法,要么就是抄袭别人的配置大都没法运行。费了很大劲才搞定了这仨东西,写一篇用法心得,废话不多说,进入主题。
首先,你的电脑上要装Java 的JDK环境,要使用 Logstash+Elastic...
介绍
这套系统,logstash负责收集处理日志文件内容存储到elasticsearch搜索引擎数据库中。kibana负责查询elasticsearch并在web中展示。
logstash收集进程收获日志文件内容后,先输出到redis中缓存,另一logstash处理进程从redis中读出并转存到elasticsearch中,以解决读快写慢速度不一致问题。...
分类:
其他好文 时间:
2015-06-30 12:55:52
阅读次数:
204
配置OSSECSYSLOG输出(所有agent)编辑ossec.conf文件(默认为/var/ossec/etc/ossec.conf)在ossec.conf中添加下列内容(10.0.0.1为接收syslog的服务器)<syslog_output>
<server>10.0.0.1</server>
<port>9000</port>
<format>default<..
分类:
其他好文 时间:
2015-06-26 13:10:13
阅读次数:
300
使用logstash的时候,为了更细致的切割日志,会写一些正则表达式。 使用方法 input { file { type => "billin" path => "/data/logs/product/resul...
分类:
其他好文 时间:
2015-06-24 23:53:26
阅读次数:
6122
最近搞了一个logstash kafka elasticsearch kibana 整合部署的日志收集系统。部署参考lagstash + elasticsearch + kibana 3 + kafka 日志管理系统部署 02 上线过程中有一些环节,觉得还是值的大家注意的比如:1,应用运维和研发人员...
分类:
其他好文 时间:
2015-06-19 22:58:06
阅读次数:
224
LEK - logstash + elasticsearch + KibanaElasticsearch, Logstash, and Kibana — designed to take data from any source and search, analyze, and visualize ...
分类:
其他好文 时间:
2015-06-18 17:11:17
阅读次数:
209
大型日志平台搭建
Java 环境部署
网上很多教程,此处只做出测试
java -version
java version "1.7.0_45"
Java(TM) SE Runtime Environment (build 1.7.0_45-b18)
Java HotSpot(TM) 64-Bit Server VM (build 24.45-b08, mixed mo...
分类:
其他好文 时间:
2015-06-17 21:37:56
阅读次数:
284
logstash(1.4.2)是一个不错的日志监控与分析工具,数据通过logstash使用后端的ElasticSearch(1.1.1)集群完成数据索引,以供后续的查询、分析使用。版本必须保持兼容否则报一下错误 Upgrade?...
分类:
其他好文 时间:
2015-06-09 14:14:10
阅读次数:
400
ELK日志分析系统环境:centos6.5准备好ELK三个安装包,官网下1、安装jdk网上有的教程叫下载oracle的jdk,其实没必要,系统自带的openjdk就行了,不过需要先看下版本,1.7是不行的,要1.8以上升级到1.8先删除1.7版本#yumremove-yjava-1.7.0-openjdk然后安装1.8版本,看到下面信..
分类:
其他好文 时间:
2015-06-02 06:57:18
阅读次数:
1305