(一)logstash是什么?? logstash是一种分布式日志收集框架,开发语言是JRuby,当然是为了与Java平台对接,不过与Ruby语法兼容良好,非常简洁强大,经常与ElasticSearch,Kibana配置,组成著名的ELK技术栈,非常...
分类:
其他好文 时间:
2015-11-05 12:13:45
阅读次数:
223
logstash,elasticsearch,kibana 怎么进行nginx的日志分析呢?首先,架构方面,nginx是有日志文件的,它的每个请求的状态等都有日志文件进行记录。其次,需要有个队列,redis的list结构正好可以作为队列使用。然后...
分类:
其他好文 时间:
2015-11-05 10:51:47
阅读次数:
291
开机启动 ln -sfv /usr/local/opt/elasticsearch/*.plist ~/Library/LaunchAgents launchctl load ~/Library/LaunchAgents/homebrew.mxcl.elasticsearch.plist 手动启动 elasticsearch --config=/usr/local/opt/...
分类:
其他好文 时间:
2015-11-04 15:00:57
阅读次数:
320
前记:去年测试了ELK,今年测试了Storm,最终因为Storm需要过多开发介入而放弃,选择了ELK。感谢互联网上各路大神,目前总算是正常运行了。logstash+elasticsearch+kibana的搭建参考:http://wsgzao.github.io/post/elk/。由于搭建过程比较...
分类:
其他好文 时间:
2015-11-04 14:45:47
阅读次数:
1693
Elasticsearch是一个分布式可扩展的实时搜索和分析引擎。它能帮助你搜索、分析和浏览数据,而往往大家并没有在某个项目一开始就预料到需要这些功能。Elasticsearch之所以出现就是为了重新赋予硬盘中看似无用的原始数据新的活力。 Elasticsearch每一个独立的部分都不是新创的。比如全文搜索早就已经被实现,统计系统和分布式数据库也早已存在。但是革命之处在于能将这些独立的功能结合成一...
分类:
其他好文 时间:
2015-11-03 13:50:10
阅读次数:
255
近些年随着DevOps概念越来越收到重视,除了传统的Splunk,Zabbix外在开源领域也有越来越多的软件可供使用.从数据收集,时序数据库,图形展示等主要方面有各类可扩展的软件用于搭建一个数据监控平台(详细列表),Logstash+elasticsearch+kibana算是被写的比较多的,本.....
分类:
其他好文 时间:
2015-10-31 17:13:41
阅读次数:
671
Elasticsearch分组聚合 1.查询指定索引下每个A_logtype有多少数据 curl -XPOST ‘localhost:19200/ylchou-0-2015-10-07/_search?pretty‘ -d ‘ ? ? ? ? { ? ? ? ? ? "size": 0, ? ? ? ? ? "aggs": { ...
分类:
其他好文 时间:
2015-10-30 00:56:04
阅读次数:
381
如果是在服务器上就可以使用elasticsearch-servicewrapper这个es插件,它支持通过参数,指定是在后台或前台运行es,并且支持启动,停止,重启es服务(默认es脚本只能通过ctrl+c关闭es)。使用方法是到https://git...
分类:
其他好文 时间:
2015-10-27 13:40:47
阅读次数:
237
elasticsearch的config文件夹里面有两个配置文件:elasticsearch.yml和logging.yml,第一个是es的基本 配置文件,第二个是日志配置文件,es也是使用log4j来记录日志的,所以logging.yml里的设置按普通log4j配置文件来设置就行了。下面 主要讲解...
分类:
其他好文 时间:
2015-10-27 11:07:57
阅读次数:
220
ES(elasticsearch)的suggester共有四类(term suggester,phrase suggester,completion suggester,context suggester), 其中completion suggester作为搜索框中的自动补齐功能,尤为常用。本文将用...
分类:
编程语言 时间:
2015-10-24 21:55:02
阅读次数:
7688