ELK平台介绍在搜索ELK资料的时候,发现这篇文章比较好,于是摘抄一小段:以下内容来自:http://baidu.blog.51cto.com/71938/1676798日志主要包括系统日志、应用程序日志和安全日志。系统运维和开发人员可以通过日志了解服务器软硬件信息、检查配置过程中的错误及错误发生的原因..
分类:
其他好文 时间:
2017-04-12 18:52:12
阅读次数:
363
收集和分析日志是应用开发中至关重要的一环,互联网大规模、分布式的特性决定了日志的源头越来越分散, 产生的速度越来越快,传统的手段和工具显得日益力不从心。在规模化场景下,grep、awk 无法快速发挥作用,我们需要一种高效、灵活的日志分析方式,可以给故障处理,问题定位提供更好的支持。 基于全文搜索引擎 ...
分类:
其他好文 时间:
2017-04-12 11:10:49
阅读次数:
482
Elasticsearch是实时全文搜索和分析引擎,提供搜集、分析、存储数据三大功能;是一套开放REST和JAVAAPI等结构提供高效搜索功能,可扩展的分布式系统。它构建于ApacheLucene搜索引擎库之上。Logstash是一个用来搜集、分析、过滤日志的工具。它支持几乎任何类型的日志,包括系统..
分类:
其他好文 时间:
2017-04-12 05:24:15
阅读次数:
278
ElastAlertElastAlert是Yelp公司开源的一套用Python2.6写的报警框架。属于后来Elastic.co公司出品的Watcher同类产品。官网地址见:http://elastalert.readthedocs.org/。当我们把ELK搭建好后,也顺利的收集到日志了,但是日志里发生了什么事,我们并不能第一时间知道日志里到底..
分类:
其他好文 时间:
2017-04-12 05:21:04
阅读次数:
317
对于一个互联网企业,后端服务是必不可少的一个组成部分。抛开业务应用来说,往下的基础服务设施做到哪些才能够保证业务的稳定可靠、易维护、高可用呢?纵观整个互联网技术体系再结合公司的目前状况,个人认为必不可少或者非常关键的后端基础技术/设施如下图所示: Api网关 业务应用和后端基础框架 缓存、数据库、搜 ...
分类:
其他好文 时间:
2017-04-12 02:06:40
阅读次数:
366
rsyslog是日志收集工具。如今非常多Linux都自带rsyslog,用其替换掉syslog。怎样安装rsyslog就不讲了。大概讲下原理。然后讲logstash的相关配置。 rsyslog本身有一个配置文件 /etc/rsyslog.conf,里面定义了日志文件。以及对应保存的地址。下面述语句为 ...
分类:
其他好文 时间:
2017-04-11 01:14:17
阅读次数:
433
elasticsearch启动脚本#!/bin/bash
#Description:ElasticsearchORSSERVER
ES_HOME=/usr/local/elasticsearch-5.0.0
PID=$(jps|grepElasticsearch|awk‘{print$1}‘)
ES_STOP=$ES_HOME/bin/shutdown.sh
ES_START=$ES_HOME/bin/startup.sh
#Necessaryenvironmentvariables
ES_USER..
分类:
其他好文 时间:
2017-04-11 00:00:54
阅读次数:
213
这里我装了一个head插件和kopf的插件 ./plugin install mobz/elasticsearch-head ./plugin install lmenezes/elasticsearch-kopf ES-Head的主要作用 它展现ES集群的拓扑结构,并且可以通过它来进行索引(Ind ...
分类:
其他好文 时间:
2017-04-10 14:50:54
阅读次数:
166
1.flume是分布式的日志收集系统,把收集来的数据传送到目的地去。2.flume里面有个核心概念,叫做agent。agent是一个java进程,运行在日志收集节点。通过agent接收日志,然后暂存起来,再发送到目的地。3.agent里面包含3个核心组件:source、channel、sink。 3 ...
分类:
Web程序 时间:
2017-04-10 13:08:21
阅读次数:
178
一. 写在前面 本文Log4Net介绍了基础的方式,大数据量生产环境不能使用,中等日志量请日志单库。 希望爱技术的你不要错过exceptionless和ELK 第四节开始简单配置大牛们推荐的了ExceptionLess, 一款开源分布式日志系统。 日志系统对于任何项目都是必不可少的,无论对于测试阶段 ...
分类:
Web程序 时间:
2017-04-10 12:20:34
阅读次数:
324