原文:https://www.cnblogs.com/aresxin/p/8035137.html 为什么用到ELK: 一般我们需要进行日志分析场景:直接在日志文件中 grep、awk 就可以获得自己想要的信息。但在规模较大的场景中,此方法效率低下,面临问题包括日志量太大如何归档、文本搜索太慢怎么办 ...
分类:
其他好文 时间:
2018-07-12 22:46:31
阅读次数:
255
说明: 本次ELK的基础配置如下: 虚拟机:vmware 11 系统:centos7.2 两台 IP:172.16.1.15/16 一、下载es wget https://download.elastic.co/elasticsearch/release/org/elasticsearch/dist ...
分类:
其他好文 时间:
2018-07-12 20:12:09
阅读次数:
192
集中式日志系统 ELK 协议栈详解 本文分两大部分来对集中式日志系统 ELK 协议栈做详细探讨; 第一部分详细介绍了 ELK 协议栈出现的背景、主要组成部分及其体系结构; 第二部分详细描述了在 Ubuntu 和 CentOS 上面的安装配置过程。 两相结合,帮助开发人员理解 ELK 协议栈。 目录 ...
分类:
其他好文 时间:
2018-07-10 14:49:31
阅读次数:
253
一、简述 随着系统的运行,每个docker容器都会产生大量的日志,如果不做清理对系统磁盘将是一个很大的压力,特别是当系统日志已经利用elk工具栈做过分析存储后,磁盘上的日志就更没有存在的必要性。 因为默认情况下,每个docker容器的日志文件都配置的是大小不限,一个容器一个日志文件,当日志文件过大时 ...
分类:
其他好文 时间:
2018-07-07 18:01:27
阅读次数:
202
本博客安装的ELK版本为目前最新版本6.3.0,由于elasticsearch是基于java开发的,所以对JDK的版本有要求,在5.0以后的版本中,要求JDK版本不低于1.8的才可正常实用。 同时,elasticsearch,logstash,kibana三个版本最好一致,否则会产生因版本冲突发生的 ...
分类:
系统相关 时间:
2018-07-07 12:41:59
阅读次数:
238
1、收集Nginx的json格式日志 1.1、Nginx安装 [root@linux-node1 ~]# yum install nginx -y [root@linux-node1 ~]# vim /etc/nginx/nginx.conf #修改日志格式为json格式,并创建一个nginxweb ...
分类:
编程语言 时间:
2018-07-06 14:22:59
阅读次数:
297
一、ELKStack简介 1、ELK介绍 中文指南:https://www.gitbook.com/book/chenryn/elk-stack-guide-cn/details ELK Stack包含:ElasticSearch、Logstash、Kibana ElasticSearch是一个搜索 ...
分类:
其他好文 时间:
2018-07-06 13:14:03
阅读次数:
405
1ELK是一个实时分布式的日志分析平台ELK是一整套的解决方案(E)lasticsearch--数据库(L)ogstash--收集日志、标准化的程序(K)ibana--图形的展示工具2数据批量导入-X导入使用的方法POST--data-binary导入数据的格式@urfile导入数据的文件名_bulk导入关键字curl-X"POST""http://192.168.1
分类:
其他好文 时间:
2018-07-06 10:08:36
阅读次数:
234
kafka高可用 并发写 每一个分区都是一个顺序的、不可变的消息队列, 并且可以持续的添加。分区中的消息都被分了一个序列号,称之为偏移量(offset),在每个分区中此偏移量都是唯一的。 并发读 数据组织模式 读写 消费者可以从 1.zk拉数据 2,kafka拉数据 探究kafka p和消费者个数之 ...
分类:
其他好文 时间:
2018-07-05 21:35:50
阅读次数:
174
filebeat配置列表 filebeat搜集的日志输出到redis elasticsearch配置文件 elasticsearch.yml logstash配置文件 filebaet-java-to-es.conf ...
分类:
其他好文 时间:
2018-07-05 19:38:34
阅读次数:
272