1、elasticsearch启动失败如下: [root@bogon home]# /home/elasticsearch-6.3.0/bin/elasticsearch [2019-02-11T07:15:14,874][WARN ][o.e.b.ElasticsearchUncaughtExce... ...
分类:
其他好文 时间:
2019-02-11 21:39:38
阅读次数:
214
01, 安装 node.js wget https://nodejs.org/dist/v10.15.1/node-v10.15.1-linux-x64.tar.xz tar xf node-v10.15.1-linux-x64.tar.xz vim /etc/profile NODE_HOME=/ ...
分类:
其他好文 时间:
2019-02-10 23:35:28
阅读次数:
305
由于HAProxy的运行信息不写入日志文件,但它依赖于标准的系统日志协议将日志发送到远程服务器(通常位于同一系统上),所以需要借助rsyslog来收集haproxy的日志.haproxy代理nginx的访问,使用logstash收集nginx的访问信息. 1.安装配置haproxy 2.准备hapr ...
分类:
其他好文 时间:
2019-02-08 18:27:09
阅读次数:
229
官方文档:https://www.elastic.co/guide/en/elasticsearch/reference/6.0/getting-started.html 日志: https://www.elastic.co/guide/en/kibana/6.6/xpack-logs.html 启 ...
分类:
其他好文 时间:
2019-02-07 16:24:57
阅读次数:
186
前言 我一直负责公司的 nginx 日志收集,现在每天的 pv 数在10亿级别,存储大概1T( 2 默认的 elasticsearch 5分片2副本)不到,因为开始的时候 nginx 日志也是逐渐收集的,因为是第一次做问题也比较多,想着等着我们的 ELK 平台成熟了再接应用的日志。 当前的问题 如果 ...
分类:
其他好文 时间:
2019-02-06 19:55:36
阅读次数:
207
cerebo是kopf在es5上的替代者 安装es虽然不能再root下运行,但是cerebro 可以 run as root is ok #具体新版本查看https://github.com/lmenezes/cerebro/releases unzip cerebro-0.8.1.tgz cd c ...
分类:
Web程序 时间:
2019-02-03 10:58:15
阅读次数:
510
本篇主要讲工作中的真实经历,我们怎么打造亿级日志平台,同时手把手教大家建立起这样一套亿级 ELK 系统。日志平台具体发展历程可以参考上篇 「从 ELK 到 EFK 演进」 废话不多说,老司机们座好了,我们准备发车了~~~ 整体架构 整体架构主要分为 4 个模块,分别提供不同的功能 Filebeat: ...
分类:
其他好文 时间:
2019-02-02 14:34:07
阅读次数:
201
背景 作为中国最大的在线教育站点,目前沪江日志服务的用户包含网校,交易,金融,CCTalk 等多个部门的多个产品的日志搜索分析业务,每日产生的各类日志有好十几种,每天处理约10亿条(1TB)日志,热数据保留最近7天数据,冷数据永久保存。 为什么做日志系统 首先,什么是日志? 日志就是程序产生的,遵循 ...
分类:
其他好文 时间:
2019-02-02 14:15:39
阅读次数:
164
2019/1/30_第1次修改 ccb_warlock 由于开发团队搭建的ELK存在些无法解决的问题,故我选择重新搭了新的ELK来替换有问题的ELK。 在使用了elasticdump迁移数据(5.4.X -> 5.6.14)后,访问kibana看到了报错信息"[illegal_argument_ex ...
分类:
移动开发 时间:
2019-01-30 01:28:36
阅读次数:
405
1 概述 很多系统的日志都会放在 Kibana 供查询,就是所谓的 ELK。Kibana 除了可以使用界面供的一些 tab 或者 button 去筛选日志,也可以在搜索栏中使用 Lucene 的语法简单的交互式查询。可以做基于字段的特定搜索,过滤数据,也可以查看索引号的文档。查询的语法可以参考 官方 ...
分类:
其他好文 时间:
2019-01-28 17:35:19
阅读次数:
295