logstash 是什么。 个人理解。就3个东西 输入input,输出output,过滤转换filter。 其中input可有有多种类型来源:beat网络传入,jdbc数据库查询来源,file来源文件。 什么时候用什么场景用。 因为logstash内存、cpu消耗非常大。所以每个机器上安装它去采集信 ...
分类:
其他好文 时间:
2020-03-26 12:26:47
阅读次数:
88
窗口的第一个时间窗口是如何定义的呢?查看源码: 滑动窗口: 这里的offset是用来指定时间戳的时区的,timestamp(1970年1月1号的毫秒数,默认是格林威治0时区的时间),北京时间是东八区,我们的时间比他们早8h,如果要跟他们标准时间统一的话offset应该是 -8;但在国内无所谓的,默认 ...
分类:
其他好文 时间:
2020-03-26 01:01:15
阅读次数:
84
package lib import ( "sync" "time" ) type AlgorithmSnowFlake struct { sync.Mutex machineId int64 dataCenterId int64 lastTimeStamp int64 sn int64 } var ...
分类:
其他好文 时间:
2020-03-24 15:59:46
阅读次数:
107
解决url中×会被转成×的问题 参考原文:hutaoo的博客《×被转义为X的问题》 一、发生错误的情况: 在URL中参数若有×则会被转成x,例如: $url = "http://www.test.com/index.php?id=1×tamp=1584947618&ag ...
分类:
Web程序 时间:
2020-03-24 12:50:57
阅读次数:
324
现在公司数据访问层用的是mybatis框架,数据库用的pgsql,其中日期字段指定的是timestamp类型的。实体类是String类型的。 现在在执行更新操作的时候报这个错误:postgreSQL alter column data type to timestamp without time z ...
分类:
数据库 时间:
2020-03-23 20:53:26
阅读次数:
154
简介 canal 1.1.1版本之后, 默认支持将canal server接收到的binlog数据直接投递到MQ, 目前默认支持的MQ系统有: kafka: https://github.com/apache/kafka RocketMQ : https://github.com/apache/ro ...
分类:
数据库 时间:
2020-03-23 09:54:02
阅读次数:
286
一、logstash结合kafka收集系统日志和nginx日志 架构图: 环境准备: A主机:kibana、elasticsearch,有条件可以将两个服务器分开:192.168.7.100 B主机:logstash主机:192.168.7.101/nginx服务器也在此主机上 C主机:logsta ...
分类:
其他好文 时间:
2020-03-23 09:48:02
阅读次数:
54
一、logstash结合redis收集系统日志 架构图: 环境准备: A主机:elasticsearch主机 IP地址:192.168.7.100 B主机:logstash主机 IP地址:192.168.7.102 C主机:redis主机 IP地址:192.168.7.103 D主机:logstas ...
分类:
其他好文 时间:
2020-03-22 15:50:50
阅读次数:
67
实战一:通过Logstash收集tomcat服务器的日志 1、配置JDK环境 1、解压JDK包,创建软链接 [root@tomcat-web1 src]# tar xvf jdk-8u212-linux-x64.tar.gz [root@tomcat-web1 src]# ln -sv /usr/l ...
分类:
编程语言 时间:
2020-03-21 14:57:13
阅读次数:
116
操作系统 Centos 7.6 , Ubuntu-19.10 硬件配置(推荐) CPU / 内存 : 2核 / 4GB 安装版本 logstash 7.6.1 https://artifacts.elastic.co/downloads/logstash/logstash-7.6.1.tar.gz ...
分类:
其他好文 时间:
2020-03-20 10:51:17
阅读次数:
52