Elasticsearch 是一个分布式、RESTful 风格的搜索和数据分析引擎,能够解决不断涌现出的各种用例。 作为 Elastic Stack 的核心,它集中存储您的数据,帮助您发现意料之中以及意料之外的情况。 导入依赖 <dependency> <groupId>junit</groupId ...
分类:
其他好文 时间:
2020-03-01 21:30:25
阅读次数:
68
1: ES 类似JPA操作1.1 编写实体类1.2 编写映射文件 xxx.json1.3编写repository继承 ElasticSearchrepository1.4 编写admin 的CRUD2: 使用ElasticSearchtemplate 对索引操作2.1 对索引的各类操作3: 高级查询... ...
分类:
其他好文 时间:
2020-02-29 13:10:23
阅读次数:
95
利用 Log Pilot + Kafka+Elasticsearch + Kibana 搭建 kubernetes日志解决方案 1、前提条件 已有kafka、elk、k8s集群,这3套集群搭建网上资料很多,这里不写,IP规划如下所示: kafka集群 10.6.11.22:9092 10.6.11. ...
分类:
Web程序 时间:
2020-02-29 13:03:35
阅读次数:
412
问题项目使用spring-kafka操作消费kafka近期出现消费速度变慢,consumer消费一条数据平均需要200ms的时间,并且频繁发生,consumer会停止消费十几秒。日志分析以下为日志记录,consumer会时长从消费组中掉出再重新加入o.a.k.c.c.i.AbstractCoordinator:542-Markingthecoordinator127.0.0.1:9092(id:2
分类:
其他好文 时间:
2020-02-28 19:02:51
阅读次数:
461
主要补充内容: 1.同步多表 2.配置的参数个别说明 3.elasticsearch的"_id"如果有相同的,那么会覆盖掉,相同"_id"的数据只会剩下最后一条。所以还是用数据表中主键自增的id比较好,当然如果有需要也可以自己改变成别的UUID之类的。 elasticsearch默认的"_type" ...
分类:
其他好文 时间:
2020-02-28 18:29:59
阅读次数:
64
Flink 1.10.0 于近期刚发布,释放了许多令人激动的新特性。尤其是 Flink SQL 模块,发展速度非常快,因此本文特意从实践的角度出发,带领大家一起探索使用 Flink SQL 如何快速构建流式应用。 本文将基于 Kafka, MySQL, Elasticsearch, Kibana,使 ...
分类:
数据库 时间:
2020-02-28 16:02:58
阅读次数:
85
一、概述 Elasticsearch是一个开源搜索引擎,以易用性着称。kibana是一个图形界面,可以在上面条件检索存储在ElasticSearch里数据,相当于提供了ES的可视化操作管理器。 fluentd fluentd是一个针对日志的收集、处理、转发系统。通过丰富的插件系统,可以收集来自于各种 ...
分类:
其他好文 时间:
2020-02-28 15:44:01
阅读次数:
80
1:https://www.elastic.co/guide/en/elasticsearch/reference/current/index.html2: ES 映射配置文件3:JAVA API文档1: 创建文档2: 检索文档1:https://www.elastic.co/guide/en/el... ...
分类:
其他好文 时间:
2020-02-28 01:17:05
阅读次数:
71
1.创建工程导入依赖 <dependency> <groupId>org.elasticsearch</groupId> <artifactId>elasticsearch</artifactId> <version>5.6.8</version> </dependency> <dependency ...
分类:
其他好文 时间:
2020-02-27 23:39:29
阅读次数:
65
ES为什么要实现集群 在单台ES服务器节点上,随着业务量的发展索引文件慢慢增多,会影响到效率和内存存储问题等。 如果使用ES集群,会将单台服务器节点的索引文件使用分片技术,分布式的存放在多个不同的物理机器上,从而可以实现高可用、容错性等。 es核心存放的是索引。 什么是分片技术 将数据拆分成多台节点 ...
分类:
其他好文 时间:
2020-02-27 20:35:52
阅读次数:
54