面试官:想了解大数据量的运维能力。 解答:索引数据的规划,应在前期做好规划,正所谓“设计先行,编码在后”, 这样才能有效的避免突如其来的数据激增导致集群处理能力不足引发的线上客户 检索或者其他业务受到影响。 如何调优,正如问题 1 所说,这里细化一下: 3.1 动态索引层面 基于模板+时间+roll ...
分类:
其他好文 时间:
2020-04-29 16:23:21
阅读次数:
164
背景 作为中国最大的在线教育站点,目前沪江日志服务的用户包含网校,交易,金融,CCTalk 等多个部门的多个产品的日志搜索分析业务,每日产生的各类日志有好十几种,每天处理约10亿条(1TB)日志,热数据保留最近7天数据,冷数据永久保存。 为什么做日志系统 首先,什么是日志? 日志就是程序产生的,遵循 ...
分类:
其他好文 时间:
2020-04-29 10:30:59
阅读次数:
96
原文:十分钟搞懂Elasticsearch数字搜索原理 更多精彩内容请看我的个人博客或者扫描二维码,关注微信公众号:佛西先森 前言 Elasticsearch诞生的本意是为了解决文本搜索太慢的问题,ES会默认将所有的输入内容当作字符串来理解,对于字段类型是keyword或者text的数据比较友好。但... ...
分类:
其他好文 时间:
2020-04-28 00:44:20
阅读次数:
62
原文:带你走进神一样的Elasticsearch索引机制 更多精彩内容请看我的个人博客 前言 相比于大多数人熟悉的MySQL数据库的索引,Elasticsearch的索引机制是完全不同于MySQL的B+Tree结构。索引会被压缩放入内存用于加速搜索过程,这一点在效率上是完爆MySQL数据库的。但是E... ...
分类:
其他好文 时间:
2020-04-28 00:42:50
阅读次数:
56
原文:十九种Elasticsearch字符串搜索方式终极介绍 前言 刚开始接触Elasticsearch的时候被Elasticsearch的搜索功能搞得晕头转向,每次想在Kibana里面查询某个字段的时候,查出来的结果经常不是自己想要的,然而又不知道问题出在了哪里。出现这个问题归根结底是因为对于El... ...
分类:
其他好文 时间:
2020-04-28 00:10:19
阅读次数:
56
1、elasticsearch是一个基于Lucene的高扩展的分布式搜索服务器,支持开箱即用。 2、elasticsearch隐藏了Lucene的复杂性,对外提供Restful 接口来操作索引、搜索。 突出优点: 1.扩展性好,可部署上百台服务器集群,处理PB级数据。 2.近实时的去索引数据、搜索数 ...
分类:
其他好文 时间:
2020-04-27 19:20:48
阅读次数:
93
elasticsearch-head是一个elasticsearch集群的web前端。官方文档:https://github.com/mobz/elasticsearch-head 在elasticsearch.yml中增加两行配置 $ tail -2 config/elasticsearch.ym ...
分类:
其他好文 时间:
2020-04-27 17:28:17
阅读次数:
67
Elasticsearch诞生的本意是为了解决文本搜索太慢的问题,ES会默认将所有的输入内容当作字符串来理解,对于字段类型是keyword或者text的数据比较友好。但是如果输入的类型是数字,ES还会把数字当作字符串吗?排序问题还有范围查询问题怎么解决呢?这篇文章就简单介绍了ES对于数字类型(num... ...
分类:
其他好文 时间:
2020-04-27 13:44:18
阅读次数:
69
GranafaGrafana是跨平台的开源的分析和可视化面板工具(Dashboard),可以通过将采集的数据查询后进行可视化的展示,及通知。其特点:1).丰富的可视化显示插件,包括热图、折线图、饼图,表格等。2).支持多数据源InfluxDB,Prometheus,Zabbix,Elasticsearch,CloudWatch,等。用于数据的展示。3).通知提醒,达到目标制定的阀值,进行报警。4)
分类:
其他好文 时间:
2020-04-26 23:48:25
阅读次数:
186
一、非聚合复杂查询(这儿展示了非聚合复杂查询的常用流程) 查询条件QueryBuilder的构建方法 1.1 精确查询(必须完全匹配上,相当于SQL语句中的“=”) ① 单个匹配 termQuery //不分词查询 参数1: 字段名,参数2:字段查询值,因为不分词,所以汉字只能查询一个字,英语是一个 ...
分类:
其他好文 时间:
2020-04-26 19:15:37
阅读次数:
98