1. 产品的架构是数据采集到 kafka,由 flink 读取,送入ES 2. 这个过程中,涉及: kafka分区数,flink并行度,ES 分区数和副本 3. kafka 分区数决定了后面 flink 的并行度,最好是 kafka 的分区数和 flink 的并行度一致 4. 写入 ES 时,需要先 ...
分类:
其他好文 时间:
2020-11-16 14:01:57
阅读次数:
18
字节输入流(InputStream):它是超类,它的实现类有以下些 FilterInputStream,read(),OutputStream FilterInputStream():包含其他一些输入流,能够对读取的文件进行操作 字节输出流(OutputStream):它也是超类,可以将内容写入到指 ...
分类:
其他好文 时间:
2020-11-16 13:34:41
阅读次数:
8
package com.atguigu.structure.streaming import org.apache.spark.sql.streaming.Trigger import org.apache.spark.sql.{DataFrame, SparkSession} import org ...
分类:
其他好文 时间:
2020-11-16 13:25:07
阅读次数:
3
Scanner对象 Java 5添加了java.util.Scanner类,这是一个用于扫描输入文本的新的实用程序 可以用来接受用户所输入的内容 语法 Scanner scanner = new Scanner(System.in); 里面有两个常用的接受对象方法 scanner.nextLine( ...
分类:
其他好文 时间:
2020-11-16 12:58:00
阅读次数:
9
反射获取 PropertyInfo 可以对对象的属性值进行读取或者写入,但是这样性能不好。所以,我们需要更快的方案。 方案说明 就是用表达式编译一个 Action<TObj,TValue> 作为 Setter,编译一个 Func<TObj,TValue> 作为 Getter。 然后把这些编译好的委托 ...
分类:
其他好文 时间:
2020-11-16 12:56:57
阅读次数:
7
linux系统中的硬盘分区如何命名? 扩展: 一块硬盘最多有四个分区。 主分区加扩展分区小于等于4。 分区一共有三种,主分区,扩展分区,逻辑分区。 一块硬盘可以没有扩展分区和逻辑分区。 主分区以外的分区称为逻辑分区。 主分区最少为1个,主分区最多为4个。 扩展分区继续划分才有逻辑分区,所有扩展分区包 ...
分类:
系统相关 时间:
2020-11-13 13:20:18
阅读次数:
40
Redis五种数据格式: 特征: 1.数据间没有必然的关联关系 2.内部采用单线程机制进行工作 3.高性能,官方提供测试数据,50个并发执行100000个请求读取的速度是110000次/s,写的速度是81000次/s 4.多数据类型支持(数据类型永远指的是value): 字符串类型:String 列 ...
分类:
其他好文 时间:
2020-11-13 13:15:03
阅读次数:
22
Rowkey设计时需要遵循三大原则: 1. 唯一性原则 rowkey在设计上保证其唯一性。rowkey是按照字典顺序排序存储的,因此,设计rowkey的时候,要充分利用这个排序的特点,将经常读取的数据存储到一块,将最近可能会被访问的数据放到一块。 2. 长度原则 rowkey是一个二进制码流,可以是 ...
分类:
其他好文 时间:
2020-11-13 13:05:38
阅读次数:
7
概述MySQL是常用的关系型数据库,MariaDB作为MySQL的分支版本,兼容MySQL协议,也越来越流行。在Kubernetes环境中如何使用Prometheus来对它们进行监控呢?通常是借助开源的mysqld-exporter来实现,本文将围绕这个主题展开详细介绍下。mysqld-exporter原理介绍mysqld-exporter通过读取MySQL或MariaDB中的一些数据库状态的数据
分类:
数据库 时间:
2020-11-13 12:36:59
阅读次数:
19
一、介绍ConfigMap用于保存配置数据的键值对,可以用来保存单个属性,也可以用来保存配置文件。ConfigMap跟secret很类似,但它可以更方便地处理不包含敏感信息的字符串。我们知道许多应用经常会有从配置文件、命令行参数或者环境变量中读取一些配置信息,这些配置信息我们肯定不会直接写死到应用程序中去的,比如你一个应用连接一个redis服务,下一次想更换一个了的,还得重新去修改代码,重新制作一
分类:
其他好文 时间:
2020-11-13 12:13:38
阅读次数:
5