https://www.cnblogs.com/importbigdata/p/10765558.html 1.kfkstreaming只能接kfk,而sparkstreaming比较通用 2.两种读取方法:1.director 效率高 2.receiver 3.写入方法:包装成可序列化类,再广播到 ...
分类:
其他好文 时间:
2020-12-19 13:02:39
阅读次数:
2
1、Pod基本概念 最小的部署单元 包含多个容器(一组容器的组合) 一个Pod中容器共享网络命名空间 Pod是短暂的 2、Pod存在意义 创建容器使用docker,一个docker对应是一个容器,一个容器有进程,一个容器运行一个应用程序 Pod多进程设计运行多个应用程序 一个Pod有多个容器,一个容 ...
分类:
Web程序 时间:
2020-12-19 12:05:34
阅读次数:
3
Java最新常见面试题+答案汇总1、面试题模块汇总面试题包括以下十九个模块:Java基础、容器、多线程、反射、对象拷贝、JavaWeb模块、异常、网络、设计模式、Spring/SpringMVC、SpringBoot/SpringCloud、Hibernate、Mybatis、RabbitMQ、Kafka、Zookeeper、MySql、Redis、JVM。如下图所示:可能对于初学者不需要后面的框
分类:
编程语言 时间:
2020-12-17 13:06:40
阅读次数:
7
本节课程主要分为三个部分,基本概念中介绍基于函数计算的 WebAPI 与普通的 WebAPI 的区别及优势;开发流程中介绍如何在函数计算的控制台进行 WebAPI 的开发;操作演示中会实例演示函数计算 WebAPI 的开发过程。
本文主要分为三个部分:概述中介绍可观测性的基本概念,主要包括 Logging、Metrics、Tracing 三个方面;然后详细介绍函数计算上的 Logging、Metrics、Tracing;最后以几个常见场景为例,介绍在函数计算中如何快速定位问题并解决问题。
分类:
其他好文 时间:
2020-12-16 13:06:05
阅读次数:
10
在安装Kafka-eagle的时候遇见几个坑,在这里分享一下: 注意:版本问题,若按本文章不能解决,则着重查看版本的问题;这里只是提供解决针对问题的思路 Kafka版本:kafka_2.11-0.11.0.2 Kafka-eagle版本:kafka-eagle-bin-1.3.7 MySQL版本:5 ...
分类:
其他好文 时间:
2020-12-16 12:58:42
阅读次数:
5
本篇文章主要是记录整体调整Python数据统计分析项目规范性的过程,以及自己的一些思考。 为什么要调整? 主要是为了解决数据类程序不容易测试发现错误的现状。调整公共模块出错时抛出错误到业务层,便于报警模块上传错误信息到kafka,最后能主动发出报警邮件。以及方便加入报警之外的其他程序埋点。 调整所有 ...
分类:
编程语言 时间:
2020-12-16 12:32:52
阅读次数:
3
前言之前写过一篇《从源码分析如何优雅的使用Kafka生产者》,有生产者自然也就有消费者。建议对Kakfa还比较陌生的朋友可以先看看。就我的使用经验来说,大部分情况都是处于数据下游的消费者角色。也用Kafka消费过日均过亿的消息(不得不佩服Kakfa的设计),本文将借助我使用Kakfa消费数据的经验来聊聊如何高效的消费数据。单线程消费以之前生产者中的代码为例,事先准备好了一个Topic:data-p
分类:
其他好文 时间:
2020-12-16 12:08:05
阅读次数:
2
#1.git基本概念 ##1.1 常见版本管理工具 ###git 1.git是分布式的,每一个安装git环境的机器都有线下的版本仓库 2.开发者无需把代码提交到线上仓库(GitHub、gitee、gitlab) ###SVN 1.SVN是一个集中的版本管理工具 2.开发者必须把代码提交到SVN服务器 ...
分类:
其他好文 时间:
2020-12-16 12:00:58
阅读次数:
2
1. 概述 在2.x中,spark有两个用来与kafka整合的代码,版本代号为0.8和0.10,由于在0.8,kafka有两套消费者api,根据高级api得到了Receiver-based Approach,根据低级api得到了Direct Approach,而在0.10由于kafka只有一套消费者 ...
分类:
其他好文 时间:
2020-12-16 11:50:30
阅读次数:
4