码迷,mamicode.com
首页 >  
搜索关键字:spark kafka    ( 10972个结果
09 spark连接mysql数据库
1.安装启动检查Mysql服务。netstat -tunlp (3306) 2.spark 连接mysql驱动程序。–cp /usr/local/hive/lib/mysql-connector-java-5.1.40-bin.jar /usr/local/spark/jars 3.启动 Mysql ...
分类:数据库   时间:2021-06-02 15:40:05    阅读次数:0
Spark任务提交和执行流程
本文转自:https://www.cnblogs.com/chhyan-dream/p/12013463.html 1、概述 为了更好地理解调度,我们先看一下集群模式的Spark程序运行架构图,如上所示: 2、Spark中的基本概念 1、Application:表示你的程序 2、Driver:表示m ...
分类:其他好文   时间:2021-06-02 15:22:12    阅读次数:0
09 spark连接mysql数据库
安装启动检查Mysql服务。 netstat -tunlp (3306) spark 连接mysql驱动程序。 –cp /usr/local/hive/lib/mysql-connector-java-5.1.40-bin.jar /usr/local/spark/jars 启动 Mysql she ...
分类:数据库   时间:2021-06-02 15:02:56    阅读次数:0
SpringBoot整合kafka的简单应用
引入依赖 <!-- https://mvnrepository.com/artifact/org.springframework.kafka/spring-kafka --> <dependency> <groupId>org.springframework.kafka</groupId> <art ...
分类:编程语言   时间:2021-06-02 14:22:43    阅读次数:0
Kafka宕机后不再高可用?探究Kafka高可用实现【转】
Kafka宕机引发的高可用问题 问题要从一次Kafka的宕机开始说起。 笔者所在的是一家金融科技公司,但公司内部并没有采用在金融支付领域更为流行的RabbitMQ,而是采用了设计之初就为日志处理而生的Kafka,所以我一直很好奇Kafka的高可用实现和保障。从Kafka部署后,系统内部使用的Kafk ...
分类:其他好文   时间:2021-06-02 14:22:26    阅读次数:0
kafka binding to ipv6 port even though ipv4 address specified in config
I am in a bit of a bind (pun intended). I have a ubuntu server running kafka & zookeeper. This server has both ipv4 and ipv6 protocols installed. In t ...
分类:其他好文   时间:2021-06-02 12:29:05    阅读次数:0
Kafka
Kafka Exactly Once语义 精准一次: 将服务器的ACK级别设置为-1,可以保证Producer到Server之间不会丢失数据,即At Least Once语义。相对的,将服务器ACK级别设置为0,可以保证生产者每条消息只会被发送一次,即At Most Once语义。 At Least ...
分类:其他好文   时间:2021-06-02 12:21:04    阅读次数:0
Kafka 常见面试题
面试题: 1)Kafka中的ISR(InSyncRepli)、OSR(OutSyncRepli)、AR(AllRepli)代表什么? 2)Kafka中的HW、LEO等分别代表什么? 3)Kafka中是怎么体现消息顺序性的? 4)Kafka中的分区器、序列化器、拦截器是否了解?它们之间的处理顺序是什么 ...
分类:其他好文   时间:2021-06-02 12:19:54    阅读次数:0
08 学生课程分数的Spark SQL分析
读学生课程分数文件chapter4-data01.txt,创建DataFrame。 一、用DataFrame的操作完成以下数据分析要求 每个分数+5分。 总共有多少学生? 总共开设了哪些课程? 每个学生选修了多少门课? 每门课程有多少个学生选? 每门课程大于95分的学生人数? Tom选修了几门课?每 ...
分类:数据库   时间:2021-06-02 12:16:19    阅读次数:0
Kafka 简介
Kafka概述 Kafka是一个基于发布、订阅的分布式消息队列,用于大数据实时处理。 为什么要用kafka? 注册信息的过程,先在网站上填写注册信息,后台会调用其他服务的接口,反馈给网页注册成功信息,最后再显示给用户,并且将短信发送给用户,该过程为同步通信过程,需要同步等待,由于同步通信的过程比较慢 ...
分类:其他好文   时间:2021-06-02 12:12:15    阅读次数:0
10972条   上一页 1 ... 5 6 7 8 9 ... 1098 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!