码迷,mamicode.com
首页 >  
搜索关键字:spark streaming 作业 容错    ( 29616个结果
简单谈谈contextlib的使用
简单谈谈contextlib的使用 写在前面 做这件事的原因: 在看书的时候,我发现了有大佬们用contextlib管理上下文,真的很牛皮,但是百度了以下,每个大佬都写了很多很全很深刻,讲道理五花八门使我应接不暇,于是乎我决定自己简单写一下,就写一个用例,也就是我能想到的用例来解释contextli ...
分类:其他好文   时间:2020-12-30 10:48:06    阅读次数:0
【Python 1-15】Python手把手教程之——详解类Class以及类的使用
类(Class)是面向对象程序设计(OOP,Object-Oriented Programming)实现信息封装的基础。类是一种用户定义的引用数据类型,也称类类型。每个类包含数据说明和一组操作数据或传递消息的函数。类的实例称为对象。
分类:编程语言   时间:2020-12-29 11:51:59    阅读次数:0
记Hive SQL中TEMPORARY VIEW的一个数据对不上的坑
问题背景: (无关操作已省略) Spark ETL执行以下SQL: CREATE TEMPORARY VIEW A select user_id, ...; CREATE TEMPORARY VIEW B select user_id, ... from A ...; INSERT OVERWRIT ...
分类:数据库   时间:2020-12-29 11:28:30    阅读次数:0
machine errgroup golang 方便并发编程包
machine 是借鉴了errgroup的一个golang 并发处理包,errgroup 的使用很简单,但是对于异常的处理只能 包含一次结果,不能知道每次 gorroutine 的执行结果,同时machine也扩展了好多特性 比较适合的场景 grpc streaming 服务 websocket 服 ...
分类:系统相关   时间:2020-12-24 12:00:19    阅读次数:0
学好Spark/Kafka必须要掌握的Scala技术点(三)高阶函数、方法、柯里化、隐式转换
建议在用Scala编写相关功能实现时,边学习、边应用、边摸索以加深对Scala的理解和应用 ...
分类:其他好文   时间:2020-12-21 11:32:22    阅读次数:0
学好Spark/Kafka必须要掌握的Scala技术点(二)类、单例/伴生对象、继承和trait,模式匹配、样例类(case class)
Scala是以JVM为运行环境的面向对象的函数式编程语言,它可以直接访问Java类库并且与Java框架进行交互操作 ...
分类:其他好文   时间:2020-12-19 13:14:39    阅读次数:1
react + ts + event-source-polyfill 实现方案
使用event-source-polyfill 前提: 严格的来说,HTTP协议无法做到服务端主动推送消息,但是,有一种方法,是服务器向客户端声明,接下来要发送的是流信息(streaming)。也就是说,发送的不是一次性的数据包,而是一个数据流,会连续不断的发送过来,这时,客户端不会关闭链接,会一直 ...
分类:其他好文   时间:2020-12-19 11:37:37    阅读次数:1
centos7配置软RAID5
1、配置环境介绍操作平台:VMwareworkstation测试环境:centos7计算机一台,添加一块新的硬盘,创建4个分区。模拟4块新硬盘2、实践目的1、配置RAID52、模拟硬盘故障,检验RAID5容错能力,并实现故障盘替换3、RAID阵列上创建分区3、创建RAID准备工作1、首先查看硬盘标签类型[root@adong~]#fdisk-l/dev/sdcDisk/dev/sdb:20GiB,
分类:其他好文   时间:2020-12-17 13:09:44    阅读次数:8
如何在 Serverless K8s 集群中低成本运行 Spark 数据计算?
本节课主要介绍如何在 Serverless Kubernetes 集群中低成本运行 Spark 数据计算。首先简单介绍下阿里云 Serverless Kubernetes 和 弹性容器实例 ECI 这两款产品;然后介绍 Spark on Kubernetes;最后进行实际演示。
分类:其他好文   时间:2020-12-17 12:22:18    阅读次数:2
spark浅析
1、基本架构 (1)、应用程序Spark 应用程序由一个驱动器进程和一组执行器进程组成。驱动进程运行 main()函数,位于集群中的一个节点上,它负责三件事:维护 Spark 应用程序的相关信息;回应用户的程序或输入;分析任务并分发给若干执行器进行处理。驱动器是必须的,它是 Spark 应用程序的核 ...
分类:其他好文   时间:2020-12-17 12:09:25    阅读次数:2
29616条   上一页 1 ... 16 17 18 19 20 ... 2962 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!