连接hdfs 根据hdfs的版本引用相关的hdfs依赖 <!-- https://mvnrepository.com/artifact/org.apache.hadoop/hadoop-client --> <dependency> <groupId>org.apache.hadoop</group ...
Java 语言概述 主要应用场景 JavaEE、大数据、Android 开发方向。 基础知识概述 编程语言核心结构 变量、基本语法、分支、循环、数组、… Java 面向对象的核心逻辑 OOP、封装、继承、多态、接口、… 开发 Java SE 高级应用程序 异常、集合、I/O、多线程、反射机制、网络编 ...
分类：
编程语言 时间：
2020-12-18 12:57:04
阅读次数：
3
本文节选自《高可用可伸缩微服务架构：基于Dubbo、SpringCloud和ServiceMesh》一书，程超等著，由电子工业出版社博文视点出版，已获得授权。近年来微服务架构已经成为大规模分布式架构的主流技术，越来越多的公司已经或开始转型为微服务架构。本书不以某一种微服务框架的使用为主题，而是对整个微服务生态进行系统性的讲解，并结合工作中的大量实战案例为读者呈现一本读完即可实际上手应用的工具书。一
分类：
其他好文 时间：
2020-12-18 12:15:24
阅读次数：
2
本节课主要介绍如何在 Serverless Kubernetes 集群中低成本运行 Spark 数据计算。首先简单介绍下阿里云 Serverless Kubernetes 和 弹性容器实例 ECI 这两款产品；然后介绍 Spark on Kubernetes；最后进行实际演示。
分类：
其他好文 时间：
2020-12-17 12:22:18
阅读次数：
2
1. 配置主机名 [root@hadoop01 ~]# hostname #显示当前主机名 方法一：通过配置文件/etc/hostname （重启后生效） [root@hadoop01 ~]# vim /etc/hostname 方法二：通过命令hostnamectl set-hostname 新主 ...
分类：
其他好文 时间：
2020-12-17 12:11:05
阅读次数：
2
1、基本架构 (1)、应用程序Spark 应用程序由一个驱动器进程和一组执行器进程组成。驱动进程运行 main()函数，位于集群中的一个节点上，它负责三件事：维护 Spark 应用程序的相关信息；回应用户的程序或输入；分析任务并分发给若干执行器进行处理。驱动器是必须的，它是 Spark 应用程序的核 ...
分类：
其他好文 时间：
2020-12-17 12:09:25
阅读次数：
2
前言近期在维护公司的调度平台，其中有个关键功能那就是定时任务；定时任务大家平时肯定接触的不少，比如JDK中的Timer、ScheduledExecutorService、调度框架Quartz等。通常用于实现XX时间后的延时任务，或周期性任务；比如一个常见的业务场景：用户下单N分钟未能支付便自动取消订单。实现这类需求通常有两种方式：轮询定时任务：给定周期内扫描所有未支付的订单，查看时间是否到期。延时
分类：
其他好文 时间：
2020-12-16 12:51:24
阅读次数：
2
自从成为架构师之后，李大胖的学习动力似乎少了一些，尤其是今年（当然也有一些客观因素）。临近岁末，内心着实有些惭愧，决定学习一把大数据。跟随一下业界前沿（其实已经不是前沿了），梦想着有一天能够拥有拥有梦想的权力。操练起来启动装有CentOS的虚拟机（IP是172.18.232.181），按照官方文档内容选择hadoop-2.8.5和hbase-2.0.2，还有zookeeper-3.4.11进行下载
分类：
其他好文 时间：
2020-12-16 12:26:00
阅读次数：
3
行式存储传统的数据库是关系型的，且是按行来存储的。如下图：其中只有张三把一行数据填满了，李四王五赵六的行都没有填满。因为这里的行结构是固定的，每一行都一样，即使你不用，也必须空到那里，而不能没有。来一张形象的图：不管你坐或不坐，座位都在那里，不离不弃。列式存储为了与传统的区别，新型数据库叫做非关系型数据库，是按列来存储的。如下图：初次看列式存储稍微有点懵，下面给出行存与列存的转换：原来张三的一列（
分类：
其他好文 时间：
2020-12-16 12:25:10
阅读次数：
3
1. 概述 在2.x中，spark有两个用来与kafka整合的代码，版本代号为0.8和0.10，由于在0.8，kafka有两套消费者api，根据高级api得到了Receiver-based Approach，根据低级api得到了Direct Approach，而在0.10由于kafka只有一套消费者 ...
分类：
其他好文 时间：
2020-12-16 11:50:30
阅读次数：
4
