1添加pom.xml配置 <build> <sourceDirectory>src/main/scala</sourceDirectory> <testSourceDirectory>src/test/scala</testSourceDirectory> <plugins> <plugin> <g ...
分类：
数据库 时间：
2020-06-14 18:56:57
阅读次数：
138
1. 用idea的maven项目 package 打包, 去 Linux 执行 spark-submit --class com.Spark_HDFS --master local ./SXC-1.0-SNAPSHOT.jar 遇到 找不到主类 , 这时候需要更加稳定的打包方式 去打包 scala ...
分类：
其他好文 时间：
2020-06-14 12:57:57
阅读次数：
127
首先，先安装jdk.我安装的是jdk14.下载界面如下所示： 接下来配置path,java_home两个环境变量即可。 接下来安装scala 我安装的scala是2.13.2版本。 接下来安装hadoop ...
分类：
其他好文 时间：
2020-06-13 23:05:23
阅读次数：
66
<!doctype html> <html lang="en"> <head> <meta charset="UTF-8"> <meta name="viewport" content="width=device-width, user-scalable=no, initial-scale=1.0, ...
分类：
移动开发 时间：
2020-06-13 14:33:10
阅读次数：
74
类和对象 在类定义中，有字段filed和方法method，统称为成员member，通过val和var定义字段指定对象的变量。通过def定义方法。（和Python一样）实例一个类后，会指派一些内存来保存对象的状态图。个人理解对通过地址间映射，有一块内存保存值。 对字段声明私有。在var、val前加。不 ...
分类：
其他好文 时间：
2020-06-13 13:22:18
阅读次数：
51
第一步 在pom.xml中添加 <dependencies> <dependency> <groupId>org.apache.spark</groupId> <artifactId>spark-core_2.11</artifactId> <version>2.3.3</version> </de ...
分类：
其他好文 时间：
2020-06-13 12:39:49
阅读次数：
172
安装Java JDK 安装eclipse需要先安装 Java JDK，具体可以看这篇Ubuntu 16.04安装Java JDK 下载eclipse安装器 前往eclipse官网（https://www.eclipse.org/downloads/），根据系统类型下载。 解压并运行其中的eclips ...
分类：
系统相关 时间：
2020-06-11 21:34:01
阅读次数：
70
本地scala version为2.11.8，spark为2.4.0版本 于是修改dr-elephant/build.sbt scalaVersion := "2.11.8" 修改dr-elephant/compile.conf hadoop_version=2.8.4 spark_version= ...
分类：
其他好文 时间：
2020-06-11 13:42:28
阅读次数：
100
第0章-课程介绍 第1章-大数据技术概述 第2章-Scala语言基础 第3章-Spark的设计与运行原理 第4章-Spark环境搭建和使用方法 第5章-RDD编程 第6章-Spark-SQL 第7章-Spark-Streaming 第8章-Spark-MLlib ...
分类：
其他好文 时间：
2020-06-10 23:09:12
阅读次数：
145
1 关于java的继承开发环境： eclipse、IntelliJ IDEA等。 其中目前主流的集成开发环境是：InterlliJ IDEA 这只是一个开发工具，不要让一个开发工具把你难住了。 开发工具不要使用汉化版，太low。 英语单词太多别害怕，及位置。（一共就那几个主要的操作位置） 2 安装I ...
分类：
其他好文 时间：
2020-06-10 23:06:29
阅读次数：
125
