题目三：使用Spark Core 统计文件中以spark开头的单词中，每个单词出现的次数（共计30分） spark-core hadoop linux java spark-sql storm html css vue spark spring springboot struts spark-hiv ...
分类：
其他好文 时间：
2020-05-26 22:06:21
阅读次数：
102
说明：数据清洗的过程往往只需要运行Mapper程序，不需要运行Reduce程序。 已采集到日志数据存入web.log文件中，其中一条日志格式如下： 101.206.68.147 - - [18/Sep/2018:20:05:16 +0000] "HEAD / HTTP/1.2" 200 20 "-" ...
分类：
其他好文 时间：
2020-05-25 12:28:31
阅读次数：
61
MapReduce没有输出，得到一个空的文件夹 1. Map输出类型和Reducer的输入类型对不上 2. myMapper和myReducer类不是static的，这样在主方法中使用myReducer.class就有问题 将数据放入集合总会放入同一个引用问题 在reduce()方法中直接将key和 ...
分类：
其他好文 时间：
2020-05-24 12:05:23
阅读次数：
68
1、在配置jar包的时候发现如果hadoop.jar包的版本高于所运行的hadoop版本会报错，甚至无法创建工程文件，不兼容高版本的jar包 2、在运行mapreduce的时候需要将所需要map的文件上传到hadoop服务器上的/user/hadoop/，否则在默认路径找不到这个文件 3、当map结 ...
分类：
其他好文 时间：
2020-05-23 20:08:24
阅读次数：
49
1、presto是什么 Presto是由Facebook开发的一个分布式SQL查询引擎，是专门设计为用来专门进行大数据实时查询计算而设计和开发的产品。 它是为了解决Hive的MapReduce模型太慢以及不能通过BI或Dashboards直接展现HDFS数据等问题。 2、presto特点 prest ...
分类：
其他好文 时间：
2020-05-23 18:05:11
阅读次数：
249
1. UDF 2.UDAF 3.UDTF hive是一个计算引擎. mapreduce 慢，吞吐量达. hive有点像一个hadoop的客户端,他不是分布式的. ...
分类：
其他好文 时间：
2020-05-19 10:43:18
阅读次数：
40
Hive产生背景： mapreduce编程的不便性 HDFS上的文件缺少Schema Hive Facebook开源的，最初用于海量结构化的日志数据统计问题 构建在hadoop之上的数据仓库 hive定义了一种类SQL查询语言：HQL（类似SQL但不完全相同） 通常用于离线数据处理（采用mapred ...
分类：
其他好文 时间：
2020-05-18 16:01:16
阅读次数：
183
## java最新面试题2020# 一面 1. “Spark还有Ruby啊，会的挺多，既然你啥都会点咱们就不局限于Java了”2. 聊了聊美团实习的项目，聊到了Spark，然后说到了Spark相对于MapReduce的改进，然后3. “Spark熟吗”4. “那你这个需求怎么做的”5. “那咱们就从... ...
分类：
编程语言 时间：
2020-05-18 14:31:41
阅读次数：
162
概述 Map Reduce 分布式并行编程：借助一个集群通过多台机器同时并行处理大规模数据集 1、mapreduce编程思想 核心设计两个函数：Map函数和Reduce函数 策略：分而治之，把非常庞大的数据集，切分成非常多独立的小分片，然后为每一个分片单独地启动一个map任务，最终通过多个map任务 ...
分类：
其他好文 时间：
2020-05-18 00:31:27
阅读次数：
133
hive是如何将HQL转换成MapReduce程序的呢，通过对hive架构的学习，您将全面了解hive的工作流程以及数据处理过程
分类：
其他好文 时间：
2020-05-17 09:15:54
阅读次数：
85
