码迷,mamicode.com
首页 >  
搜索关键字:ambari hadoop hbase hive spark    ( 26003个结果
初识 IoTdb 时间序列数据库(一)
概述: IoTDB 是针对时间序列数据收集、存储与分析一体化的数据管理引擎。它具有体量轻、性能高、易使用的特点,完美对接 Hadoop 与 Spark 生态, 适用于工业物联网应用中海量时间序列数据高速写入和复杂分析查询的需求。 安装环境: 1,安装前需要保证设备上配有JDK>=1.8的运行环境,并 ...
分类:数据库   时间:2020-05-14 19:32:44    阅读次数:540
Linux中判断hdfs文件是否存在
在Linux文件系统中,我们可以使用下面shell脚本判断某个文件是否存在: # 这里的-f参数判断$file是否存在 if [ ! -f "$file" ]; then echo "文件不存在!" fi 但是我们想判断hdfs上某个文件是否存在咋办呢?Hadoop内置提供了判断某个文件是否存在的命 ...
分类:系统相关   时间:2020-05-14 11:33:50    阅读次数:70
记录一下window idea 如何直连sparksql 使用hive数据元数据
换了几个开发环境,每次都会遇到sparksql连不上元数据的情况,整理一下脱坑吧。。。。。 进入主题: 首先说一下几个文件吧,这些是我遇到的几个问题的解决方法,有可能你并不适用,仅供参考。 1、配置文件放在resources下面 2、下载hadoop-common-2.2.0-bin-master ...
分类:数据库   时间:2020-05-14 11:27:02    阅读次数:101
实习生面试汇总
百度大数据实习生:(百度科技园一号楼) 2018-3-31 笔试: 1.双指针的题 2.找出字符串中第一个出现两次的字母 3.通过前中序求二叉树 4.快速排序,堆排序 5.数据库的左右连接 面试: 1.MapReduce分几步,shuffle原理 2.hive 的知识 3.数据库,数据仓库 4.代码 ...
分类:其他好文   时间:2020-05-14 01:50:12    阅读次数:77
内存管理
作为一个JVM进程,EXecutor的内存管理建立在JVM的内存管理之上,Spark对JVM的对内空间进行了更为详细的分配,以充分利用内存。同时,Spark引入了堆外内存,使之可以直接在工作节点的系统内存中开辟空间,进一步优化内存的使用。 堆内内存收到JVM统一管理,堆外内存是直接向操作系统进行内存 ...
分类:其他好文   时间:2020-05-13 23:30:58    阅读次数:71
HBase架构与工作原理
原文地址:https://www.cnblogs.com/frankdeng/p/9310278.html 一、系统架构 注意:应该是每一个 RegionServer 就只有一个 HLog,而不是一个 Region 有一个 HLog。 从HBase的架构图上可以看出,HBase中的组件包括Clien ...
分类:其他好文   时间:2020-05-13 20:40:22    阅读次数:84
MapReduce编程之实例分析:wordCount
1.WordCount程序任务 输入:一个包含大量单词的文本文件 输出:文件中没个单词及出现的次数(频数),并按照单词顺序排序每个单词和其频数占一行,单词和频数之间有间隔 2.WordCount程序设计思路 WordCount可以使用MapReduce去做 在/usr/local/目录下创建Word ...
分类:其他好文   时间:2020-05-13 19:46:40    阅读次数:77
spark读取hbase数据
https://www.bilibili.com/video/av83930526/ https://blog.csdn.net/yuanbingze/article/details/51891222 ...
分类:其他好文   时间:2020-05-13 12:28:00    阅读次数:56
HBase Filter 过滤器之QualifierFilter详解
前言: 本文详细介绍了 HBase QualifierFilter 过滤器 Java&Shell API 的使用,并贴出了相关示例代码以供参考。QualifierFilter 基于列名进行过滤,在工作中涉及到需要通过HBase 列名进行数据过滤时可以考虑使用它。比较器细节及原理请参照之前的更文: " ...
分类:其他好文   时间:2020-05-13 10:03:15    阅读次数:61
Scala_模式匹配
一个模式匹配包含了一系列备选项,每个都开始于关键字 case。每个备选项都包含了一个模式及一到多个表达式。箭头符号 => 隔开了模式和表达式。 1. package scalaprogram.May07 import scala.util.Random //模式匹配 升级版的switch语句 obj ...
分类:其他好文   时间:2020-05-12 20:19:21    阅读次数:59
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!