认识Hive 从MapReduce到SQL Hive架构 三种安装方式 Hive与关系型数据库的区别 1. 认识Hive 前面我们讲到了mapreduce计算框架，各位需要通过java编码的形式来实现设计运算过程，Hive的设计目的就是为了让精通sql技能而java较弱的分析师能够利用hadoop进 ...
分类：
其他好文 时间：
2020-11-21 12:33:40
阅读次数：
7
idea调教4 ——热部署 1.在pom加入compiler插件 <plugin> <groupId>org.apache.maven.plugins</groupId> <artifactId>maven-compiler-plugin</artifactId> <version>3.1</ver ...
分类：
其他好文 时间：
2020-11-21 12:08:31
阅读次数：
4
Mybatis的分页查询 PageHelper是一个MyBatis分页插件。 添加依赖 springBoot中添加依赖 <!-- pagehelper --> <dependency> <groupId>com.github.pagehelper</groupId> <artifactId>page ...
分类：
其他好文 时间：
2020-11-19 13:01:26
阅读次数：
22
yarn是什么： 旧版本MapReduce中的JobTracker/TaskTracker在可扩展性、内存消耗、可靠性和线程模型方面存在很多问题，需要开发者做很多调整来修复。 Hadoop的开发者对这些问题进行了Bug修复，可是由此带来的成本却越来越高，为了从根本上解决旧MapReduce存在的问题 ...
分类：
其他好文 时间：
2020-11-19 12:56:26
阅读次数：
17
ApacheRanger简介ApacheRanger提供一个集中式安全管理框架,并解决授权和审计。它可以对Hadoop生态的组件如HDFS、Yarn、Hive、Hbase等进行细粒度的数据访问控制。通过操作Ranger控制台，管理员可以轻松的通过配置策略来控制用户访问权限。Ranger优点：丰富的组件支持（HDFS，HBASE，HIVE，YARN，KAFKA，STORM）提供了细粒度级权限控制（h
分类：
其他好文 时间：
2020-11-18 13:10:32
阅读次数：
10
Ansible一种集成IT系统的配置管理、应用部署、执行特定任务的开源平台/框架。基于Python语言实现，核心模块包括：jinja2、PyYAML和paramiko。Ansible允许重复执行而不出错，客户端无agent，服务端无deamon进程。Ansible特点：Ansible支持API接口调用，例如通过CMDB调用或公有云接口调用Ansible是一个框架，基于模块、插件工作基于SSH工作，
分类：
其他好文 时间：
2020-11-18 12:52:01
阅读次数：
6
IDEA Plugins的Marketplace搜索不到插件解决办法 打开：设置-Appearance&Behavior-System Setting - HTTP Proxy 在右侧选择使用代理，使用动态代理位置打勾，点击Apply 重启IDEA 可以正常搜索插件👇 ...
分类：
其他好文 时间：
2020-11-18 12:28:22
阅读次数：
5
Hadoop/Hive自带权限控制集群安全下需求：支持多组件，最好能支持当前大数据技术栈的主要组件，HDFS、HBASE、HIVE、YARN、KAFKA等支持细粒度的权限控制，可以达到HIVE列，HDFS目录，HBASE列,YARN队列开源，社区活跃，按照现有的集群情况改动尽可能的小，而且要符合业界的趋势。现有方案：Hadoop、Hive本身的权限控制Kerberos安全认证ApacheRange
分类：
其他好文 时间：
2020-11-18 12:15:31
阅读次数：
8
导语如果之前的单机版hadoop环境安装满足不了你，集群版hadoop一定合你胃口，轻松入手。目录集群规划前置条件配置免密登录3.1生成密匙3.2免密登录3.3验证免密登录集群搭建4.1下载并解压4.2配置环境变量4.4修改配置4.4分发程序4.5初始化4.6启动集群4.7查看集群提交服务到集群1.集群规划这里搭建一个3节点的Hadoop集群，其中三台主机均部署DataNode和NodeManag
分类：
其他好文 时间：
2020-11-18 12:13:01
阅读次数：
6
安装中文插件 Settings--> Plugins --> 搜索 Chinese --> 安装下图插件并重启 设置Pytest用例前显示三角执行图标 设置 --> 工具 --> Python集成工具--> 测试 --> 默认测试运行程序选pytest 设置完重启PyCharm，效果如下图。 ...
分类：
其他好文 时间：
2020-11-17 12:30:31
阅读次数：
4
