CDH 离线简易部署文档 文档说明 本文为开发部署文档,生产环境需做相应调整。 以下操作尽量在root用户下操作,避免权限问题。 目录 文档说明 2 文档修改历史记录 2 目录 3 系统环境 4 相关依赖 4 初始准备: 5 java下载和更新 5 修改主机名与主机名解析 5 selinux关闭 6 ...
分类:
其他好文 时间:
2018-05-14 23:03:36
阅读次数:
371
本文以三个节点为例(一个Cloudera Manager节点,两个Agent节点),全面细致的介绍了CDH 5.12的安装与部署。
分类:
其他好文 时间:
2018-05-13 22:05:08
阅读次数:
242
一:namenode出现missing blocks 日常巡检CDH集群和HDP集群发现有些namenode下有很多missing blocks ,hadoop数据存储单位为块。一块64M,这些Missing大多因为元数据丢失而毁坏,就行硬盘故障一样,需要fsck CDH集群 :Cloudera m ...
分类:
其他好文 时间:
2018-05-11 20:14:03
阅读次数:
318
各位,哪位大神帮忙看一下,cdh5.9.2环境中hbase中的regionserver服务没过一段时间就会down
本人已经确认不是时间同步问题,
下面是具体的regionserver日志信息
分类:
系统相关 时间:
2018-05-07 23:49:34
阅读次数:
471
项目实战案例:搜狗日志查询分析数据:一、电商大数据平台整体架构1、大数据(Hadoop、Spark、Hive)都是一种数据仓库的实现方式核心问题:数据存储、数据计算什么是数据仓库?传统的解决大数据的方式,就是一个数据库一般只做查询2、大数据平台整体的架构部署:Apache、Ambari(HDP)、CDH二、在项目中使用使用瀑布模型(软件工程:方法论)1、瀑布模型几个阶段?2、每个阶段完成的任务三、
分类:
其他好文 时间:
2018-05-06 16:22:50
阅读次数:
160
虚拟机网络配置教程如下: 1、修改网络配置文件[root@master ~]# vi /etc/sysconfig/network-scripts/ifcfg-eth0配置IP地址、网关、掩码、DNS等,如下所示:以master为例,其他的从节点配置是一样的步骤,只需要更改对应的IP即可。DEVIC ...
分类:
其他好文 时间:
2018-05-04 01:41:36
阅读次数:
269
Hadoop集群hdfs添加磁盘操作 目前的环境是cdh。服务器部署在Azure;一个cdhmaster(一个namenode,一个datanode),四个cdhslave节点(各一个datanode)。 hdfs现状: 首先是在Azure控制台对每台服务器添加一块磁盘(我这添加的是4T) 在到服务 ...
分类:
其他好文 时间:
2018-05-03 23:27:25
阅读次数:
1226
1.服务器控制台在安全组配置3306端口 2.进入 /etc/ssh/sshd_config 在最下面 加入下面代码 KexAlgorithms diffie-hellman-group1-sha1,curve25519-sha256@libssh.org,ecdh-sha2-nistp256,ec ...
分类:
数据库 时间:
2018-04-30 17:51:55
阅读次数:
232
混合加密机制同时结合了对称加密和非对称加密的优点。 先用计算复杂度高的非对称加密协商出一个临时的对称加密密钥(也称为会话密钥,一般相对所加密内容来说要短得多),然后双方再通过对称加密算法对传递的大量数据进行快速的加解密处理。 典型的应用案例是现在大家常用的HTTPS协议。HTTPS协议正在替换掉传统 ...
分类:
其他好文 时间:
2018-04-24 11:03:22
阅读次数:
165