码迷,mamicode.com
首页 >  
搜索关键字:hadoop集群    ( 910个结果
Hadoop集群搭建
1.修改host vim /etc/hosts 192.168.1.70 slave192.168.1.106 master 2.master免密登陆slave master将公钥发送到slave: scp ~/.ssh/authorized_keys slave:~/ slave将授权登陆 mv  ...
分类:其他好文   时间:2018-08-15 21:05:54    阅读次数:149
Hadoop 集群搭建以及脚本撰写
sudo adduser hadoop sudo 创建Hadoop用户 首先按 ctrl+alt+t 打开终端窗口,输入如下命令创建新用户 : 创建Hadoop用户 首先按 ctrl+alt+t 打开终端窗口,输入如下命令创建新用户 : sudo useradd -m hadoop -s /bin/ ...
分类:其他好文   时间:2018-08-14 19:55:54    阅读次数:217
虚拟机上的Ubuntu 文件系统成为只读模式的解决办法
虚拟机环境的Linux系统由于是虚拟化虚拟出来的主机环境,因此 经常会出现一些操作系统的问题,今天我遇到了一个Ubuntu操作系统文件系统成了只读模式,无法进行系统的操作,由于出问题的主机是我个人搭建的Hadoop集群的name主节点,对整个集群时比较重要的,因此在网上也查了一些资料,后来也成功解决 ...
分类:系统相关   时间:2018-08-13 00:46:53    阅读次数:295
centos7配置Hadoop集群环境
参考: https://blog.csdn.net/pucao_cug/article/details/71698903 设置免密登陆后,必须重启ssh服务 systermctl restart sshd.service ssh服务介绍: 两种登陆方式: 1.密码登陆 2.密钥登陆 启动 http: ...
分类:其他好文   时间:2018-08-11 20:53:15    阅读次数:247
离线部署 Cloudera Manager 5 和 CDH 5.12.1 及使用 CDH 部署 Hadoop 集群服务
Cloudera Manager Cloudera Manager 分为两个部分:CDH和CM。 CDH是Cloudera Distribution Hadoop的简称,顾名思义,就是cloudera公司发布的Hadoop版本,封装了Apache Hadoop,提供Hadoop所有的服务,包括HDF ...
分类:其他好文   时间:2018-08-09 23:16:00    阅读次数:291
最近有安装了一次hadoop集群,NameNode启动失败,及原因
最近有安装了一次hadoop集群,NameNode启动失败,查看日志,找到以下原因: 遇到的异常1: org.apache.hadoop.hdfs.server.common.InconsistentFSStateException: Directory /tmp/hadoop-javoft/dfs ...
分类:其他好文   时间:2018-08-04 17:26:25    阅读次数:182
hadoop伪分布式搭建
Hadoop集群搭建及介绍: 什么是hadoop? Hadoop是Apache开源的,可靠的,可扩展的一个项目; 能解决的问题是: 1、海量数据的存储(hdfs) 2、海量数据的分析(MapReduce) 3、资源管理调度(YARN) 1、Hadoop子项目家族成员: 2、修改主机名: 3、配置ss ...
分类:其他好文   时间:2018-08-01 19:45:02    阅读次数:153
大数据随笔(二)
Hive    Hive是一个构建在Hadoop上的数据仓库框架,设计目的是让精通SQL的分析师能够对存放在HDFS上的大规模数据集执行查询操作。    Hive把数据组织为表,通过这种方式为存储在HDFS的数据赋予结构,并将表模式等元数据存储在名为Merastore的数据库中。基于这种类似关系的数据模型,Hive把SQL查询转换为一系列在Hadoop集群上
分类:其他好文   时间:2018-08-01 11:39:28    阅读次数:132
hadoop 1.x 集群环境的搭建
本文主要以个人工作学习总结为主,同时也为了方便更多的兴趣爱好者参与学习交流,现将具体的搭建步骤分享如下: 一.基础环境 1.1 jdk的安装与配置 Hadoop是用Java开发的,Hadoop的编译及MapReduce的运行都需要使用JDK。 ①上传jdk压缩包:这里使用的是WinScp工具 上传j ...
分类:其他好文   时间:2018-07-30 17:59:23    阅读次数:149
HIVE的安装
第一部分 安装前准备 环境:workstation11 + centos 7 + hadoop-2.7.7 + mysql 5.6.40 + hive 2.3.3 首先安装mysql,步骤看这里。 接着安装HIVE。 第二部分 正式安装HIVE 1.开启hadoop集群,并关闭hadoop的安全模式 ...
分类:其他好文   时间:2018-07-30 11:15:03    阅读次数:1434
910条   上一页 1 ... 25 26 27 28 29 ... 91 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!