先stop-all.sh 删除hdfs-site.xml中的这两个目录 然后删除core-site.xml 中的这个目录 然后格式化hdfs hdfs namenode -format 即可启动成功 注意:顺序不要错,很多人namnode起不来都是顺序错了 ...
分类:
其他好文 时间:
2019-12-04 19:59:58
阅读次数:
108
1、Hive是一种建立在Hadoop文件系统上的数据仓库架构,并对存储在HDFS中的数据进行分析和管理;(也就是说对存储在HDFS中的数据进行分析和管理,我们不想使用手工,我们建立一个工具把,那么这个工具就可以是hive) 2、 hive建表语法中的分隔符设定ROW FORMAT DELIMITED ...
分类:
其他好文 时间:
2019-12-04 10:35:57
阅读次数:
88
(1)列出HDFS下的文件 hadoop dfs -ls <目录> (2)上传文件 将Linux系统本地文件上传到HDFS中 hadoop dfs -put <本地文件> <HDFS文件> (3)下载文件 将HDFS 中的文件下载到Linux系统本地目录 hadoop dfs -get <HDFS文 ...
分类:
其他好文 时间:
2019-12-03 21:45:49
阅读次数:
82
Nacos 提供了一组简单易用的特性集,可快速实现动态服务发现、服务配置、服务元数据及流量管理。 更敏捷和容易地构建、交付和管理微服务平台。 关键特性: 服务发现和服务健康监测 动态配置服务 动态 DNS 服务 服务及其元数据管理 1.启动服务 下载 地址 解压 双击 startup.cmd 2.服 ...
分类:
其他好文 时间:
2019-12-03 20:04:52
阅读次数:
88
一、环境准备 ①准备三台虚拟机,配置静态IP ②先修改主机名(每个节点统一命名规范) vim /etc/hostname master #重启生效 配置DNS每个节点 vim /etc/hosts 192.168.60.121 master192.168.60.122 salve1 192.168. ...
分类:
其他好文 时间:
2019-12-03 18:08:46
阅读次数:
106
1. 前置条件: 已经安装好了带有HDFS, MapReduce, Yarn 功能的 Hadoop集群 链接: "ubuntu18.04.2 hadoop3.1.2+zookeeper3.5.5高可用完全分布式集群搭建" 2. 上传tar包并解压到指定目录: 3. 修改hive配置文件: 新建文件夹 ...
分类:
其他好文 时间:
2019-12-02 13:51:54
阅读次数:
127
首先准备工具环境:hadoop2.7+mysql5.7+sqoop1.4+hive3.1 准备一张数据库表: 接下来就可以操作了。。。 一、将MySQL数据导入到hdfs 首先我测试将zhaopin表中的前100条数据导出来,只要id、jobname、salarylevel三个字段。 再Hdfs上创 ...
分类:
数据库 时间:
2019-12-01 17:03:39
阅读次数:
118
Kafka入门介绍 https://www.cnblogs.com/swordfall/p/8251700.html最近在看hdoop的hdfs 以及看了下kafka的底层存储,发现分布式的技术基本上都是相同的。 都是通过增加一个coordinator的节点作为存储元数据, 将实体数据放到datan ...
分类:
其他好文 时间:
2019-12-01 09:52:12
阅读次数:
85
创建表: 如下的格式 CREATE [TEMPORARY] [EXTERNAL] TABLE [IF NOT EXISTS] [db_name.] table_nameLIKE existing_table_or_view_name[LOCATION hdfs_path]; 拷贝表结构,不拷贝表数据 ...
分类:
其他好文 时间:
2019-12-01 09:47:31
阅读次数:
100
Hadoop — HDFS的概念、原理及基本操作 https://www.cnblogs.com/swordfall/p/8709025.html 分类: Hadoop undefined 1. HDFS的基本概念和特性 设计思想——分而治之:将大文件、大批量文件分布式存放在大量服务器上,以便于采取 ...
分类:
其他好文 时间:
2019-12-01 09:30:58
阅读次数:
95