这里介绍两个常用的管理hadoop集群的脚本 hadoop集群启停脚本myhadoop.sh #!/bin/bash if [ $# -lt 1 ] then echo "No Args Input..." exit ; fi case $1 in "start") echo " 启动 hadoop ...
分类：
其他好文 时间：
2021-05-04 15:28:54
阅读次数：
0
01.安装VMware，加载centos镜像软件。配置主机、VMware、Windows的IP地址。 02.hadoop中目录介绍：bin目录 hdfs 、mapred、 yarn 命令 etc目录包含hdfs 、mapred、 yarn 相关的配置文件 sbin 目录与集群相关的命令 share目 ...
分类：
其他好文 时间：
2021-04-29 11:57:44
阅读次数：
0
#Hadoop 分布式计算平台，同时也是一个生态圈 hadoop 1.X HDFS+MapReducer+Common hadoop 2.X HDFS+MAP+Reducer+Common hadoop 3.X java7->java8，引入纠删码，重写shell脚本，支持超过两个NameNode， ...
分类：
其他好文 时间：
2021-04-27 15:04:12
阅读次数：
0
logback简单实现对日志的保存和处理,且保存有效时间,7天, 配置文件 <?xml version="1.0" encoding="UTF-8"?> <configuration> <springProperty scope="context" name="loglevel" source="l ...
分类：
编程语言 时间：
2021-04-26 13:55:32
阅读次数：
0
原文链接：https://www.cnblogs.com/zsql/ 本篇主要对hadoop命令和hdfs命令进行阐述，yarn命令会在之后的文章中体现 hadoop fs命令可以用于其他文件系统，不止是hdfs文件系统内，也就是说该命令的使用范围更广可以用于HDFS、Local FS等不同的文件系 ...
分类：
其他好文 时间：
2021-04-26 13:47:48
阅读次数：
0
利用docker-compose+nginx，实现负载均衡部署，根据官网的例子，还是有一定的坑，摸索一番之后终于找到解决方案。 1.创建docker-compose.yaml文件 version: '3.7' # starts 4 docker containers running minio se ...
分类：
其他好文 时间：
2021-04-26 13:34:12
阅读次数：
0
HBase客户端开发API 建立连接 import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.hbase.*; import org.apache.hadoop.hbase.client.*; import org. ...
分类：
编程语言 时间：
2021-04-26 13:29:32
阅读次数：
0
默认dev环境schema 是不cache，所以会每次执行，生成环境是必须cach的，但是cache就有schemaversion 的问题 所以基于cache-manager 包装了一个cache处理的，代码很简单，但是可以提高对于schemaversion的时间消耗 参考包装代码 schemave ...
分类：
Web程序 时间：
2021-04-26 13:13:33
阅读次数：
0
基于Hadoop的sqoop组件的部署 什么是 Sqoop Sqoop 是一款开源的工具，主要用于在 Hadoop(Hive)与传统的数据库(mysql、postgresql...) 间进行数据的传递，可以将一个关系型数据库（例如 ： MySQL ,Oracle ,Postgres 等）中的 数据导 ...
分类：
其他好文 时间：
2021-04-26 13:03:24
阅读次数：
0
kafka功能简单测试 启动zookeeper 启动zk命令： ./zhServer.sh start 启动akfka（注意server.properties的配置） 启动akfka命令：./kafka-server-start.sh /home/hadoop/app/kafka_2.11-0.9. ...
分类：
其他好文 时间：
2021-04-24 13:16:11
阅读次数：
0
