操作过程 2.1 数据准备 A.1sudo mkdir usr/local/bigdatacase A.2sudo chown -R hadoop:hadoop ./bigdatacase A.3mkdir usr/local/bigdatacase/dataset A.4 A.5 B.1sed - ...
分类:
Web程序 时间:
2020-12-30 11:30:32
阅读次数:
0
故障现象 nginx反向代理至nodePort_service端口,客户端去访问nginx时异常卡顿. 尝试解决 给对应的deploy资源对象扩大资源限制范围 经过分析,发现,访问流程是:nginx-->nodePort_service,在这个过程中,是nginx代理去访问了同样部署在本机的node ...
分类:
其他好文 时间:
2020-12-30 11:13:20
阅读次数:
0
二 HDFS部署 主要步骤如下:1. 配置Hadoop的安装环境;2. 配置Hadoop的配置文件;3. 启动HDFS服务;4. 验证HDFS服务可用。1‘ 查看是否存在hadoop安装目录 ls /usr/cstor/hadoop 如果没有,利用工具从本地导入hadoop安装文件。 查看jdk是否 ...
分类:
其他好文 时间:
2020-12-30 11:10:24
阅读次数:
0
pinpoint 问题解决 1、故障一 最近在部署好了 pinpoint 后,然后 agent 也启动了,并且在web 检测发现该agent 也有注册信息。但是服务调用的信息和 服务的 JVM 信息等一些其他信息是没有收集的。 问题所在: pinpoint collector 监听使用的端口是 :9 ...
分类:
其他好文 时间:
2020-12-29 11:45:08
阅读次数:
0
需要准备 hadoop-2.6.0-cdh5.7.0 、jdk1.8.0_161 、zookeeper-3.4.5-cdh5.7.0、 hive-1.1.0-cdh5.7.0 1.在hadoop 的etc/hadoop/目录中的文件 core-site.xml 添加下面代码 ,其中颜色标记部分为你的 ...
分类:
其他好文 时间:
2020-12-29 11:30:43
阅读次数:
0
hadoop1.X架构 架构模型 分布式文件系统核心模块: namenode:集群中的主节点,管理元数据(文件的大小,文件的位置,文件的权限)。 secondaryNameNode:辅助namenode管理元数据信息。 dadanode:集群当中的从节点,主要存储集群中的各种数据。 分布式数据计算核 ...
分类:
其他好文 时间:
2020-12-28 11:29:22
阅读次数:
0
hive作为一个sql查询引擎,自带了一些基本的函数,比如count(计数),sum(求和),有时候这些基本函数满足不了我们的需求,这时候就要写hive hdf(user defined funation),又叫用户自定义函数。 UDF 创建与使用步骤 继承org.apache.hadoop.hiv ...
分类:
其他好文 时间:
2020-12-25 13:07:42
阅读次数:
0
一. 前期准备 1. Vmware workstation pro 16 官网下载 : https://www.vmware.com/ 密钥:ZF3R0-FHED2-M80TY-8QYGC-NPKYF (若失效请自行百度) 2. xshell,xftp 官网下载(需要注册) 3. 国内镜像网站下载c ...
程序员书库(ID:OpenSourceTop)编译链接:https://www.ossblog.org/best-free-nosql-books/开发应用程序时,第一个要考虑的是用SQL还是NOSQL数据库来存储数据,这意味着你选择的是非关系型数据库,它有时也被称为非结构化存储。和其他类型的数据库一样,NoSQL系统用于存储和检索数据。但NoSQL系统以高速和高度灵活的方式存储和管理数据,这对大
分类:
数据库 时间:
2020-12-24 12:22:58
阅读次数:
0
前言 上文我们聊了基于Sentinel的Redis高可用架构,了解了Redis基于读写分离的主从架构,同时也知道当Redis的master发生故障之后,Sentinel集群是如何执行failover的,以及其执行failover的原理是什么。 这里大概再提一下,Sentinel集群会对Redis的主 ...
分类:
其他好文 时间:
2020-12-24 11:47:28
阅读次数:
0