问题 执行 spark-submit --master local模式时产生warn并达重试数限制失败,导致spark local不能启动: ... WARN Utils: Service 'sparkDriver' could not bind on port 0. Attempting port ...
分类:
其他好文 时间:
2020-04-29 12:46:42
阅读次数:
126
安装前准备: 首先,要有一个HDFS集群,并正常运行; regionserver应该跟hdfs中的datanode在一起 其次,还需要一个zookeeper集群,并正常运行 然后,安装HBASE 开始安装hbase集群 1.解压安装包 tar -zvxf hbase-1.2.1-bin.tar.gz ...
分类:
其他好文 时间:
2020-04-18 18:35:01
阅读次数:
74
准备工作 需要先安装好Zookeeper集群和Hadoop集群 Zookeeper集群启动 Hadoop集群启动 HBase集群搭建 HBase解压 配置文件 hbase env.sh hbase site.xml regionservers 将hadoop的hdfs site.xml和core s ...
分类:
其他好文 时间:
2020-04-16 19:33:00
阅读次数:
61
1.配置管理——需求是数据一致性 ZooKeeper 采用的是推拉相结合的方式:客户端向服务端注册自己需要关注的节点,一旦该节点的数据发生变更,那么服务端就会向相应的客户端发送Watcher事件通知,客户端接收到这个消息通知之后,需要主动到服务端获取最新的数据。 2.命名服务 服务需要被访问,如服务 ...
分类:
其他好文 时间:
2020-04-12 22:40:26
阅读次数:
80
一、首先,我们假设已经准备好三台互相联网的Linux机器,它们的IP地址分别为IP1、IP2和IP3。 二、配置文件zoo.cfg。初次使用ZooKeeper, 需要将%ZK_ HOME%/conf目录下的z00_ sample.cfg 文件重命名为zoo.cfg,并且按照如下代码进行简单配置即可: ...
分类:
其他好文 时间:
2020-04-09 12:38:57
阅读次数:
72
Zookeeper 我想大家都不陌生,在很多场合都听到它的名字。它是 Apache 的一个顶级项目,为分布式应用提供一致性高性能协调服务。可以用来做:配置维护、域名服务、分布式锁等。有很多开源组件,尤其是中间件领域,使用 Zookeeper 作为配置中心或者注册中心。它是 Hadoop 和 HBase 的重要组件,是 Kafka 的管理和协调服务,是 Dubbo 等服务框架的注册中心等。
分类:
其他好文 时间:
2020-04-09 11:05:58
阅读次数:
97
需要先部署jdk环境 这次通过手工部署的方式, 先上传jdk的tar包 解压到指定目录 vim /etc/profile 修改环境变量添加jdk环境 source /etc/profile 使配置生效 查看jdk版本 搭建Zookeeper集群 先创建节点文件夹 设定机器ip 运行节点1 运行节点2 ...
分类:
其他好文 时间:
2020-04-08 18:46:34
阅读次数:
75
pi4接灰几个月了,看到各种pi的操作系统,想着自己习惯的centos能否装到pi4上,果然centos做好了pi4的适配。不过在选择版本上绕了些弯路,网上的华为镜像的centos7的版本貌似不能启动(不知道是否是因为用mac烧录没选对参数的原因),centos官网的8版本也不能正常启动(报网络错) ...
分类:
其他好文 时间:
2020-04-04 22:24:55
阅读次数:
89
前几天更换了一台电脑,安装好Windows10,安装ensp模拟器,安装好ensp后,发现AR都启动不了。卸载重新安装还是不行,此时度娘了一下,发现都说是协助不彻底,没有清理干净安装插件。我做了最绝的一招,我把电脑硬盘格式重新分区,重新安装Windows10。再次安装ensp还是启动还是有故障40。后来根据网上的说法折腾了好几天,均已失败告终。以上都是废话下面才是重点,后来咨询我朋友,我朋友告诉我
分类:
其他好文 时间:
2020-04-04 09:22:18
阅读次数:
1372
一、zookeeper介绍: ZooKeeper是一个分布式且开源的分布式应用程序协调服务。 zookeeper集群特性:整个集群种只要有超过集群数量一半的zookeeper工作只正常的,那么整个集群对外就是可用的,假如有2台服务器做了一个zookeeper集群,只要有任何一台故障或宕机,那么这个z ...
分类:
其他好文 时间:
2020-03-23 09:36:42
阅读次数:
73