hadoop1.X架构 架构模型 分布式文件系统核心模块: namenode:集群中的主节点,管理元数据(文件的大小,文件的位置,文件的权限)。 secondaryNameNode:辅助namenode管理元数据信息。 dadanode:集群当中的从节点,主要存储集群中的各种数据。 分布式数据计算核 ...
分类：
其他好文 时间：
2020-12-28 11:29:22
阅读次数：
0
hive作为一个sql查询引擎，自带了一些基本的函数，比如count(计数)，sum(求和)，有时候这些基本函数满足不了我们的需求，这时候就要写hive hdf(user defined funation)，又叫用户自定义函数。 UDF 创建与使用步骤 继承org.apache.hadoop.hiv ...
分类：
其他好文 时间：
2020-12-25 13:07:42
阅读次数：
0
一. 前期准备 1. Vmware workstation pro 16 官网下载 : https://www.vmware.com/ 密钥：ZF3R0-FHED2-M80TY-8QYGC-NPKYF （若失效请自行百度） 2. xshell,xftp 官网下载（需要注册） 3. 国内镜像网站下载c ...
章节： 第一章节：CentOS 7 配置hadoop(一) 安装虚拟机（伪分布） 第二章节：CentOS 7 配置hadoop(二) 配置hdfs（伪分布） 第三章节：CentOS 7 配置hadoop(三) 配置hbase（伪分布） 第四章节：CentOS 7 配置hadoop(四) 配置hive ...
分类：
其他好文 时间：
2020-12-21 11:30:46
阅读次数：
0
hadoop Shuffle Error: Exceeded MAX_FAILED_UNIQUE_FETCHES; bailing-out 程序里面需要打开多个文件，进行分析，系统一般默认数量是1024，（用ulimit -a可以看到）对于正常使用是够了，但是对于程序来讲，就太少了。修改办法：修改2 ...
分类：
其他好文 时间：
2020-12-19 13:37:26
阅读次数：
3
连接hdfs 根据hdfs的版本引用相关的hdfs依赖 <!-- https://mvnrepository.com/artifact/org.apache.hadoop/hadoop-client --> <dependency> <groupId>org.apache.hadoop</group ...
1. 配置主机名 [root@hadoop01 ~]# hostname #显示当前主机名 方法一：通过配置文件/etc/hostname （重启后生效） [root@hadoop01 ~]# vim /etc/hostname 方法二：通过命令hostnamectl set-hostname 新主 ...
分类：
其他好文 时间：
2020-12-17 12:11:05
阅读次数：
2
编译源码文件为可执行文件 下载Redis源码文件 **1.进入Redis官网获取文件下载地址** 2.使用wget下载源码文件 解压源码文件 3.下载的源码文件为压缩包，使用tar命令解压源码文件 tar xzf 源码压缩包文件名 编译源码为可执行文件 4.进入解压后的文件夹执行make命令进行编译 ...
分类：
其他好文 时间：
2020-12-16 12:57:41
阅读次数：
5
前言经过几个小伙伴的提醒，发现个人博客中的许多图片都裂了无法访问；原因就不多说，既然出现问题就得要解决。原本我的处理方式非常简单粗暴：找到原有的图片重新下载下来上传到新的可用图床再把图片地址替换。这样搞了一两篇之后我就绝望了。。。之前为了代码能在公众号里也有好的阅读体验，所以能截图的我绝不贴代码，导致一篇文章多的得有十几张图片。好在哪位大佬说过“以人肉XX为耻”，这种重复劳动力完全可自动化；于是便
分类：
其他好文 时间：
2020-12-16 12:53:50
阅读次数：
3
自从成为架构师之后，李大胖的学习动力似乎少了一些，尤其是今年（当然也有一些客观因素）。临近岁末，内心着实有些惭愧，决定学习一把大数据。跟随一下业界前沿（其实已经不是前沿了），梦想着有一天能够拥有拥有梦想的权力。操练起来启动装有CentOS的虚拟机（IP是172.18.232.181），按照官方文档内容选择hadoop-2.8.5和hbase-2.0.2，还有zookeeper-3.4.11进行下载
分类：
其他好文 时间：
2020-12-16 12:26:00
阅读次数：
3
