hadoop1.X架构 架构模型 分布式文件系统核心模块: namenode:集群中的主节点,管理元数据(文件的大小,文件的位置,文件的权限)。 secondaryNameNode:辅助namenode管理元数据信息。 dadanode:集群当中的从节点,主要存储集群中的各种数据。 分布式数据计算核 ...
分类：
其他好文 时间：
2020-12-28 11:29:22
阅读次数：
0
hive作为一个sql查询引擎，自带了一些基本的函数，比如count(计数)，sum(求和)，有时候这些基本函数满足不了我们的需求，这时候就要写hive hdf(user defined funation)，又叫用户自定义函数。 UDF 创建与使用步骤 继承org.apache.hadoop.hiv ...
分类：
其他好文 时间：
2020-12-25 13:07:42
阅读次数：
0
一. 前期准备 1. Vmware workstation pro 16 官网下载 : https://www.vmware.com/ 密钥：ZF3R0-FHED2-M80TY-8QYGC-NPKYF （若失效请自行百度） 2. xshell,xftp 官网下载（需要注册） 3. 国内镜像网站下载c ...
接上文 七、安装tomcat tomcat的安装相对简单： 从tomcat官网下tomcat的压缩包: https://tomcat.apache.org/download-80.cgi 2. 安装 解压文件 tar -zxvf 压缩文件名.tar.gz 修改8080端口为80端口 假设tomcat ...
分类：
其他好文 时间：
2020-12-23 12:11:04
阅读次数：
0
软件分享 Snipaste.exe 截图软件 [https://www.cnblogs.com/renxuw/p/13026846.html](软件分享) 安装node.js 设置缓存路径: npm config set cache "C:\Program Files\nodejs\node_cac ...
分类：
其他好文 时间：
2020-12-22 12:35:59
阅读次数：
0
首先要搭建php+Mysql环境，我这里是用的XAMPP集成环境，可百度自行下载。 下载Upload-Labs，github项目地址：https://github.com/c0ny1/upload-labs 解压到php环境下根目录：htdocs下 在浏览器中直接输入地址：http://127.0. ...
分类：
其他好文 时间：
2020-12-21 12:04:51
阅读次数：
0
在项目中我们经常会有压测的需求，而小巧轻便且免费的JMeter也顺势成为了我们的主流压测工具。 JMeter是Apache组织开发的开源项目，设计之初是用于做性能测试的，同时它在实现对各种接口的调用方面做得比较成熟，因此，常被用作接口功能测试和性能测试。它能够很好的支持各种常见接口，如HTTP(S) ...
章节： 第一章节：CentOS 7 配置hadoop(一) 安装虚拟机（伪分布） 第二章节：CentOS 7 配置hadoop(二) 配置hdfs（伪分布） 第三章节：CentOS 7 配置hadoop(三) 配置hbase（伪分布） 第四章节：CentOS 7 配置hadoop(四) 配置hive ...
分类：
其他好文 时间：
2020-12-21 11:30:46
阅读次数：
0
hadoop Shuffle Error: Exceeded MAX_FAILED_UNIQUE_FETCHES; bailing-out 程序里面需要打开多个文件，进行分析，系统一般默认数量是1024，（用ulimit -a可以看到）对于正常使用是够了，但是对于程序来讲，就太少了。修改办法：修改2 ...
分类：
其他好文 时间：
2020-12-19 13:37:26
阅读次数：
3
连接hdfs 根据hdfs的版本引用相关的hdfs依赖 <!-- https://mvnrepository.com/artifact/org.apache.hadoop/hadoop-client --> <dependency> <groupId>org.apache.hadoop</group ...
