第一部分:Linux环境安装 Hadoop是运行在Linux,虽然借助工具也可以运行在Windows上,但是建议还是运行在Linux系统上,第一部分介绍Linux环境的安装、配置、Java JDK安装等。 第二部分:Hadoop本地模式安装 Hadoop本地模式只是用于本地开发调试,或者快速安装体验 ...
分类:
其他好文 时间:
2019-07-26 19:40:40
阅读次数:
114
学习大数据首先要了解大数据的学习路线,首先搞清楚先学什么,再学什么,大的学习框架知道了,剩下的就是一步一个脚印踏踏实实从最基础的开始学起。
分类:
其他好文 时间:
2019-07-14 23:57:19
阅读次数:
220
架构图 考虑到日志系统的可扩展性以及目前的资源(部分功能复用),整个ELK架构如下: 架构解读 : (整个架构从左到右,总共分为5层) 第一层、数据采集层 最左边的是业务服务器集群,上面安装了filebeat做日志采集,同时把采集的日志分别发送给两个logstash服务(2.187、2.189) 第 ...
分类:
其他好文 时间:
2019-07-04 17:38:00
阅读次数:
181
一般情况下windows网络共享与samba用户局域网网络共享.互联网中小型网站集群架构后端常用NFS进行数据共享.大型网站会用到更复杂的Moosefs(mfs)(小文件)GlusterFS(大文件)FastDFS(小文件).自行学习三个主服务rpc.nfsrpcbindrpc服务端1.yuminstall-ynfs-utils自动创建nfs-nobody2.开启rpcbind开启nfs加入开机启
分类:
其他好文 时间:
2019-07-04 09:47:40
阅读次数:
132
什么是负载均衡 当一台服务器的单位时间内的访问量越大时,服务器压力就越大,大到超过自身承受能力时,服务器就会崩溃。为了避免服务器崩溃,让用户有更好的体验,我们通过负载均衡的方式来分担服务器压力。 我们可以建立很多很多服务器,组成一个服务器集群,当用户访问网站时,先访问一个中间服务器,在让这个中间服务 ...
分类:
其他好文 时间:
2019-07-04 09:34:53
阅读次数:
83
FastDFS分布式文件系统 1. 什么是FastDFS FastDFS 是用 c 语言编写的一款开源的分布式文件系统。FastDFS 为互联网量身定制, 充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用 FastDFS 很容易搭建一套高性能的文件服务器集群提供文件上传 ...
分类:
其他好文 时间:
2019-07-02 19:02:10
阅读次数:
96
SpringBoot整合RocketMQ 上篇博客讲解了服务器集群部署RocketMQ 博客地址: "RocketMQ(2) Docker部署RocketMQ集群" 这篇在上篇搭建好的基础上,将SpringBoot整合RocketMQ实现生产消费。 : "https://github.com/yud ...
分类:
编程语言 时间:
2019-06-30 15:51:20
阅读次数:
119
分布式管理session的四种方式:1.session复制、2.会话保持、3.cookie记录session、4.session服务器(集群) ...
分类:
其他好文 时间:
2019-06-29 18:54:24
阅读次数:
187
大数据云计算高级实战Hadoop,Flink,Spark,Kafka,Storm,Docker,ElaticStack高级技术 ...
分类:
其他好文 时间:
2019-06-24 16:54:49
阅读次数:
167
1.Nginx负载均衡基本概述 1.1为什么需要使用负载均衡 当我们的Web服务器直接面向用户,往往要承载大量并发请求,单台服务器难以负荷,我使用多台WEB服务器组成集群,前端使用Nginx负载均衡,将请求分散的打到我们的后端服务器集群中,实现负载的分发。那么会大大提升系统的吞吐率、请求性能、高容灾 ...
分类:
其他好文 时间:
2019-06-03 21:53:40
阅读次数:
120