码迷,mamicode.com
首页 > 其他好文 > 详细

01-LVS工作原理和NAT模型

时间:2020-10-29 10:34:22      阅读:28      评论:0      收藏:0      [点我收藏+]

标签:eric   容量   初始   als   权重   hashing   option   str   算法   

系统性能扩展
?系统性能扩展方式:
Scale UP:垂直扩展,向上扩展,增强,性能更强的计算机运行同样的服务
Scale Out:水平扩展,向外扩展,增加设备,并行地运行多个服务调度分配
问题,Cluster
?垂直扩展不再提及:
?随着计算机性能的增长,其价格会成倍增长
?单台计算机的性能是有上限的,不可能无限制地垂直扩展
?多核CPU意味着即使是单台计算机也可以并行的。那么,为什么不一开始就
并行化技术?


Cluster概念
?Cluster:集群,为解决某个特定问题将多台计算机组合起来形成的单个系统
?Linux Cluster类型:
?LB:Load Balancing,负载均衡
?HA:High Availiablity,高可用,SPOF(single Point Of failure)
MTBF:Mean Time Between Failure 平均无故障时间
MTTR:Mean Time To Restoration( repair)平均恢复前时间
A=MTBF/(MTBF+MTTR) (0,1):99%, 99.5%, 99.9%, 99.99%,
99.999%
?HPC:High-performance computing,高性能 www.top500.org
?分布式系统:
分布式存储: Ceph,GlusterFS,FastDFS,MogileFS
分布式计算:hadoop,Spark


集群和分布式
? 集群:同一个业务系统,部署在多台服务器上。集群中,
每一台服务器实现的功能没有差别,数据和代码都是一
样的
? 分布式:一个业务被拆成多个子业务,或者本身就是不
同的业务,部署在多台服务器上。分布式中,每一台服
务器实现的功能是有差别的,数据和代码也是不一样的,
分布式每台服务器功能加起来,才是完整的业务
? 分布式是以缩短单个任务的执行时间来提升效率的,而
集群则是通过提高单位时间内执行的任务数来提升效率。
? 对于大型网站,访问用户很多,实现一个群集,在前面
部署一个负载均衡服务器,后面几台服务器完成同一业
务。如果有用户进行相应业务访问时,负载均衡器根据
后端哪台服务器的负载情况,决定由给哪一台去完成响
应,并且一台服务器垮了,其它的服务器可以顶上来。
分布式的每一个节点,都完成不同的业务,如果一个节
点垮了,那这个业务可能就会失败


集群设计原则
?可扩展性—集群的横向扩展能力
?可用性—无故障时间(SLA)
?性能—访问响应时间
?容量—单位时间内的最大并发吞吐量(C10K 并发问题)
集群设计原则
?基础设施层面:
? 提升硬件资源性能—从入口防火墙到后端web server均使用更高性能的硬件资源
? 多域名—DNS 轮询A记录解析
? 多入口—将A记录解析到多个公网IP入口
? 多机房—同城+异地容灾
? CDN(Content Delivery Network)—基于GSLB(Global Server Load Balance)实现
全局负载均衡,如DNS


?业务层面:
? 分层:安全层、负载层、静态层、动态层、(缓存层、存储层)持久化与非持久化
? 分割:基于功能分割大业务为小服务
? 分布式:对于特殊场景的业务,使用分布式计算
分布式
?分布式应用-服务按照功能拆分,使用微服务
?分布式静态资源--静态资源放在不同的存储集群上
?分布式数据和存储--使用key-value缓存系统
?分布式计算--对特殊业务使用分布式计算,比如Hadoop集群
Cluster分类
?LB Cluster的实现


?硬件
F5 Big-IP
Citrix Netscaler
A10 A10
?软件
lvs:Linux Virtual Server,阿里四层SLB (Server Load Balance)使用
nginx:支持七层调度,阿里七层SLB使用Tengine
haproxy:支持七层调度
ats:Apache Traffic Server,yahoo捐助给apache
perlbal:Perl 编写
pound
Cluster分类
?基于工作的协议层次划分:
?传输层(通用):DPORT


LVS:
nginx:stream
haproxy:mode tcp
?应用层(专用):针对特定协议,自定义的请求模型分类
proxy server:
http:nginx, httpd, haproxy(mode http), ...
fastcgi:nginx, httpd, ...
mysql:mysql-proxy, ...


Cluster相关
?会话保持:负载均衡
(1) session sticky:同一用户调度固定服务器
Source IP:LVS sh算法(对某一特定服务而言)
Cookie
(2) session replication:每台服务器拥有全部session
session multicast cluster
(3) session server:专门的session服务器
Memcached,Redis

技术图片

 

 


HA集群实现方案
?keepalived:vrrp协议
?Ais:应用接口规范
heartbeat
cman+rgmanager(RHCS)
coresync_pacemaker

 

LVS介绍
? LVS:Linux Virtual Server,负载调度器,内核集成,章文嵩(花名 正明)
官网:http://www.linuxvirtualserver.org/
VS: Virtual Server,负责调度
RS: Real Server,负责真正提供服务
L4:四层路由器或交换机
阿里的四层LSB(Server Load Balance)是基于LVS+keepalived实现


? 工作原理:
VS根据请求报文的目标IP和目标协议及端口将其调度转发至某RS,根据调度算法来
挑选RS
netfilter
?iptables/netfilter:
iptables:用户空间的管理工具
netfilter:内核空间上的框架
流入:PREROUTING --> INPUT
流出:OUTPUT --> POSTROUTING
转发:PREROUTING --> FORWARD --> POSTROUTING
DNAT:目标地址转换; PREROUTING

技术图片

 

 

技术图片

 

 技术图片

 

 


内核支持
[root@magedu ~]# grep -i -A 10 "IPVS" /boot/config-3.10.0-862.el7.x86_64
# IPVS transport protocol load balancing support
CONFIG_IP_VS_PROTO_TCP=y #开启tcp
CONFIG_IP_VS_PROTO_UDP=y #开启udp
CONFIG_IP_VS_PROTO_AH_ESP=y
CONFIG_IP_VS_PROTO_ESP=y
CONFIG_IP_VS_PROTO_AH=y
CONFIG_IP_VS_PROTO_SCTP=y #
# IPVS scheduler #默认支持的算法
CONFIG_IP_VS_RR=m
CONFIG_IP_VS_WRR=m
CONFIG_IP_VS_LC=m
CONFIG_IP_VS_WLC=m
CONFIG_IP_VS_LBLC=m
CONFIG_IP_VS_LBLCR=m
CONFIG_IP_VS_DH=m
CONFIG_IP_VS_SH=m
CONFIG_IP_VS_SED=m

 

同构和异构,lvs不支持同构异构,只支持四层传输层协议的调度

 

技术图片

 技术图片

 

 技术图片

 

 

LVS概念
?lvs集群类型中的术语:
?VS:Virtual Server,Director Server(DS)
Dispatcher(调度器),Load Balancer
?RS:Real Server(lvs), upstream server(nginx)
backend server(haproxy)
?CIP:Client IP
?VIP: Virtual serve IP VS外网的IP
?DIP: Director IP VS内网的IP
?RIP: Real server IP
?访问流程:CIP <--> VIP == DIP <--> RIP

技术图片

 

 

lvs集群的类型
?lvs: ipvsadm/ipvs
ipvsadm:用户空间的命令行工具,规则管理器
用于管理集群服务及RealServer
ipvs:工作于内核空间netfilter的INPUT钩子上的框架
?lvs集群的类型:
lvs-nat:修改请求报文的目标IP,多目标IP的DNAT
lvs-dr:操纵封装新的MAC地址
lvs-tun:在原请求IP报文之外新加一个IP首部
lvs-fullnat:修改请求报文的源和目标IP

 

lvs-nat模式
?lvs-nat:
本质是多目标IP的DNAT,通过将请求报文中的目标地址和目标端口修改为某挑
出的RS的RIP和PORT实现转发
(1)RIP和DIP应在同一个IP网络,且应使用私网地址;RS的网关要指向DIP
(2)请求报文和响应报文都必须经由Director转发,Director易于成为系统瓶颈
(3)支持端口映射,可修改请求报文的目标PORT
(4)VS必须是Linux系统,RS可以是任意OS系统

技术图片

 

 

技术图片

 

 

技术图片

 

 

 

LVS-DR模式
?LVS-DR:Direct Routing,直接路由,LVS默认模式,应用最广泛,通过为请求报
文重新封装一个MAC首部进行转发,源MAC是DIP所在的接口的MAC,目标
MAC是某挑选出的RS的RIP所在接口的MAC地址;源IP/PORT,以及目标
IP/PORT均保持不变
(1) Director和各RS都配置有VIP
(2) 确保前端路由器将目标IP为VIP的请求报文发往Director
?在前端网关做静态绑定VIP和Director的MAC地址
? 在RS上使用arptables工具
arptables -A IN -d $VIP -j DROP
arptables -A OUT -s $VIP -j mangle --mangle-ip-s $RIP
? 在RS上修改内核参数以限制arp通告及应答级别
/proc/sys/net/ipv4/conf/all/arp_ignore
/proc/sys/net/ipv4/conf/all/arp_announce

 

LVS-DR模式
(3)RS的RIP可以使用私网地址,也可以是公网地址;RIP与DIP在同一IP网络;
RIP的网关不能指向DIP,以确保响应报文不会经由Director
(4)RS和Director要在同一个物理网络
(5)请求报文要经由Director,但响应报文不经由Director,而由RS直接发往
Client
(6)不支持端口映射(端口不能修败)
(7)RS可使用大多数OS系统

 

技术图片

 

 

技术图片

 

 

技术图片

 

 

lvs-tun模式
?lvs-tun:
转发方式:不修改请求报文的IP首部(源IP为CIP,目标IP为VIP),而在原IP报文
之外再封装一个IP首部(源IP是DIP,目标IP是RIP),将报文发往挑选出的目标
RS;RS直接响应给客户端(源IP是VIP,目标IP是CIP)
(1) DIP, VIP, RIP都应该是公网地址
(2) RS的网关一般不能指向DIP
(3) 请求报文要经由Director,但响应不经由Director
(4) 不支持端口映射
(5) RS的OS须支持隧道功能

 

技术图片

 

 

技术图片

 

 

lvs-fullnat模式
?lvs-fullnat:通过同时修改请求报文的源IP地址和目标IP地址进行转发
CIP --> DIP
VIP --> RIP
(1) VIP是公网地址,RIP和DIP是私网地址,且通常不在同一IP网络;因此,
RIP的网关一般不会指向DIP
(2) RS收到的请求报文源地址是DIP,因此,只需响应给DIP;但Director还
要将其发往Client
(3) 请求和响应报文都经由Director
(4) 支持端口映射
注意:此类型kernel默认不支持

 

LVS工作模式总结

技术图片

 

 

?lvs-nat与lvs-fullnat:请求和响应报文都经由Director
lvs-nat:RIP的网关要指向DIP
lvs-fullnat:RIP和DIP未必在同一IP网络,但要能通信
?lvs-dr与lvs-tun:请求报文要经由Director,但响应报文由RS直接发往Client
lvs-dr:通过封装新的MAC首部实现,通过MAC网络转发
lvs-tun:通过在原IP报文外封装新IP头实现转发,支持远距离通信

 

ipvs scheduler
?ipvs scheduler:根据其调度时是否考虑各RS当前的负载状态
两种:静态方法和动态方法
?静态方法:仅根据算法本身进行调度
1、RR:roundrobin,轮询
2、WRR:Weighted RR,加权轮询
3、SH:Source Hashing,实现session sticky,源IP地址hash;将来自于同一
个IP地址的请求始终发往第一次挑中的RS,从而实现会话绑定
4、DH:Destination Hashing;目标地址哈希,第一次轮询调度至RS,后续将
发往同一个目标地址的请求始终转发至第一次挑中的RS,典型使用场景是正向代
理缓存场景中的负载均衡,如:宽带运营商

 

ipvs scheduler
?动态方法:主要根据每RS当前的负载状态及调度算法进行调度Overhead=value
较小的RS将被调度
1、LC:least connections 适用于长连接应用
Overhead=activeconns*256+inactiveconns
2、WLC:Weighted LC,默认调度方法
Overhead=(activeconns*256+inactiveconns)/weight
3、SED:Shortest Expection Delay,初始连接高权重优先
Overhead=(activeconns+1)*256/weight
4、NQ:Never Queue,第一轮均匀分配,后续SED
5、LBLC:Locality-Based LC,动态的DH算法,使用场景:根据负载状态实现
正向代理
6、LBLCR:LBLC with Replication,带复制功能的LBLC,解决LBLC负载不均衡
问题,从负载重的复制到负载轻的RS
ipvs
?ipvsadm/ipvs:
?ipvs:
grep -i -A 10 "ipvs" /boot/config-VERSION-RELEASE.x86_64
支持的协议:TCP, UDP, AH, ESP, AH_ESP, SCTP
?ipvs集群:
管理集群服务
管理服务上的RS


ipvsadm包构成
?ipvsadm:
?程序包:ipvsadm
?Unit File: ipvsadm.service
?主程序:/usr/sbin/ipvsadm
?规则保存工具:/usr/sbin/ipvsadm-save
?规则重载工具:/usr/sbin/ipvsadm-restore
?配置文件:/etc/sysconfig/ipvsadm-config


ipvsadm命令
? ipvsadm命令:
? 核心功能:
集群服务管理:增、删、改
集群服务的RS管理:增、删、改
查看
ipvsadm -A|E -t|u|f service-address [-s scheduler] [-p [timeout]] [-M netmask] [--pe
persistence_engine] [-b sched-flags]
ipvsadm -D -t|u|f service-address 删除
ipvsadm –C 清空
ipvsadm –R 重载
ipvsadm -S [-n] 保存
ipvsadm -a|e -t|u|f service-address -r server-address [options]
ipvsadm -d -t|u|f service-address -r server-address
ipvsadm -L|l [options]
ipvsadm -Z [-t|u|f service-address]


ipvsadm命令
?管理集群服务:增、改、删
?增、改:
ipvsadm -A|E -t|u|f service-address [-s scheduler] [-p [timeout]]
?删除:
ipvsadm -D -t|u|f service-address
?service-address:
-t|u|f:
-t: TCP协议的端口,VIP:TCP_PORT
-u: UDP协议的端口,VIP:UDP_PORT
-f:firewall MARK,标记,一个数字
?[-s scheduler]:指定集群的调度算法,默认为wlc


ipvsadm命令
?管理集群上的RS:增、改、删
?增、改:ipvsadm -a|e -t|u|f service-address -r server-address [-g|i|m] [-w
weight]
?删:ipvsadm -d -t|u|f service-address -r server-address
?server-address:
rip[:port] 如省略port,不作端口映射
?选项:
lvs类型:
-g: gateway, dr类型,默认
-i: ipip, tun类型
-m: masquerade, nat类型
-w weight:权重


ipvsadm命令
?清空定义的所有内容:ipvsadm –C
?清空计数器:ipvsadm -Z [-t|u|f service-address]
?查看:ipvsadm -L|l [options]
--numeric, -n:以数字形式输出地址和端口号
--exact:扩展信息,精确值
--connection,-c:当前IPVS连接输出
--stats:统计信息
--rate :输出速率信息
?ipvs规则:/proc/net/ip_vs
?ipvs连接:/proc/net/ip_vs_conn

 

01-LVS工作原理和NAT模型

标签:eric   容量   初始   als   权重   hashing   option   str   算法   

原文地址:https://www.cnblogs.com/zhouweiping/p/13736799.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!