码迷,mamicode.com
首页 > 其他好文 > 详细

LVS详细笔记

时间:2015-08-01 06:37:04      阅读:200      评论:0      收藏:0      [点我收藏+]

标签:ip地址   服务器   局域网   双刃剑   以太网   

 

1. 做一个靠谱,被信任的人。

2. 自身小事做起,勤奋,努力的态度,不计较,不抱怨,好习惯当下做起

3. 不要自我感觉

4. 把你"所有"的精力集中到一点,你就能成功

5,集中自己的所有时间去学习


ARP协议:通过ip地址获得主机物理mac地址


32 bit的ip地址

48 bit的mac地址

ARP原理:

原理是把目的主机的32位ip地址转换成目的主机48位的以太网地址(mac地址)

ip地址是逻辑地址,而主机之间的通信是通过物理的mac地址通信的

ARP协议要求通信的主机双方必须在同一网段(即局域网环境)

arp缓存表是把双刃剑

1,有arp缓存表可以加快arp的解析速度

2,也给黑客带来了攻击服务器的风险,俗称arp欺骗和arp攻击


OSI模型把网络划分成7层,隔层之间不直接打交道,都是通过aip调用。

ip地址工作在三层,mac地址在二层


ARP是三层协议,但是工作在二层



ARP欺骗原理

arp攻击就是通过伪造ip地址和mac地址对实现arp欺骗。


如何防止:

arp -s  192.168.0.11  mac


#####################LVS+keepalived


集群:一堆集群依靠网络协同工作就是集群




java架构师:50W起步

java服务集群

j2ee程序架构

JVM底层

tomcat、java打包

程序解耦(程序设计,调优,java流程)



为什么要用集群??

性能,可用性,伸缩性,扩展性,安全

1.高性能(performance) 评价一个网站好坏的直接感触

2,价格有效性  ,小型机(IBM)特贵

3.高可用性  7*24运行  availability  

4.可伸缩性  可动态添加新机器  scalability 数据库的伸缩很困难



集群的分类:

1.LB    负载均衡集群

2.HA    高可用性集群

3.高性能计算

4.网格计算


负载均衡的作用:

(1):分担请求和数据流量,从而增加吞吐量,并发量

(2):保证集群的7*24小时服务

(3):用于web服务器,数据库的从


典型负载均衡软件:  lvs,F5 (4 osi) nginx (7osi) haproxy(4+7osi)

典型的高可用软件:  keepalived heratbeat

互联网商业集群硬件:F5 ,netscaler redware.A10





LVS:linux virtural server

LVS:

1,真正实现负载均衡功能的是ipvs

2,ipvs工作在内核层,实现调度,不能直接访问

3,ipvsadm 管理ipvs,或者用keepalived来管理ipvs


LVS 专业术语:

VIP :虚拟ip地址  virtural ip address  用于给客户端计算机提供服务的ip地址

RIP:real ip,集群下面节点使用的ip地址,物理ip地址

DIP:director ip 用于连接内外网络的ip,物理网卡上的ip地址,他是负载均衡器上的ip

CIP:client ip 客户端用户计算机请求集群服务器的ip地址,该地址用作发送给集群的请求的源ip地址 



############在LVS框架中,提供了含有三种IP负载均衡技术的IP虚拟服务器软件:

IP虚拟服务器软件IPVS

基于内容请求分发的内核Layer-7交 换机KTCPVS 

集群管理软件

 


在已有的IP负载均衡技术中,IPVS软件实现了这三种IP负载均衡技术

LVS三种模式:

1,NAT()

2,TUN(TUNNELING)

3,DR(DIRECT ROUTING)

4,FULLNAT



目前最流行的模式DR  -熟练使用

特点:改写请求报文的目标mac地址,将请求转发给真实服务器,而真实服务器将响应后的处理直接返回给客户端使用.

此DR模式没有ip隧道的开销,对集群的真实服务器也没有必须支持ip隧道协议的要求

DR模式要求调度器LB与真实服务器RS都有一块网卡连接在同一物理网段上,即必须在同一个局域网环境




DR模式 :

工作原理:

 

关键点:

1,绑定vip到lo,避免了ip冲突问题,解决了Real server 无法识别client的报文问题


2,绑定vip会主动响应arp广播,因此要抑制arp,告诉real server 不要抢lvs的arp包,只接收包


能顺利说出秒杀5-12K左右



DR模式的总结

1,通过在调度器LB上修改数据包的目的mac地址实现转发,,注意 ,源ip仍然是cip,目的ip地址仍然是VIP

2,请求的报文经过调度器而RS响应处理后的报文无需经过调度器LB,直接返回给客户端因此,并发访问量大时候效率很高

3,因DR模式是通过MAC地址的改写机制实现的转发,因此所有RS节点和调度器LB只能在一个局域网LAN中(小缺点)

4,需要注意RS节点的vip的绑定(lo:vip.lol:vip)和arp抑制问题

5,强调:RS节点的默认网关不需要调度器LB的DIP,而直接是IDC机房分配的上级路由器的IP(这是RS带有外网ip地址的情况)

6,由于DR模式的调度器仅仅进行了目的MAC地址改写,因此,调度器LB无法改变请求报文的目的端口

7,当前调度器LB支持几乎所有的unix linux系统,但目前不支持windows,但是真实的RS可以是windows.

8.总的来说,DR模式效率很高,但是配置麻烦,因此,访问量不大的公司可以使用haproxy、nginx,这符合运维的原则:简单,易用,高效 日PV2000W,并发1W以下使用haproxy,nginx(lvs NAT模式)就好

9,直接对外的访问业务,例如web服务做RS节点,RS最好用公网ip地址(直接把请求返回给用户),如果不直接对外业务,例如mysql,存储系统,最好使用内部ip地址



NAT模式:了解即可,工作中基本使用DR模式


总结:

1,NAT技术将请求的报文(DNAT)和响应的报文(SNAT),通过调度器地址重写然后转发给内部的服务器。报文返回时候改写成原来的用户请求的地址

2,只需啊哟在调度器LB上配置WAN公网ip即可,调度器也要有似有LAN ip和内部RS节点通

3,每台内部RS节点的网关地址,必须配置成调度器LB的私有LAN内物理网卡地址

省略



 


########################IPVS调度器实现了如下十种负载调度算法:LVS调度算法

10种调度算法

固定调度算法:rr,wrr,dh,sh

动态调度算法:wlc,lc,lblc,lblcr,SED,NQ.

最常用的三种RR WRR WLC 

10种调度算法见下表:

rr :轮询调度,他将请求依次分配不同的RS节点,RS服务器均摊请求,这种算法比较简单,但是只适合RS节点相差性能不大的情况

wrr:加权轮询调度,它将依据不同RS节点的权值分配任务,权值高的RS将优先获得任务,并且分配的连接数比权值低的RS节点更多。相同权值的RS得到相同数目的连接数

dh:destination hashing 以目的地址为关键字查找一个静态hash表来获取需要的RS

sh:source hashing 以源地址为关键字查找一个静态hash表来获取需要的RS


动态调度算法:


wlc:加权最小连接数调度(weighted least-connection)假设各台RS的权值依次为Wi(i=1...n) 。当前的tcp连接数依次为Ti(i=1..n),依次取TI/WI为最小的RS作为下一个分配的RS

LC

LBLC

LBLCR

SED

NQ    都不常用


#################LVS调度算法的生产环境选型

一般的网络服务http mail mysql 常用的调度算法是rr,wrr wlc



#################LVS集群的特点

LVS集群的特点可以归结如下:


功能

有实现三种IP负载均衡技术和八种连接调度算法的IPVS软件。在IPVS内部实现上,采用了高效的Hash函数和垃圾回收机制,能正确处理所调度报文相 关的ICMP消息(有些商品化的系统反而不能)。虚拟服务的设置数目没有限制,每个虚拟服务有自己的服务器集。它支持持久的虚拟服务(如HTTP Cookie和HTTPS等需要该功能的支持),并提供详尽的统计数据,如连接的处理速率和报文的流量等。针对大规模拒绝服务(Deny of Service)攻击,实现了三种防卫策略。

有基于内容请求分发的应用层交换软件KTCPVS,它也是在Linux内核中实现。有相关的集群管理软件对资源进行监测,能及时将故障屏蔽,实现系统的高可用性。主、从调度器能周期性地进行状态同步,从而实现更高的可用性。


适用性

后端服务器可运行任何支持TCP/IP的操作系统,包括Linux,各种Unix(如FreeBSD、Sun Solaris、HP Unix等),Mac/OS和Windows NT/2000等。

负载调度器能够支持绝大多数的TCP和UDP协议:

协议 内 容

TCP HTTP,FTP,PROXY,SMTP,POP3,IMAP4,DNS,LDAP,HTTPS,SSMTP等

UDP DNS,NTP,ICP,视频、音频流播放协议等

无需对客户机和服务器作任何修改,可适用大多数Internet服务。


性能

LVS服务器集群系统具有良好的伸缩性,可支持几百万个并发连接。配置100M网卡,采用VS/TUN或VS/DR调度技术,集群系统的吞吐量可高达1Gbits/s;如配置千兆网卡,则系统的最大吞吐量可接近10Gbits/s。


可靠性

LVS服务器集群软件已经在很多大型的、关键性的站点得到很好的应用,所以它的可靠性在真实应用得到很好的证实。有很多调度器运行一年多,未作一次重启动。


软件许可证

LVS集群软件是按GPL(GNU Public License)许可证发行的自由软件,这意味着你可以得到软件的源代码,有权对其进行修改,但必须保证你的修改也是以GPL方式发行。


官方资料

LVS项目介绍:http://www.linuxvirtualserver.org/zh/lvs1.html

LVS集群的体系结构http://www.linuxvirtualserver.org/zh/lvs2.html

LVS集群中ip负载均衡技术http://www.linuxvirtualserver.org/zh/lvs3.html

LVS负载调度http://www.linuxvirtualserver.org/zh/lvs4.html




##########################安装LVS

1,5.X系统下载ipvsadm-1.24.tar.gz 

  6.X系统下载ipvsadmin-1.26.tar.gz   适合kernel 2.6.28以后

下载地址:

http://www.linuxvirtualserver.org/software/ipvs.html



安装准备:

lsmod | grep ip_vs    lsmod 是查看内核模块的

uname -r

如果没有查看   ls /usr/src/kernels/2.6.32-504.30.3.el6.x86_64/ 是否存在,存在则

ln -s /usr/src/kernels/2.6.32-504.30.3.el6.x86_64/   /usr/src/linux 


如果没有,安装yum install kernel-devel -y



#################开始安装LVS


tar  xvf ipvsadm-1.26.tar.gz 

cd ipvsadm-1.26

make    --此步如果报错,安装yum install libnl*  popt* -y

make install 

lsmod | grep ip_vs   --此时还没有

/sbin/ipvsadm    或者modprobe ip_vs


IP Virtual Server version 1.2.1 (size=4096)

Prot LocalAddress:Port Scheduler Flags

  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn

[root@localhost ipvsadm-1.26]# 

root@localhost ipvsadm-1.26]# lsmod | grep ip_vs

ip_vs                 125220  0 

libcrc32c               1246  1 ip_vs

ipv6                  317340  142 ip_vs,ip6t_REJECT,nf_conntrack_ipv6,nf_defrag_ipv6

[root@localhost ipvsadm-1.26]# 



LVS安装小结:

1,centos 5.x 安装lvs,使用1.24版本,不要用1.2.6

2.centos6.x  安装1.26版本,并且先安装 yum install libnl*  popt* -y

3.安装LVS后,要执行ipvsadm把ip_vs模块加载到内核



############手动配置LVS负载均衡服务


1, 解析vip到域名www.xxxx.com   192.168.0.200

2,  配置LVS虚拟ip(vip)

   ifconfig eth1:0 192.168.0.200/24


3.手动执行配置添加LVS服务增加两台RS

ipvsadm -C   clear teh whole table 


ipvsadm --set 30 5 60 set tcp tcpfin udp timeout 

 

ipvsadm -A -t vip:80 -s rr   add virtual service with options  -s 调度算法


ipvsadm -a -t vip:80 -r 192.168.0.221  -g      -a: add real server with options

                                               -g: gatewaying (direct routing) (default) LVS模式

             

ipvsadm -a -t 192.168.200:80 -r 192.168.0.221 -g -w 1

ipvsadm -a -t 192.168.0.200:80 -r 192.168.0.222 -g -w 1


[root@localhost ~]# ipvsadm -L -n

IP Virtual Server version 1.2.1 (size=4096)

Prot LocalAddress:Port Scheduler Flags

  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn

TCP  192.168.0.200:80 rr

  -> 192.168.0.221:80             Route   1      0          0         

  -> 192.168.0.222:80             Route   1      0          0 


###########删除:

1.删除节点

[root@localhost ~]#   ipvsadm -d -t 192.168.0.200:80 -r 192.168.0.222   删除节点

[root@localhost ~]# ipvsadm -L -n

IP Virtual Server version 1.2.1 (size=4096)

Prot LocalAddress:Port Scheduler Flags

  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn

TCP  192.168.0.200:80 rr

  -> 192.168.0.221:80             Route   1    0          0  

2.删除服务


ipvsadm -D -t vip:80


此时还无法通过vip访问到web


4.手工在RS端绑定

   (1),每台RS端都执行以下步骤

    (01)绑定vip到lo

    ifconfig lo:0 vip/32   --注意此时的mask是32位

[root@localhost ~]# ifconfig lo:0 192.168.0.200/32


lo:0      Link encap:Local Loopback  

          inet addr:192.168.0.200  Mask:0.0.0.0

          UP LOOPBACK RUNNING  MTU:16436  Metric:1




     route add -host  192.168.0.200 dev lo 添加主机路由

[root@localhost ~]# route -n

Kernel IP routing table

Destination     Gateway         Genmask         Flags Metric Ref    Use Iface

192.168.0.200   0.0.0.0         255.255.255.255 UH    0      0        0 lo


0.0.0.0         192.168.0.1     0.0.0.0         UG    0      0        0 eth0


5.手工在RS端抑制ARP

echo "1" > /proc/sys/net/ipv4/conf/lo/arp_ignore 

echo "2" > /proc/sys/net/ipv4/conf/lo/arp_announce 

echo "1" > /proc/sys/net/ipv4/conf/all/arp_ignore 

echo "2" > /proc/sys/net/ipv4/conf/all/arp_announce 


详细介绍arp技术参数

arp_ignore

1,表示只回答目标ip地址是来访问网络接口本地地址的arp查询请求

arp_announce :对网络接口上,本地ip地址的发出的arp回应,做出相应级别的限制

2,表示对查询目标使用最适当的本地地址,在此模式将忽略这个ip数据包的源地址




以上都是临时配置,重启失效


###################LVS集群分发请求RS不均衡生产环境实战解决

生产环境中ipvsadm -L -n 发现两台RS负载不均衡,一台有很多请求,一台没有。经过测试发现没有请求的RS服务正常,lo:vip 也有,但是就是没有请求

tcp 172.168.1.50:3307 wrr presient 10

172.168.1.51:3307   route 1 0   0 


172.168.1.52:3307   route 1 8  12758


问题原因:

persistent 10的原因,persistent会话保持,当clientA 访问网站的时候,LVS分发给了52.,那么ClientA 再点击其他的操作请求,也会发送给52这台机器

解决办法:

到keepalived中注释掉persistent 10 然后/etc/init.d/keepalived reload  然后两边负载都会均衡


实现会话保持的方案:

http://oldboy.blog.51cto.com/2561410/1331316



############LVS故障排错原理


1,把绑定的vip做成lo配置文件(ifcfg-lo)

2.负载均衡和反向代理集群的三角形排查理论


LVS详细笔记

标签:ip地址   服务器   局域网   双刃剑   以太网   

原文地址:http://douya.blog.51cto.com/6173221/1680692

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!