一 . DR 模式 直接路由 :
1.介绍:
直接路由(Direct Routing):简称 DR 模式,采用半开放式的网络结构,与 TUN 模式的结构类似,但各节点并不是分散在各地,而是与调度器位于同一个物理网络。
负载调度器与各节点服务器通过本地网络连接,不需要建立专用的 IP 隧道。
直接路由,LVS默认模式,应用最广泛,通过请求报文重新封装一个MAC首部进行转发,源MAC是DIP所在的接口的MAC,目标MAC是某挑选出的RS的RIP所在接口的MAC地址;源IP/PORT,以及目标IP/PORT均保持不变。
2.DR模式的特点:
①Director 和各RS都配置有VIP
②确保前端路由器将目标IP为VIP的请求报文发往Director
在前端网关做静态绑定VIP和 Director 的MAC地址
在RS上使用 arptables 工具
arptables -A IN -d $VIP -j DROParptables -A OUT -s $VIP -j mangle --mangle-ip-s $RIP
③在RS上修改内核参数以限制arp通告及应答级别
/proc/sys/net/ipv4/conf/all/arp_ignore忽略arp广播/proc/sys/net/ipv4/conf/all/arp_announce关闭无故arp
RS 的 RIP 可以使用私网地址,也可以是公网地址;RIP与DIP在同一IP网络;RIP的网关不能指向DIP,以确保响应报文不会经由 Director
④RS和Director要在同一个物理网络
⑤请求报文要经由Director,但响应报文不经由Director,而由RS直接发往Client
⑥不支持端口映射(端口不能修改)
⑦无需开启 ip_forward
⑧RS可使用大多数OS系统
3.DR 中的ARP问题:
3.1VIP地址相同导致响应冲突:
问题原因:
在 LVS-DR 负载均衡集群中,负载均衡器与节点服务器都要配置相同的 VIP 地址,在局域网中具有相同的 IP 地址,势必会造成各服务器 ARP 通信的紊乱。
- 当ARP广播发送到LVS-DR集群时,因为负载均衡器和节点服务器都是连接到相同的网络上,它们都会收到ARP广播。
- 只有前端的负载均衡器进行响应,其他节点服务器不应该响应ARP广播。
解决方法:
对节点服务器进行处理,使其不响应针对VIP的ARP请求
- 使用虚接口lo:0承载VIP地址
- 设置内核参数 arp_ ignore=1:系统只响应目的IP为本地IP(物理网卡的地址,而不是lo网卡的虚接口地址)的ARP请求。
3.2返回报文时源地址使用VIP,导致网关设备的ARP缓存表紊乱
问题原因:
- RealServer 返回报文(源IP是VIP)经路由器转发,重新封装报文时,需要先获取路由器的MAC地址。
- 发送ARP请求时,Linux默认使用IP包的源IP地址(即VIP)作为ARP请求包中的源IP地址,而不使用发送接口的IP地址。
- 路由器收到ARP请求后,将更新ARP表项。原有的VIP对应 Director 的MAC地址,会被更新为VIP对应的 Real Server 的MAC地址。导致网关设备的ARP缓存表紊乱。
- 路由器根据ARP表项,会将新来的请求报文转发给Real Server,导致Director的VIP失效。
解决方法:
对节点服务器进行处理,设置内核参数 arp_announce=2:系统不使用IP数据包的源地址来设置ARP请求的源地址,而选择发送接口(物理网卡)的IP地址。
4. IP 隧道模式:
- RIP 和 DIP 可以不处于同一物理网络中,RS 的网关一般不能指向 DIP,且 RIP 可以和公网通信,也就是说集群节点可以跨互联网实现。DIP, VIP, RIP可以是公网地址。
- RealServer 的通道接口上需要配置VIP地址,以便接收DIP转发过来的数据包,以及作为响应的报文源IP。
- DIP转发给RealServer时需要借助隧道,隧道外层的IP头部的源IP是DIP,目标IP是RIP,而RealServer响应给客户端的IP头部是根据隧道内层的IP头分析得到的,源IP是VIP,目标IP是CIP
- 请求报文要经由Director,但响应不经由Director,响应由 RealServer 自己完成
- 不支持端口映射
- RS的OS须支持隧道功能
一般来说,隧道模式常会用来负载调度缓存服务器组,这些缓存服务器一般放置在不同的网络环境,可以就近折返给客户端。在请求对象不在 Cache 服务器本地命中的情况下,Cache 服务器要向源服务器发送请求,将结果取回,最后将结果返回给用户。
二. LVS 单网段DR模式部署:
实验:7-1做调度器;7-2和7-3做真实服务器;7-4做客户端;
1.先关闭所有的防火墙和selinux
[root@localhost ~]# systemctl stop firewalld[root@localhost ~]# setenforce 0
2.怎么看selinux状态:
Permissive:宽容模式
Enforcing:强制模式
3.配置7-1调度服务器:
3.1.配置虚拟ip地址:
[root@localhost ~]# ifconfig ens33:0 192.168.91.30/32[root@localhost ~]# ip a
3.2.调整/proc响应参数:
[root@localhost ~]# vim /etc/sysctl.conf net.ipv4.ip_forward = 0net.ipv4.conf.all.send_redirects = 0net.ipv4.conf.default.send_redirects = 0net.ipv4.conf.ens33.send_redirects = 0 [root@localhost ~]# sysctl -p
生效一下:
3.3.加载模块:
ip_vs是内核模块中的功能
[root@localhost ~]# modprobe ip_vs[root@localhost ~]# [root@localhost ~]# cat /proc/net/ip_vs
3.4.下载并配置ipvsadm:
[root@localhost ~]# yum install ipvsadm.x86_64 -y
[root@localhost ~]# ipvsadm-save > /etc/sysconfig/ipvsadm[root@localhost ~]# [root@localhost ~]# [root@localhost ~]# systemctl start ipvsadm.service
[root@localhost ~]#ipvsadm -A -t 192.168.91.30:80 -s rr[root@localhost ~]#ipvsadm -a -t 192.168.91.30:80 -r 192.168.91.4 -g[root@localhost ~]#ipvsadm -a -t 192.168.91.30:80 -r 192.168.91.5 -g[root@localhost ~]#ipvsadm -lnIP Virtual Server version 1.2.1 (size=4096)Prot LocalAddress:Port Scheduler Flags-> RemoteAddress:Port Forward Weight ActiveConn InActConnTCP192.168.91.30:80 rr-> 192.168.91.4:80Route 100 -> 192.168.91.5:80Route 100
4.配置7-2Web服务器
4.1.安装并开启httpd服务
[root@localhost ~]# yum install httpd -y[root@localhost ~]# systemctl start httpd
4.2.添加临时回环地址:
[root@localhost ~]# ifconfig lo:0 192.168.91.30/32[root@localhost ~]# [root@localhost ~]# [root@localhost ~]# ip a
4.3.配置在index.html:
4.4.配置内核参数:
[root@localhost html]# vim /etc/sysctl.confnet.ipv4.conf.all.arp_ignore = 1net.ipv4.conf.all.arp_announce = 2net.ipv4.conf.default.arp_ignore = 1net.ipv4.conf.default.arp_announce = 2net.ipv4.conf.lo.arp_ignore = 1net.ipv4.conf.lo.arp_announce = 2 [root@localhost html]# sysctl -p
生效一下:
5.配置7-3Web服务器:
1.安装并开启httpd服务:
[root@localhost ~]# yum install httpd -y[root@localhost ~]# systemctl start httpd
2.添加临时回环地址:
[root@localhost ~]# ifconfig lo:0 192.168.91.30/32[root@localhost ~]# [root@localhost ~]# [root@localhost ~]# ip a
3.配置index.html:
4.配置内核参数:
vim /etc/sysctl.conf net.ipv4.conf.all.arp_ignore = 1net.ipv4.conf.all.arp_announce = 2net.ipv4.conf.default.arp_ignore = 1net.ipv4.conf.default.arp_announce = 2net.ipv4.conf.lo.arp_ignore = 1net.ipv4.conf.lo.arp_announce = 2
生效一下: