LVS-DR模式
DR模式—直接路由(Direct Routing)
- 簡稱DR模式,採用半開放式的網絡結構,與TUN模式的結構類似,但各節點並不是分散在各地,而是與調度器位於同一個物理網絡
- 負載調度器與各節點服務器通過本地網絡連接,不需要建立專用的IP隧道
LVS-DR數據包流向分析
- 爲了方便進行原理分析,將Client與羣集機器放在同一網絡中,數據包流經的路線爲1-2-3-4
(1)Client向目標VIP發出請求,Director(負載均衡器)接收,此時的IP包頭及數據幀頭信息爲:
(2)Director根據負載均衡算法選擇RealServer_1,不修改也不封裝IP報文,而是將數據幀的MAC地址改爲RealServer_1的MAC地址,然後在局域網上發送,IP包頭及數據幀頭信息如下:
(3)RealServer_1收到這個幀,解封裝後發現目標IP與本機匹配(RealServer事先綁定了VIP
),於是處理這個報文,隨後重新封裝報文,發送到局域網,此時IP包頭及數據幀頭信息爲:
(4)Cliebt將收到回覆報文,Client人爲得到正常的服務,而不會知道哪一臺服務器處理的
注意:如果跨網段,那麼報文通過路由器經由Internet返回給用戶
LVS-DR中的APR問題
- 在LVS-DR負載均衡集羣中,負載均衡器與節點服務器都要配置相同的VIP地址
- 在局域網中具有相同的IP地址,勢必會造成各服務器ARP通信的絮亂
(1)當一個ARP廣播發送到LVS-DR羣集時,因爲負載均衡器和節點服務器都是連接到相同的網絡上,它們都會接收到ARP廣播
(2)此時只有前端的負載均衡器進行響應,其它節點服務器不應該響應ARP廣播 - 對節點服務器進行處理,使其不響應針對VIP的ARP請求
(1)使用虛擬接口lo:0承載VIP地址
(2)設置內核參數arp_ignore=1:系統只響應目的IP爲本地IP的ARP請求 - RealServer返回報文(源IP是VIP)經路由器轉發,再重新封裝報文時,需要先獲取路由器的MAC地址
- 發送APR請求時,Linux默認使用IP包的源IP地址(即VIP)作爲ARP請求包中的源IP地址,而不使用發送接口(例如ens33)的IP地址
- 路由器收到ARP請求後,將更新ARP表項
- 原有的VIP對應Director的MAC地址將會被更新爲VIP對應RealServer的MAC地址
- 此時新來的請求報文,路由器根據ARP表項,會將該報文轉發給RealServer,從而導致Director的VIP失效
- 解決方法:
對節點服務器進行處理,設置內核參數arp_announce=2:系統不使用IP包的源地址來設置ARP請求的源地址,而選擇發送接口的IP地址
解決ARP的兩個問題的設置方法
- 修改/etc/sysctl.conf文件
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
Keepalived
在企業應用中,單臺服務器承擔應用存在單點故障的危險,在企業應用集羣中,存在了至少兩處單點故障危險,單點故障一旦發生,企業服務將發生中斷,造成極大的危害
Keepalived工具介紹
- 專爲LVS和HA設計的一款健康檢查工具
支持故障自動切換(Failover)
支持節點健康狀態檢查(Health Checking)
Keepalived實現原理解析 - Keepalived採用VRRP熱備份協議實現Linux服務器的多機熱備功能
- VRRP,虛擬路由冗餘協議,是針對路由器的一種備份解決方案
(1)由多臺路由器組成一個熱備組,通過共用的虛擬IP地址對外提供服務
(2)每個熱備組內同一時刻只有一臺主路由器提供服務,其它路由器處於冗餘狀態
(3)若當前在線的路由器失效,則其他路由器會根據設置的優先級自動接替虛擬IP地址,繼續提供服務
部署LVS-DR+Keepalived羣集實驗
1、實驗環境
- 實驗拓撲圖
- IP地址分配
主機名 | IP地址 |
---|---|
LVS主 | 192.168.100.110 |
LVS備 | 192.168.100.111 |
web1 | 192.168.100.201 |
web2 | 192.168.100.202 |
客戶機 | 192.168.100.120 |
2、LVS主備配置DR調度器
(1)安裝Keepalive和ipvsadm
[root@localhost ~]# yum install keepalived ipvsadm -y
(2)開啓路由轉發功能,proc響應關閉重定向功能
[root@localhost ~]# vim /etc/sysctl.conf
net.ipv4.ip_forward=1 //開啓路由轉發功能
#proc響應關閉重定向功能
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0
[root@localhost ~]# sysctl -p //生效配置
net.ipv4.ip_forward = 1
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0
(3)網卡配置
- 設置固定IP
[root@localhost ~]# cd /etc/sysconfig/network-scripts/
[root@localhost network-scripts]# vim ifcfg-ens33
...
BOOTPROTO="static"
...
IPADDR=192.168.100.110 //LVS備的IP地址爲192.168.100.111
NETMASK=255.255.255.0
GATEWAY=192.168.100.1
- 配置虛擬網卡
[root@localhost network-scripts]# cp -p ifcfg-ens33 ifcfg-ens33:0
[root@localhost network-scripts]# vim ifcfg-ens33:0
DEVICE=ens33:0
ONBOOT=yes
IPADDR=192.168.100.10
NETMASK=255.255.255.0
- 配置完成要重啓網卡
(4)創建LVS-DR模式啓動腳本
[root@localhost ~]# vim /etc/init.d/dr.sh
#!/bin/bash
GW=192.168.100.1
VIP=192.168.100.10
RIP1=192.168.100.201
RIP2=192.168.100.202
case "$1" in
start)
/sbin/ipvsadm --save > /etc/sysconfig/ipvsadm
systemctl start ipvsadm
/sbin/ifconfig ens33:0 $VIP broadcast $VIP netmask 255.255.255.255 broadcast $VIP up
/sbin/route add -host $VIP dev ens33:0
/sbin/ipvsadm -A -t $VIP:80 -s rr
/sbin/ipvsadm -a -t $VIP:80 -r $RIP1:80 -g
/sbin/ipvsadm -a -t $VIP:80 -r $RIP2:80 -g
echo "ipvsadm starting--------------------|ok|"
;;
stop)
/sbin/ipvsadm -C
systemctl stop ipvsadm
ifconfig ens33:0 down
route del $VIP
echo "ipvsadm stoped--------------------|ok|"
;;
status)
if [ ! -e /var/lock/subsys/ipvsadm ];then
echo "ipvsadm stoped--------------------"
exit 1
else
echo "ipvsadm Running--------------------|ok|"
fi
;;
*)
echo "Usage: $0 {start|stop|status}"
exit 1
esac
exit 0
[root@localhost ~]# vim /etc/init.d/dr.sh
[root@localhost ~]# chmod +x /etc/init.d/dr.sh
[root@localhost ~]# service dr.sh start
ipvsadm starting--------------------|ok|
3、web服務器配置,兩臺服務器同樣的配置
(1)安裝web服務
[root@localhost ~]# yum install httpd -y
(2)網卡配置
- 設置固定IP
[root@localhost ~]# cd /etc/sysconfig/network-scripts/
[root@localhost network-scripts]# vim ifcfg-ens33
...
BOOTPROTO=static
...
IPADDR=192.168.100.201
NETMASK=255.255.255.0
GATEWAY=192.168.100.1
- 配置虛擬IP
[root@localhost network-scripts]# cp -p ifcfg-lo ifcfg-lo:0
[root@localhost network-scripts]# vim ifcfg-lo:0
DEVICE=lo:0
ONBOOT=yes
IPADDR=192.168.100.10
NETMASK=255.255.255.0
- 配置完成要重啓網卡
(3)建立web服務器抑制ARP響應腳本
[root@localhost ~]# cd /etc/init.d/
[root@localhost init.d]# vim web.sh
#!/bin/bash
VIP=192.168.100.10
case "$1" in
start)
ifconfig lo:0 $VIP netmask 255.255.255.255 broadcast $VIP
/sbin/route add -host $VIP dev lo:0
echo "1" > /proc/sys/net/ipv4/conf/lo/arp_ignore
echo "2" > /proc/sys/net/ipv4/conf/lo/arp_announce
echo "1" > /proc/sys/net/ipv4/conf/lo/arp_ignore
echo "2" > /proc/sys/net/ipv4/conf/lo/arp_announce
sysctl -p > /dev/null 2>&1
echo "RealServer Start OK "
;;
stop)
ifconfig lo:0 down
route del $VIP /dev/null 2>&1
echo "0" > /proc/sys/net/ipv4/conf/lo/arp_ignore
echo "0" > /proc/sys/net/ipv4/conf/lo/arp_announce
echo "0" > /proc/sys/net/ipv4/conf/all/arp_ignore
echo "0" > /proc/sys/net/ipv4/conf/all/arp_announce
echo "RealServer Stoped"
;;
*)
echo "Usage: $0 {start|stop}"
exit 1
esac
exit 0
[root@localhost init.d]# chmod +x web.sh
(4)啓動服務
[root@localhost init.d]# service web.sh start
RealServer Start OK
[root@localhost init.d]# systemctl start httpd
[root@localhost init.d]# ifup lo:0
(5)自檢網站
4、Keepalived部署(在調度服務器上設置)
(1)更改主配置文件
[root@localhost ~]# vim /etc/keepalived/keepalived.conf
global_defs {
...
smtp_server 127.0.0.1 //指向本地
router-id LVS_01 //指定名稱,備份服務器不同名稱
...
}
vrrp_instance VI_1 {
state MASTER //備份服務器是BACKUP
interface ens33
virtual_router_id 10 //組號相同
priority 100 //優先級備份小於主
...
auth_pass 1111 //驗證密碼
...
virtual_ipaddress {
192.168.100.10
}
...
virtual_server 192.168.100.10 80 {
...
lb_kind DR
...
real_server 192.168.100.201 80 {
weight 1
TCP_CHECK {
connect_port 80 //添加端口
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
real_server 192.168.100.202 80 {
weight 1
TCP_CHECK {
connect_port 80
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
}
(2)開啓服務
[root@localhost ~]# systemctl start keepalived
(3)客戶端測試
(4)故障模擬,關閉主調度器網絡,依舊可以訪問