集羣介紹
Linux 集羣根據功能劃分爲兩大類:高可用和負載均衡。
高可用集羣
-
高可用集羣通常爲兩臺服務器,一臺工作,另外一臺作爲冗餘,當提供服務的機器宕機時,冗餘將接替繼續提供服務。
- 實現高可用的開源軟件有: heartbeat、keepalived
負載均衡集羣
- 需要有一臺服務器作爲分發器,它負責把用戶的請求分發給後端的服務器處理,在這個集羣裏,除了分發器外,就是給用戶提供服務的服務器了,這些服務器數量至少爲2。
- 實現負載均衡的開源軟件有LVS、keepalived、haproxy、nginx,商業的(服務器器)有F5、Netscaler
keepalived 介紹
在這裏我們使用keepalived 來實現高可用集羣,因爲heartbeat在centos6 上有一些問題,影響實驗效果。
-
keepalived 通過VRRP (Virtual Router Redundancy Protocl:虛擬路由冗餘協議)來實現高可用。
-
在這個協議裏會將多臺功能相同的路由器組成一個小組,這個小組裏會有1個master 角色和N(N>=1)個backup 角色。
-
master 會通過組播的形式向各個backup 發送VRRP 協議的數據包,當backup 收不到master 發來的VRRP 數據包時,就會認爲master 宕機了。此時就需要根據各個backup 的優先級來決定誰成爲新的master。
- keepalived 要有三個模塊,分別是core 、check 和 vrrp。其中core 模塊爲keepalived 的核心,負責主進程的啓動、維護以及全局配置文件的加載和解析,check 模塊負責健康檢查,vrrp 模塊是來實現vrrp協議的。
用keepalived 配置高可用集羣
準備工作
-
準備兩臺機器131和132,131作爲master,132 作爲backup
-
兩臺機器都安裝 keepalived
[root@localhost ~]# yum install -y keepalived
-
兩臺機器都要安裝nginx,其中131上需要編譯安裝nginx,132上直接yum安裝nginx。
查看nginx版本:
[root@localhost ~]# /usr/local/nginx/sbin/nginx -v
nginx version: nginx/1.8.0
配置master
-
編輯master 機器配置文件
[root@localhost ~]# vim /etc/keepalived/keepalived.conf
// 將裏面的配置全部刪除
[root@localhost ~]# > /etc/keepalived/keepalived.conf[root@localhost ~]# vim /etc/keepalived/keepalived.conf
// 加入下面內容
global_defs {
notification_email {
[email protected]
} // 定義故障提醒郵件接收地址(本實驗用不到)
notification_email_from [email protected]
smtp_server 127.0.0.1
smtp_connect_timeout 30
router_id LVS_DEVEL // 定義故障提醒郵件發送地址(本實驗用不到)
}
vrrp_script chk_nginx { // 定義監控腳本
script "/usr/local/sbin/check_ng.sh" // 指定服務健康檢測(check)腳本
interval 3 // 檢測時間間隔
}
vrrp_instance VI_1 {
state MASTER // 定義該服務的角色
interface ens33 // 定義在本機中監聽VIP的網卡
virtual_router_id 51 // 虛擬路由id(同組中的服務器保持該id一致)
priority 100 // 指定本機權重(決定優先級)
advert_int 1
authentication { // 定義認證相關信息
auth_type PASS // 認證類型爲密碼形式
auth_pass 123456 // 定義認證密碼
}
virtual_ipaddress { // 定義VIP
192.168.159.100
}
track_script { // 加載監控服務(腳本)
chk_nginx // 注意此處服務名稱要與上面監控腳本名稱一致
}
} -
創建監控腳本
[root@localhost ~]# vim /usr/local/sbin/checkng.sh
#!/bin/bash
// 時間變量,用於記錄日誌
d=`date --date today +%Y%m%d%H:%M:%S<br/>// 計算nginx進程數量<br/>n=
ps -C nginx --no-heading|wc -l<br/>// 如果進程爲0,則啓動nginx,並且再次檢測nginx進程數量,<br/>// 如果還爲0,說明nginx無法啓動,此時需要關閉keepalived<br/>if [ $n -eq "0" ]; then<br/>/etc/init.d/nginx start<br/>n2=
ps -C nginx --no-heading|wc -l`
if [ $n2 -eq "0" ]; then
echo "$d nginx down,keepalived will stop" >> /var/log/check_ng.log // 定義錯誤日誌
systemctl stop keepalived // 在此停止Keepalived服務是爲了避免發生腦裂
fi
fi更改腳本權限:
[root@localhost ~]# chmod 755 /usr/local/sbin/check_ng.sh啓動keepalived服務
[root@localhost ~]# systemctl start keepalived查看keepalived服務是否啓動成功
[root@localhost ~]# ps aux | grep keep
root 3048 0.0 0.1 120720 1400 ? Ss 14:58 0:00 /usr/sbin/keepalived -D
root 3049 0.0 0.2 120720 2752 ? S 14:58 0:00 /usr/sbin/keepalived -D
root 3050 0.0 0.2 124976 2752 ? S 14:58 0:00 /usr/sbin/keepalived -D
root 3119 0.0 0.0 112680 976 pts/0 S+ 14:58 0:00 grep --color=auto keep查看nginx進程
[root@localhost ~]# ps aux | grep nginx
root 1462 0.0 0.0 24824 844 ? Ss 09:43 0:00 nginx: master process /usr/local/ngin/sbin/nginx -c /usr/local/nginx/conf/nginx.conf
nobody 1466 0.0 0.3 27268 3680 ? S 09:43 0:01 nginx: worker process
nobody 1467 0.0 0.3 27268 3428 ? S 09:43 0:00 nginx: worker process
root 3139 0.0 0.0 112680 976 pts/0 R+ 14:58 0:00 grep --color=auto nginx
說明: “腦裂”,即當master宕機後仍然未釋放VIP,同時backup接替master提供服務要使用同一VIP,因而導致兩臺機器爭佔同一VIP導致服務紊亂,所以當master宕機後需要關閉其Keepalived服務來避免腦裂現象發生。Keepalived服務的日誌位置:/var/log/message。
注: VIP(virtual IP)虛擬IP,由Keepalived設置,用於服務器對外提供服務。
-
查看網卡信息:
[root@localhost ~]# ip add
2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
link/ether 00:0c:29:43:65:0b brd ff:ff:ff:ff:ff:ff
inet 192.168.159.131/24 brd 192.168.159.255 scope global ens33
valid_lft forever preferred_lft forever
inet 192.168.188.100/32 scope global ens33
valid_lft forever preferred_lft forever
inet6 fe80::cfb6:b956:82de:6f77/64 scope link
valid_lft forever preferred_lft forever// ifconfig 命令不能查看到vip。只能使用ip add才能查看到ip。
注意: 配置從之前先檢查一下防火牆和selinux。
配置backup
-
編輯backup 配置文件
[root@localhost ~]# > /etc/keepalived/keepalived.conf
// 清空keepalived.conf 配置文件[root@localhost ~]# vim /etc/keepalived/keepalived.conf
global_defs {
notification_email {br/>[email protected]
}
notification_email_from [email protected]
smtp_server 127.0.0.1
smtp_connect_timeout 30
router_id LVS_DEVEL
}
vrrp_script chk_nginx {
script "/usr/local/sbin/check_ng.sh"
interval 3
}
vrrp_instance VI_1 { #只有該部分與master有區別
state BACKUP #角色
interface ens33
virtual_router_id 51
priority 90 #權重
advert_int 1
authentication {
auth_type PASS
auth_pass 123456
}
virtual_ipaddress {
192.168.159.100
}
track_script {
chk_nginx
}
}// 如果是多臺服務器,權重決定了master宕機後,backup接管master角色的順序。
-
創建監控腳本
[root@localhost ~]# vim /usr/local/sbin/checkng.sh
#!/bin/bash
// 時間變量,用於記錄日誌
d=`date --date today +%Y%m%d%H:%M:%S<br/>// 計算nginx進程數量<br/>n=
ps -C nginx --no-heading|wc -l<br/>// 如果進程爲0,則啓動nginx,並且再次檢測nginx進程數量,<br/>// 如果還爲0,說明nginx無法啓動,此時需要關閉keepalived<br/>if [ $n -eq "0" ]; then<br/>systemctl start nginx<br/>n2=
ps -C nginx --no-heading|wc -l`
if [ $n2 -eq "0" ]; then
echo "$d nginx down,keepalived will stop" >> /var/log/check_ng.log
systemctl stop keepalived
fi
fi// 該檢測腳本中與master檢測腳本的區別在於:systemctl start nginx,即nginx的啓動方式,因爲在backup服務器中是使用yum安裝的nginx,默認添加到系統服務中。
更改腳本權限:
[root@localhost ~]# chmod 755 /usr/local/sbin/check_ng.sh啓動keepalived 服務:
[root@localhost ~]# systemctl start keepalived查看keepalived 進程:
[root@localhost ~]# ps aux | grep keep
root 2981 0.0 0.1 120720 1396 ? Ss 15:23 0:00 /usr/sbin/keepalived -D
root 2982 0.0 0.2 120720 2748 ? S 15:23 0:00 /usr/sbin/keepalived -D
root 2983 0.0 0.2 124976 2744 ? S 15:23 0:00 /usr/sbin/keepalived -D
root 3021 0.0 0.0 112680 976 pts/0 R+ 15:23 0:00 grep --color=auto keep查看nginx 進程:
[root@localhost ~]# ps aux | grep nginx
root 1470 0.0 0.0 24824 848 ? Ss 09:43 0:00 nginx: master process /usr/local/ngin/sbin/nginx -c /usr/local/nginx/conf/nginx.conf
nobody 1473 0.0 0.3 27268 3432 ? S 09:43 0:00 nginx: worker process
nobody 1474 0.0 0.3 27268 3432 ? S 09:43 0:01 nginx: worker process
root 3029 0.0 0.0 112680 972 pts/0 R+ 15:23 0:00 grep --color=auto nginx
測試
- master宕機之前:
master:
// 訪問192.168.159.131(master)顯示爲master上的內容。
backup:
// 訪問192.168.159.132(backup)顯示爲backup上的內容。
vip:
// 訪問192.168.159.100 (vip)顯示爲master上的內容。
-
master 宕機之後:
模擬master宕機之後,即把keepalived服務停掉。
[root@localhost vhost]# systemctl stop keepalived查看master上的ip狀態:
[root@localhost vhost]# ip add
2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
link/ether 00:0c:29:43:65:0b brd ff:ff:ff:ff:ff:ff
inet 192.168.159.131/24 brd 192.168.159.255 scope global ens33
valid_lft forever preferred_lft forever
inet6 fe80::cfb6:b956:82de:6f77/64 scope link
valid_lft forever preferred_lft forever// ens33上已經沒有了VIP的狀態
查砍backup上的ip狀態:
[root@localhost ~]# ip add
2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
link/ether 00:0c:29:3c:9a:80 brd ff:ff:ff:ff:ff:ff
inet 192.168.159.132/24 brd 192.168.159.255 scope global ens33
valid_lft forever preferred_lft forever
inet 192.168.159.100/32 scope global ens33
valid_lft forever preferred_lft forever
inet6 fe80::6ded:30c0:229f:69ea/64 scope link
valid_lft forever preferred_lft forever// vip轉移到backup的ens33網卡上。
訪問vip:
// 訪問192.168.159.100(vip)顯示爲backup的內容。
所以,master宕機後由backup繼續提供服務。
-
重新啓動master上的keepalived服務後,master將重新爲該集羣提供服務
查看keepalived 進程:
[root@localhost vhost]# ps aux | grep keep
root 12852 0.0 0.0 112680 976 pts/0 R+ 17:16 0:00 grep --color=auto keep啓動keepalived 服務:
[root@localhost vhost]# systemctl start keepalived再次查看keepalived 進程:
[root@localhost vhost]# ps aux | grep keep
root 12860 0.0 0.1 120720 1404 ? Ss 17:16 0:00 /usr/sbin/keepalived -D
root 12861 0.0 0.2 120720 2748 ? S 17:16 0:00 /usr/sbin/keepalived -D
root 12862 0.0 0.2 124976 2740 ? S 17:16 0:00 /usr/sbin/keepalived -D
root 12873 0.0 0.0 112680 976 pts/0 S+ 17:16 0:00 grep --color=auto keep查看master網絡:
[root@localhost vhost]# ip add
2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
link/ether 00:0c:29:43:65:0b brd ff:ff:ff:ff:ff:ff
inet 192.168.159.131/24 brd 192.168.159.255 scope global ens33
valid_lft forever preferred_lft forever
inet 192.168.159.100/32 scope global ens33
valid_lft forever preferred_lft forever
inet6 fe80::cfb6:b956:82de:6f77/64 scope link
valid_lft forever preferred_lft forever// vip 轉移回了master的網卡上
查看backup 網絡:
[root@localhost ~]# ip add
2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
link/ether 00:0c:29:3c:9a:80 brd ff:ff:ff:ff:ff:ff
inet 192.168.159.132/24 brd 192.168.159.255 scope global ens33
valid_lft forever preferred_lft forever
inet6 fe80::6ded:30c0:229f:69ea/64 scope link
valid_lft forever preferred_lft forever// 無vip 狀態
再次訪問vip:
// 訪問192.168.159.131(master)顯示爲master上的內容。