集羣介紹、keepalived介紹、用keepalived配置高可用集羣

集羣介紹

Linux 集羣根據功能劃分爲兩大類:高可用和負載均衡。

高可用集羣

  • 高可用集羣通常爲兩臺服務器,一臺工作,另外一臺作爲冗餘,當提供服務的機器宕機時,冗餘將接替繼續提供服務。

  • 實現高可用的開源軟件有: heartbeat、keepalived

負載均衡集羣

  • 需要有一臺服務器作爲分發器,它負責把用戶的請求分發給後端的服務器處理,在這個集羣裏,除了分發器外,就是給用戶提供服務的服務器了,這些服務器數量至少爲2。
  • 實現負載均衡的開源軟件有LVS、keepalived、haproxy、nginx,商業的(服務器器)有F5、Netscaler

keepalived 介紹

在這裏我們使用keepalived 來實現高可用集羣,因爲heartbeat在centos6 上有一些問題,影響實驗效果。

  • keepalived 通過VRRP (Virtual Router Redundancy Protocl:虛擬路由冗餘協議)來實現高可用。

  • 在這個協議裏會將多臺功能相同的路由器組成一個小組,這個小組裏會有1個master 角色和N(N>=1)個backup 角色。

  • master 會通過組播的形式向各個backup 發送VRRP 協議的數據包,當backup 收不到master 發來的VRRP 數據包時,就會認爲master 宕機了。此時就需要根據各個backup 的優先級來決定誰成爲新的master。

  • keepalived 要有三個模塊,分別是core 、check 和 vrrp。其中core 模塊爲keepalived 的核心,負責主進程的啓動、維護以及全局配置文件的加載和解析,check 模塊負責健康檢查,vrrp 模塊是來實現vrrp協議的。

用keepalived 配置高可用集羣

準備工作

  • 準備兩臺機器131和132,131作爲master,132 作爲backup

  • 兩臺機器都安裝 keepalived

    [root@localhost ~]# yum install -y keepalived

  • 兩臺機器都要安裝nginx,其中131上需要編譯安裝nginx,132上直接yum安裝nginx。

    查看nginx版本:
    [root@localhost ~]# /usr/local/nginx/sbin/nginx -v
    nginx version: nginx/1.8.0

配置master

  • 編輯master 機器配置文件

    [root@localhost ~]# vim /etc/keepalived/keepalived.conf
    // 將裏面的配置全部刪除
    [root@localhost ~]# > /etc/keepalived/keepalived.conf

    [root@localhost ~]# vim /etc/keepalived/keepalived.conf
    // 加入下面內容
    global_defs {
    notification_email {
    [email protected]
    } // 定義故障提醒郵件接收地址(本實驗用不到)
    notification_email_from [email protected]
    smtp_server 127.0.0.1
    smtp_connect_timeout 30
    router_id LVS_DEVEL // 定義故障提醒郵件發送地址(本實驗用不到)
    }
    vrrp_script chk_nginx { // 定義監控腳本
    script "/usr/local/sbin/check_ng.sh" // 指定服務健康檢測(check)腳本
    interval 3 // 檢測時間間隔
    }
    vrrp_instance VI_1 {
    state MASTER // 定義該服務的角色
    interface ens33 // 定義在本機中監聽VIP的網卡
    virtual_router_id 51 // 虛擬路由id(同組中的服務器保持該id一致)
    priority 100 // 指定本機權重(決定優先級)
    advert_int 1
    authentication { // 定義認證相關信息
    auth_type PASS // 認證類型爲密碼形式
    auth_pass 123456 // 定義認證密碼
    }
    virtual_ipaddress { // 定義VIP
    192.168.159.100
    }
    track_script { // 加載監控服務(腳本)
    chk_nginx // 注意此處服務名稱要與上面監控腳本名稱一致
    }
    }

  • 創建監控腳本

    [root@localhost ~]# vim /usr/local/sbin/checkng.sh
    #!/bin/bash
    // 時間變量,用於記錄日誌
    d=`date --date today +%Y%m%d
    %H:%M:%S<br/>// 計算nginx進程數量<br/>n=ps -C nginx --no-heading|wc -l<br/>// 如果進程爲0,則啓動nginx,並且再次檢測nginx進程數量,<br/>// 如果還爲0,說明nginx無法啓動,此時需要關閉keepalived<br/>if [ $n -eq "0" ]; then<br/>/etc/init.d/nginx start<br/>n2=ps -C nginx --no-heading|wc -l`
    if [ $n2 -eq "0" ]; then
    echo "$d nginx down,keepalived will stop" >> /var/log/check_ng.log // 定義錯誤日誌
    systemctl stop keepalived // 在此停止Keepalived服務是爲了避免發生腦裂
    fi
    fi

    更改腳本權限:
    [root@localhost ~]# chmod 755 /usr/local/sbin/check_ng.sh

    啓動keepalived服務
    [root@localhost ~]# systemctl start keepalived

    查看keepalived服務是否啓動成功
    [root@localhost ~]# ps aux | grep keep
    root 3048 0.0 0.1 120720 1400 ? Ss 14:58 0:00 /usr/sbin/keepalived -D
    root 3049 0.0 0.2 120720 2752 ? S 14:58 0:00 /usr/sbin/keepalived -D
    root 3050 0.0 0.2 124976 2752 ? S 14:58 0:00 /usr/sbin/keepalived -D
    root 3119 0.0 0.0 112680 976 pts/0 S+ 14:58 0:00 grep --color=auto keep

    查看nginx進程
    [root@localhost ~]# ps aux | grep nginx
    root 1462 0.0 0.0 24824 844 ? Ss 09:43 0:00 nginx: master process /usr/local/ngin/sbin/nginx -c /usr/local/nginx/conf/nginx.conf
    nobody 1466 0.0 0.3 27268 3680 ? S 09:43 0:01 nginx: worker process
    nobody 1467 0.0 0.3 27268 3428 ? S 09:43 0:00 nginx: worker process
    root 3139 0.0 0.0 112680 976 pts/0 R+ 14:58 0:00 grep --color=auto nginx

說明: “腦裂”,即當master宕機後仍然未釋放VIP,同時backup接替master提供服務要使用同一VIP,因而導致兩臺機器爭佔同一VIP導致服務紊亂,所以當master宕機後需要關閉其Keepalived服務來避免腦裂現象發生。Keepalived服務的日誌位置:/var/log/message。

注: VIP(virtual IP)虛擬IP,由Keepalived設置,用於服務器對外提供服務。

  • 查看網卡信息:

    [root@localhost ~]# ip add
    2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
    link/ether 00:0c:29:43:65:0b brd ff:ff:ff:ff:ff:ff
    inet 192.168.159.131/24 brd 192.168.159.255 scope global ens33
    valid_lft forever preferred_lft forever
    inet 192.168.188.100/32 scope global ens33
    valid_lft forever preferred_lft forever
    inet6 fe80::cfb6:b956:82de:6f77/64 scope link
    valid_lft forever preferred_lft forever

    // ifconfig 命令不能查看到vip。只能使用ip add才能查看到ip。

注意: 配置從之前先檢查一下防火牆和selinux。

配置backup

  • 編輯backup 配置文件

    [root@localhost ~]# > /etc/keepalived/keepalived.conf
    // 清空keepalived.conf 配置文件

    [root@localhost ~]# vim /etc/keepalived/keepalived.conf
    global_defs {
    notification_email {br/>[email protected]
    }
    notification_email_from [email protected]
    smtp_server 127.0.0.1
    smtp_connect_timeout 30
    router_id LVS_DEVEL
    }
    vrrp_script chk_nginx {
    script "/usr/local/sbin/check_ng.sh"
    interval 3
    }
    vrrp_instance VI_1 { #只有該部分與master有區別
    state BACKUP #角色
    interface ens33
    virtual_router_id 51
    priority 90 #權重
    advert_int 1
    authentication {
    auth_type PASS
    auth_pass 123456
    }
    virtual_ipaddress {
    192.168.159.100
    }
    track_script {
    chk_nginx
    }
    }

    // 如果是多臺服務器,權重決定了master宕機後,backup接管master角色的順序。

  • 創建監控腳本

    [root@localhost ~]# vim /usr/local/sbin/checkng.sh
    #!/bin/bash
    // 時間變量,用於記錄日誌
    d=`date --date today +%Y%m%d
    %H:%M:%S<br/>// 計算nginx進程數量<br/>n=ps -C nginx --no-heading|wc -l<br/>// 如果進程爲0,則啓動nginx,並且再次檢測nginx進程數量,<br/>// 如果還爲0,說明nginx無法啓動,此時需要關閉keepalived<br/>if [ $n -eq "0" ]; then<br/>systemctl start nginx<br/>n2=ps -C nginx --no-heading|wc -l`
    if [ $n2 -eq "0" ]; then
    echo "$d nginx down,keepalived will stop" >> /var/log/check_ng.log
    systemctl stop keepalived
    fi
    fi

    // 該檢測腳本中與master檢測腳本的區別在於:systemctl start nginx,即nginx的啓動方式,因爲在backup服務器中是使用yum安裝的nginx,默認添加到系統服務中。

    更改腳本權限:
    [root@localhost ~]# chmod 755 /usr/local/sbin/check_ng.sh

    啓動keepalived 服務:
    [root@localhost ~]# systemctl start keepalived

    查看keepalived 進程:
    [root@localhost ~]# ps aux | grep keep
    root 2981 0.0 0.1 120720 1396 ? Ss 15:23 0:00 /usr/sbin/keepalived -D
    root 2982 0.0 0.2 120720 2748 ? S 15:23 0:00 /usr/sbin/keepalived -D
    root 2983 0.0 0.2 124976 2744 ? S 15:23 0:00 /usr/sbin/keepalived -D
    root 3021 0.0 0.0 112680 976 pts/0 R+ 15:23 0:00 grep --color=auto keep

    查看nginx 進程:
    [root@localhost ~]# ps aux | grep nginx
    root 1470 0.0 0.0 24824 848 ? Ss 09:43 0:00 nginx: master process /usr/local/ngin/sbin/nginx -c /usr/local/nginx/conf/nginx.conf
    nobody 1473 0.0 0.3 27268 3432 ? S 09:43 0:00 nginx: worker process
    nobody 1474 0.0 0.3 27268 3432 ? S 09:43 0:01 nginx: worker process
    root 3029 0.0 0.0 112680 972 pts/0 R+ 15:23 0:00 grep --color=auto nginx

測試

  • master宕機之前:

master:
9SpUqU.png
// 訪問192.168.159.131(master)顯示爲master上的內容。

backup:
9SpXdg.png
// 訪問192.168.159.132(backup)顯示爲backup上的內容。

vip:
9S9eY9.png
// 訪問192.168.159.100 (vip)顯示爲master上的內容。

  • master 宕機之後:

    模擬master宕機之後,即把keepalived服務停掉。
    [root@localhost vhost]# systemctl stop keepalived

    查看master上的ip狀態:
    [root@localhost vhost]# ip add
    2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
    link/ether 00:0c:29:43:65:0b brd ff:ff:ff:ff:ff:ff
    inet 192.168.159.131/24 brd 192.168.159.255 scope global ens33
    valid_lft forever preferred_lft forever
    inet6 fe80::cfb6:b956:82de:6f77/64 scope link
    valid_lft forever preferred_lft forever

    // ens33上已經沒有了VIP的狀態

    查砍backup上的ip狀態:
    [root@localhost ~]# ip add
    2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
    link/ether 00:0c:29:3c:9a:80 brd ff:ff:ff:ff:ff:ff
    inet 192.168.159.132/24 brd 192.168.159.255 scope global ens33
    valid_lft forever preferred_lft forever
    inet 192.168.159.100/32 scope global ens33
    valid_lft forever preferred_lft forever
    inet6 fe80::6ded:30c0:229f:69ea/64 scope link
    valid_lft forever preferred_lft forever

    // vip轉移到backup的ens33網卡上。

訪問vip:
9SiHhQ.png
// 訪問192.168.159.100(vip)顯示爲backup的內容。

所以,master宕機後由backup繼續提供服務。

  • 重新啓動master上的keepalived服務後,master將重新爲該集羣提供服務

    查看keepalived 進程:
    [root@localhost vhost]# ps aux | grep keep
    root 12852 0.0 0.0 112680 976 pts/0 R+ 17:16 0:00 grep --color=auto keep

    啓動keepalived 服務:
    [root@localhost vhost]# systemctl start keepalived

    再次查看keepalived 進程:
    [root@localhost vhost]# ps aux | grep keep
    root 12860 0.0 0.1 120720 1404 ? Ss 17:16 0:00 /usr/sbin/keepalived -D
    root 12861 0.0 0.2 120720 2748 ? S 17:16 0:00 /usr/sbin/keepalived -D
    root 12862 0.0 0.2 124976 2740 ? S 17:16 0:00 /usr/sbin/keepalived -D
    root 12873 0.0 0.0 112680 976 pts/0 S+ 17:16 0:00 grep --color=auto keep

    查看master網絡:
    [root@localhost vhost]# ip add
    2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
    link/ether 00:0c:29:43:65:0b brd ff:ff:ff:ff:ff:ff
    inet 192.168.159.131/24 brd 192.168.159.255 scope global ens33
    valid_lft forever preferred_lft forever
    inet 192.168.159.100/32 scope global ens33
    valid_lft forever preferred_lft forever
    inet6 fe80::cfb6:b956:82de:6f77/64 scope link
    valid_lft forever preferred_lft forever

    // vip 轉移回了master的網卡上

    查看backup 網絡:
    [root@localhost ~]# ip add
    2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
    link/ether 00:0c:29:3c:9a:80 brd ff:ff:ff:ff:ff:ff
    inet 192.168.159.132/24 brd 192.168.159.255 scope global ens33
    valid_lft forever preferred_lft forever
    inet6 fe80::6ded:30c0:229f:69ea/64 scope link
    valid_lft forever preferred_lft forever

    // 無vip 狀態

再次訪問vip:
9SpUqU.png
// 訪問192.168.159.131(master)顯示爲master上的內容。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章