rsync+inotify

                                    rsync+ inotify

rsync是一個快速備份工具,可以在不同主機之間鏡像同步整個目錄樹,支持增量備份,保存連接和權限,且採用優化的同步算法,傳輸前執行壓縮,因此

非常適合用於異地備份,鏡像服務器等應用,rsync保證了數據的同步一致性,那我們把兩臺web服務器的數據保持一致,這樣可以用兩臺web服務器做負載

均衡,所以rsync是實現LVS的重要工具的一種,需要注意的是必須在主服務器和同步服務器上都安裝rsync,其中主服務器上是以服務器模式運行rsync,

而同步上則以客戶端方式運行rsync。這樣在主服務器上運行rsyn守護進程,在同步上用crond定時運行客戶程序來同步主服務器上需要同步的內容。

rsync保證了服務器有的數據,客戶端一定有,但是客戶端比服務器多出的額外的數據,服務器那邊是沒有的

 

rsync命令的工作模式有四種:
   1shell模式,也稱爲本地模式,速度要比cp
   2、遠程shell模式,其可以藉助於ssh協議承載其數據傳輸過程
   3、列表模式,其工作方式與ls相似,僅列出源的內容:-nv
   4、服務器模式,此時,rsync可以工作爲守護進程,能夠接收客戶端的數據傳輸請求,在使用時可以在客戶端使用rsync命令發送給守護進程,也可以向服務器主獲取文件。

 

1.安裝rsync服務器

yum -y install  rsync

 

2.建立rsync的三個配置文件,

touch /etc/rsyncd.conf(rsync的配置文件)

touch /etc/rsyncd.secrets(用戶的密碼文件)  

chmod 600 /etc/rsyncd.secrets(權限要設置爲600,否則無法備份成功) 

touch /etc/rsyncd.motd(rsync服務器信息,這個不是必須創建的)

 

3.自己手動建立rsync的配置文件的信息

vim /etc/rsyncd.conf

########前面爲#號的可以不要

uid = nobody      # 備份以什麼身份進行,用戶ID

gid = nobody      # 備份以什麼身份進行,組ID

use chroot = no   #禁錮在源目錄

max connections = 0  #最大連接數,0代表沒有限制

port = 873         #默認端口873

address = 172.16.1.10  #rsync服務器的ip地址

pid file = /var/run/rsyncd.pid   #運行進程的ID寫到哪裏                                                  

log file = /var/log/rsyncd.log  #日誌記錄文件

#hosts allow = 172.16.1.0/24   #允許連接服務器的主機IP地址,如果多個ip則用空格隔開

#hosts deny = 0.0.0.0/0.0.0.0        #禁止連接服務器的主機IP地址,也可爲*,表示所有。

#strict modes =yes        #是否檢查口令文件的權限

#motd file = /etc/rsyncd.motd    #歡迎消息

#lock file = /var/run/rsync.lock

[wwwroot]          # 指定認證的備份模塊名

path = /var/www/html  # 需要備份的目錄,這裏備份web存放網頁目錄的路徑,真是環境寫你需要備份的路徑

comment = BACKUP p_w_upload          # 註釋,提示信息

ignore errors             # 忽略一些無關的IO錯誤

read only = false         # 設置爲非只讀,即可以傳至服務器的相應目錄。

auth users = backuper                   # 認證的用戶名,如果沒有這行,則表明是匿名

secrets file = /etc/rsyncd.secrets    # 認證文件名,用來存放密碼

#list = false               # 不允許列文件

#exclude = test/ test.php     #設置不同步的目錄或文件用空格隔開

######配置完成保存退出

 

4.設置密碼文件

vim /etc/rsyncd.secrets

####

backuper:pwd123   #這裏的用戶名對應配置文件裏面的用戶,配置文件裏面有幾個用戶就建立幾個用戶  類容格式 用戶名:密碼

####編輯完成保存退出

 

5.可以啓動rsync服務了

rsync --daemon #啓動rsync服務,如果你的配置文件是/etc/rsyncd/rsyncd.conf那啓動的時候就 sync --daemon  --config=/etc/rsyncd/rsyncd.conf

netstat -tnlp | grep rsync  #查看端口

kill $(cat /var/run/rsyncd.pid)  orpkill rsync  #殺死rsync的進程

 

6.如果是異地備份,因爲數據不需要全天不斷運行,只是有用戶在客戶機連接的時候才啓用,因此可以將rsync交給超級服務xinetd管理

yum -y install xinetd

 

vim /etc/xinetd.d/rsync 

#####

service rsync

{

        disable = no

        flags          = IPv6

        socket_type    = stream

        wait           = no

        user           = root

        server         = /usr/bin/rsync

        server_args    = --daemon

        log_on_failure += USERID

}

####

service xinted restart 啓動xinted服務

                                      

命令的解釋:

-v表示verbose(詳細)

-z表示zip(壓縮)

-r表示recursive(遞歸目錄)

-topg是保持文件原有屬性如o=owner(屬主)、t=times(時間)、p=perms(權限)、g=group(組)的參數

-H表示保持硬連接

-l:保留軟鏈結

-u:表示只更新源文件比目標時間新的文件

--progress是指顯示出詳細的進度情況

--delete是指如果服務器端刪除了這一文件,那麼客戶端也相應把文件刪除,保持真正的一致。如果客戶機和服務器的文件有不同的那麼

        客戶機的文件將被刪除,所以此參數慎用

--password-file = /etc/rsyncd.secrets來指定密碼文件,這裏需要注意的是這份密碼文件權限屬性要設得只有屬主可讀(權限爲600),屬主爲正在運行此命令的用戶。

如果是指定密碼文件了,則就不需要輸入密碼,但是客戶端的這個文件必須存在

vim /etc/rsyncd.secrets

###

pwd123 #只需要寫用戶的密碼

### chmod 600  /etc/rsyncd.secrets

 

命令格式及常用的備份選項

Rync [選項] 原始位置 目標位置

-v, --verbose 詳細模式輸出

-q, --quiet 精簡輸出模式

-c, --checksum 打開校驗開關,強制對文件傳輸進行校驗

-a, --archive 歸檔模式,表示以遞歸方式傳輸文件,並保持所有文件屬性,等於-rlptgoD

-r, --recursive 對子目錄以遞歸模式處理

-R, --relative 使用相對路徑信息

-b, --backup 創建備份,也就是對於目的已經存在有同樣的文件名時,將老的文件重新命名爲~filename。可以使用--suffix選項來指定不同的備份文件前綴。

--backup-dir 將備份文件(如~filename)存放在在目錄下。

-suffix=SUFFIX 定義備份文件前綴

-u, --update 僅僅進行更新,也就是跳過所有已經存在於DST,並且文件時間晚於要備份的文件。(不覆蓋更新的文件)

-l, --links 保留軟鏈結

-L, --copy-links 想對待常規文件一樣處理軟鏈結

--copy-unsafe-links 僅僅拷貝指向SRC路徑目錄樹以外的鏈結

--safe-links 忽略指向SRC路徑目錄樹以外的鏈結

-H, --hard-links 保留硬鏈結

-p, --perms 保持文件權限

-o, --owner 保持文件屬主信息

-g, --group 保持文件屬組信息

-D, --devices 保持設備文件信息

-t, --times 保持文件時間信息

-S, --sparse 對稀疏文件進行特殊處理以節省DST的空間

-n, --dry-run現實哪些文件將被傳輸

-W, --whole-file 拷貝文件,不進行增量檢測

-x, --one-file-system 不要跨越文件系統邊界

-B, --block-size=SIZE 檢驗算法使用的塊尺寸,默認是700字節

-e, --rsh=COMMAND 指定使用rsh、ssh方式進行數據同步

--rsync-path=PATH 指定遠程服務器上的rsync命令所在路徑信息

-C, --cvs-exclude 使用和CVS一樣的方法自動忽略文件,用來排除那些不希望傳輸的文件

--existing 僅僅更新那些已經存在於DST的文件,而不備份那些新創建的文件

--delete 刪除那些DST中SRC沒有的文件

--delete-excluded 同樣刪除接收端那些被該選項指定排除的文件

--delete-after 傳輸結束以後再刪除-

-ignore-errors 及時出現IO錯誤也進行刪除

--max-delete=NUM 最多刪除NUM個文件-

-partial 保留那些因故沒有完全傳輸的文件,以是加快隨後的再次傳輸

--force 強制刪除目錄,即使不爲空

--numeric-ids 不將數字的用戶和組ID匹配爲用戶名和組名

--timeout=TIME IP超時時間,單位爲秒-I, 

--ignore-times 不跳過那些有同樣的時間和長度的文件

--size-only 當決定是否要備份文件時,僅僅察看文件大小而不考慮文件時間

--modify-window=NUM 決定文件是否時間相同時使用的時間戳窗口,默認爲0

-T --temp-dir=DIR 在DIR中創建臨時文件

--compare-dest=DIR 同樣比較DIR中的文件來決定是否需要備份

-P 等同於 --partial--progress 顯示備份過程

-z, --compress 對備份的文件在傳輸時進行壓縮處理

--exclude=PATTERN 指定排除不需要傳輸的文件模式

--include=PATTERN 指定不排除而需要傳輸的文件模式

--exclude-from=FILE 排除FILE中指定模式的文

--include-from=FILE 不排除FILE指定模式匹配的文件

--version 打印版本信息

--address 綁定到特定的地址

--config=FILE 指定其他的配置文件,不使用默認的rsyncd.conf文件

--port=PORT 指定其他的rsync服務端口

--blocking-io 對遠程shell使用阻塞IO

-stats 給出某些文件的傳輸狀態

--progress 在傳輸時現實傳輸過程

--log-format=formAT 指定日誌文件格式

--password-file=FILE 從FILE中得到密碼

--bwlimit=KBPS 限制I/O帶寬,KBytes per second

-h, --help 顯示幫助信息

 

注意:rsync命令使用中,如果源參數的末尾有斜線,就會複製指定目錄內容,而不復制目錄本身;沒有斜線,則會複製目錄本身,因此有如下命令:
   # rsync -r /mydata/data /backups/:會把目錄data直接同步至/backups目錄中去
   # rsync -r /mydata/data/ /backups/:會把目錄中的data/中的內容同步至/backups目錄中

rsync本地用法:
   # cd /etc /tmp/
   # rsync /tmp/etc/passwd/tmp/test/passwd -nv
推送到遠程主機上去,把本地的etc文件推送到172.16.251.244主機上去:
   # rsync -r -e ssh /tmp/[email protected]:/tmp/

拉取遠程服務器上的文件:
   # rsync -e ssh -r [email protected]:/etc/pam.d ./ --stats

把文件推送到服務器端上去:
# rsync -auzv messages [email protected]::my_data_rsync

如果我們從服務器上拉取文件時必須要指定文件路徑
# rsync [email protected]::my_data_rsync/messages/tmp/

 

 

關於以下知識,本人正握不多,還在研究階段,有一大部分是摘錄至其他博客,望見諒!

初識inotify
 Inotify 是一種強大的、細粒度的、異步的文件系統事件監控機制,linux內核從2.6.13起,加入了Inotify支持,通過Inotify可以監控文件系統中添加、刪除,修改、移動等各種細微事件,利用這個內核接口,第三方軟件就可以監控文件系統下文件的各種變化情況,而inotify-tools就是這樣的一個第三方軟件。
在上面章節中,我們講到,rsync可以實現觸發式的文件同步,但是通過crontab守護進程方式進行觸發,同步的數據和實際數據會有差異,而inotify可以監控文件系統的各種變化,當文件有任何變動時,就觸發rsync同步,這樣剛好解決了同步數據的實時性問題。

安裝inotify工具inotify-tools
 由於inotify特性需要Linux內核的支持,在安裝inotify-tools前要先確認Linux系統內核是否達到了2.6.13以上,如果Linux內核低於2.6.13版本,就需要重新編譯內核加入inotify的支持,也可以用如下方法判斷,內核是否支持inotify:
[root@localhost webdata]# uname -r
2.6.18-164.11.1.el5PAE
[root@localhost webdata]# ll /proc/sys/fs/inotify
總計 0
-rw-r--r-- 1 root root 0 04-13 19:56 max_queued_events
-rw-r--r-- 1 root root 0 04-13 19:56 max_user_instances
-rw-r--r-- 1 root root 0 04-13 19:56 max_user_watches
如果有上面三項輸出,表示系統已經默認支持inotify,接着就可以開始安裝inotify-tools了。
可以到
http://inotify-tools.sourceforge.net/下載相應的inotify-tools版本,然後開始編譯安裝:
[root@localhost  ~]# tar zxvf inotify-tools-3.14.tar.gz 
root@localhost  ~]# cd inotify-tools-3.14
[root@localhost inotify-tools-3.14]# ./configure
[root@localhost inotify-tools-3.14]# make
[root@localhost inotify-tools-3.14]# make install
[root@localhost inotify-tools-3.14]# ll /usr/local/bin/inotifywa*
-rwxr-xr-x 1 root root 37264 04-14 13:42 /usr/local/bin/inotifywait
-rwxr-xr-x 1 root root 35438 04-14 13:42 /usr/local/bin/inotifywatch
inotify-tools
安裝完成後,會生成inotifywait和inotifywatch兩個指令,其中,inotifywait用於等待文件或文件集上的一個特定事件,它可以監控任何文件和目錄設置,並且可以遞歸地監控整個目錄樹。
inotifywatch用於收集被監控的文件系統統計數據,包括每個inotify事件發生多少次等信息。

inotify相關參數
inotify定義了下列的接口參數,可以用來限制inotify消耗kernel memory的大小。由於這些參數都是內存參數,因此,可以根據應用需求,實時的調節其大小。下面分別做簡單介紹。
   /proc/sys/fs/inotify/max_queued_evnets     
       表示調用inotify_init時分配給inotify instance中可排隊的event的數目的最大值,超出這個值的事件被丟棄,但會觸發IN_Q_OVERFLOW事件。
    /proc/sys/fs/inotify/max_user_instances
        表示每一個realuser ID可創建的inotify instatnces的數量上限。
    /proc/sys/fs/inotify/max_user_watches
        表示每個inotifyinstatnces可監控的最大目錄數量。如果監控的文件數目巨大,需要根據情況,適當增加此值的大小,例如:
echo 30000000 > /proc/sys/fs/inotify/max_user_watches

inotifywait相關參數
Inotifywait是一個監控等待事件,可以配合shell腳本使用它,下面介紹一下常用的一些參數:
 -m, 即--monitor,表示始終保持事件監聽狀態。
 -r, 即--recursive,表示遞歸查詢目錄。
 -q, 即--quiet,表示打印出監控事件。
 -e, 即--event,通過此參數可以指定要監控的事件,常見的事件有modify、delete、create、attrib等。
更詳細的請參看man  inotifywait。


發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章