rsync+ inotify
rsync是一個快速備份工具,可以在不同主機之間鏡像同步整個目錄樹,支持增量備份,保存連接和權限,且採用優化的同步算法,傳輸前執行壓縮,因此
非常適合用於異地備份,鏡像服務器等應用,rsync保證了數據的同步一致性,那我們把兩臺web服務器的數據保持一致,這樣可以用兩臺web服務器做負載
均衡,所以rsync是實現LVS的重要工具的一種,需要注意的是必須在主服務器和同步服務器上都安裝rsync,其中主服務器上是以服務器模式運行rsync,
而同步上則以客戶端方式運行rsync。這樣在主服務器上運行rsyn守護進程,在同步上用crond定時運行客戶程序來同步主服務器上需要同步的內容。
rsync保證了服務器有的數據,客戶端一定有,但是客戶端比服務器多出的額外的數據,服務器那邊是沒有的
rsync命令的工作模式有四種:
1、shell模式,也稱爲本地模式,速度要比cp快
2、遠程shell模式,其可以藉助於ssh協議承載其數據傳輸過程
3、列表模式,其工作方式與ls相似,僅列出源的內容:-nv
4、服務器模式,此時,rsync可以工作爲守護進程,能夠接收客戶端的數據傳輸請求,在使用時可以在客戶端使用rsync命令發送給守護進程,也可以向服務器主獲取文件。
1.安裝rsync服務器
yum -y install rsync
2.建立rsync的三個配置文件,
touch /etc/rsyncd.conf(rsync的配置文件)
touch /etc/rsyncd.secrets(用戶的密碼文件)
chmod 600 /etc/rsyncd.secrets(權限要設置爲600,否則無法備份成功)
touch /etc/rsyncd.motd(rsync服務器信息,這個不是必須創建的)
3.自己手動建立rsync的配置文件的信息
vim /etc/rsyncd.conf
########前面爲#號的可以不要
uid = nobody # 備份以什麼身份進行,用戶ID
gid = nobody # 備份以什麼身份進行,組ID
use chroot = no #禁錮在源目錄
max connections = 0 #最大連接數,0代表沒有限制
port = 873 #默認端口873
address = 172.16.1.10 #rsync服務器的ip地址
pid file = /var/run/rsyncd.pid #運行進程的ID寫到哪裏
log file = /var/log/rsyncd.log #日誌記錄文件
#hosts allow = 172.16.1.0/24 #允許連接服務器的主機IP地址,如果多個ip則用空格隔開
#hosts deny = 0.0.0.0/0.0.0.0 #禁止連接服務器的主機IP地址,也可爲*,表示所有。
#strict modes =yes #是否檢查口令文件的權限
#motd file = /etc/rsyncd.motd #歡迎消息
#lock file = /var/run/rsync.lock
[wwwroot] # 指定認證的備份模塊名
path = /var/www/html # 需要備份的目錄,這裏備份web存放網頁目錄的路徑,真是環境寫你需要備份的路徑
comment = BACKUP p_w_upload # 註釋,提示信息
ignore errors # 忽略一些無關的IO錯誤
read only = false # 設置爲非只讀,即可以傳至服務器的相應目錄。
auth users = backuper # 認證的用戶名,如果沒有這行,則表明是匿名
secrets file = /etc/rsyncd.secrets # 認證文件名,用來存放密碼
#list = false # 不允許列文件
#exclude = test/ test.php #設置不同步的目錄或文件用空格隔開
######配置完成保存退出
4.設置密碼文件
vim /etc/rsyncd.secrets
####
backuper:pwd123 #這裏的用戶名對應配置文件裏面的用戶,配置文件裏面有幾個用戶就建立幾個用戶 類容格式 用戶名:密碼
####編輯完成保存退出
5.可以啓動rsync服務了
rsync --daemon #啓動rsync服務,如果你的配置文件是/etc/rsyncd/rsyncd.conf那啓動的時候就 sync --daemon --config=/etc/rsyncd/rsyncd.conf
netstat -tnlp | grep rsync #查看端口
kill $(cat /var/run/rsyncd.pid) orpkill rsync #殺死rsync的進程
6.如果是異地備份,因爲數據不需要全天不斷運行,只是有用戶在客戶機連接的時候才啓用,因此可以將rsync交給超級服務xinetd管理
yum -y install xinetd
vim /etc/xinetd.d/rsync
#####
service rsync
{
disable = no
flags = IPv6
socket_type = stream
wait = no
user = root
server = /usr/bin/rsync
server_args = --daemon
log_on_failure += USERID
}
####
service xinted restart 啓動xinted服務
命令的解釋:
-v表示verbose(詳細)
-z表示zip(壓縮)
-r表示recursive(遞歸目錄)
-topg是保持文件原有屬性如o=owner(屬主)、t=times(時間)、p=perms(權限)、g=group(組)的參數
-H表示保持硬連接
-l:保留軟鏈結
-u:表示只更新源文件比目標時間新的文件
--progress是指顯示出詳細的進度情況
--delete是指如果服務器端刪除了這一文件,那麼客戶端也相應把文件刪除,保持真正的一致。如果客戶機和服務器的文件有不同的那麼
客戶機的文件將被刪除,所以此參數慎用
--password-file = /etc/rsyncd.secrets來指定密碼文件,這裏需要注意的是這份密碼文件權限屬性要設得只有屬主可讀(權限爲600),屬主爲正在運行此命令的用戶。
如果是指定密碼文件了,則就不需要輸入密碼,但是客戶端的這個文件必須存在
vim /etc/rsyncd.secrets
###
pwd123 #只需要寫用戶的密碼
### chmod 600 /etc/rsyncd.secrets
命令格式及常用的備份選項
Rync [選項] 原始位置 目標位置
-v, --verbose 詳細模式輸出
-q, --quiet 精簡輸出模式
-c, --checksum 打開校驗開關,強制對文件傳輸進行校驗
-a, --archive 歸檔模式,表示以遞歸方式傳輸文件,並保持所有文件屬性,等於-rlptgoD
-r, --recursive 對子目錄以遞歸模式處理
-R, --relative 使用相對路徑信息
-b, --backup 創建備份,也就是對於目的已經存在有同樣的文件名時,將老的文件重新命名爲~filename。可以使用--suffix選項來指定不同的備份文件前綴。
--backup-dir 將備份文件(如~filename)存放在在目錄下。
-suffix=SUFFIX 定義備份文件前綴
-u, --update 僅僅進行更新,也就是跳過所有已經存在於DST,並且文件時間晚於要備份的文件。(不覆蓋更新的文件)
-l, --links 保留軟鏈結
-L, --copy-links 想對待常規文件一樣處理軟鏈結
--copy-unsafe-links 僅僅拷貝指向SRC路徑目錄樹以外的鏈結
--safe-links 忽略指向SRC路徑目錄樹以外的鏈結
-H, --hard-links 保留硬鏈結
-p, --perms 保持文件權限
-o, --owner 保持文件屬主信息
-g, --group 保持文件屬組信息
-D, --devices 保持設備文件信息
-t, --times 保持文件時間信息
-S, --sparse 對稀疏文件進行特殊處理以節省DST的空間
-n, --dry-run現實哪些文件將被傳輸
-W, --whole-file 拷貝文件,不進行增量檢測
-x, --one-file-system 不要跨越文件系統邊界
-B, --block-size=SIZE 檢驗算法使用的塊尺寸,默認是700字節
-e, --rsh=COMMAND 指定使用rsh、ssh方式進行數據同步
--rsync-path=PATH 指定遠程服務器上的rsync命令所在路徑信息
-C, --cvs-exclude 使用和CVS一樣的方法自動忽略文件,用來排除那些不希望傳輸的文件
--existing 僅僅更新那些已經存在於DST的文件,而不備份那些新創建的文件
--delete 刪除那些DST中SRC沒有的文件
--delete-excluded 同樣刪除接收端那些被該選項指定排除的文件
--delete-after 傳輸結束以後再刪除-
-ignore-errors 及時出現IO錯誤也進行刪除
--max-delete=NUM 最多刪除NUM個文件-
-partial 保留那些因故沒有完全傳輸的文件,以是加快隨後的再次傳輸
--force 強制刪除目錄,即使不爲空
--numeric-ids 不將數字的用戶和組ID匹配爲用戶名和組名
--timeout=TIME IP超時時間,單位爲秒-I,
--ignore-times 不跳過那些有同樣的時間和長度的文件
--size-only 當決定是否要備份文件時,僅僅察看文件大小而不考慮文件時間
--modify-window=NUM 決定文件是否時間相同時使用的時間戳窗口,默認爲0
-T --temp-dir=DIR 在DIR中創建臨時文件
--compare-dest=DIR 同樣比較DIR中的文件來決定是否需要備份
-P 等同於 --partial--progress 顯示備份過程
-z, --compress 對備份的文件在傳輸時進行壓縮處理
--exclude=PATTERN 指定排除不需要傳輸的文件模式
--include=PATTERN 指定不排除而需要傳輸的文件模式
--exclude-from=FILE 排除FILE中指定模式的文
--include-from=FILE 不排除FILE指定模式匹配的文件
--version 打印版本信息
--address 綁定到特定的地址
--config=FILE 指定其他的配置文件,不使用默認的rsyncd.conf文件
--port=PORT 指定其他的rsync服務端口
--blocking-io 對遠程shell使用阻塞IO
-stats 給出某些文件的傳輸狀態
--progress 在傳輸時現實傳輸過程
--log-format=formAT 指定日誌文件格式
--password-file=FILE 從FILE中得到密碼
--bwlimit=KBPS 限制I/O帶寬,KBytes per second
-h, --help 顯示幫助信息
注意:rsync命令使用中,如果源參數的末尾有斜線,就會複製指定目錄內容,而不復制目錄本身;沒有斜線,則會複製目錄本身,因此有如下命令:
# rsync -r /mydata/data /backups/:會把目錄data直接同步至/backups目錄中去
# rsync -r /mydata/data/ /backups/:會把目錄中的data/中的內容同步至/backups目錄中
rsync本地用法:
# cd /etc /tmp/
# rsync /tmp/etc/passwd/tmp/test/passwd -nv
推送到遠程主機上去,把本地的etc文件推送到172.16.251.244主機上去:
# rsync -r -e ssh /tmp/[email protected]:/tmp/
拉取遠程服務器上的文件:
# rsync -e ssh -r [email protected]:/etc/pam.d ./ --stats
把文件推送到服務器端上去:
# rsync -auzv messages [email protected]::my_data_rsync
如果我們從服務器上拉取文件時必須要指定文件路徑
# rsync [email protected]::my_data_rsync/messages/tmp/
關於以下知識,本人正握不多,還在研究階段,有一大部分是摘錄至其他博客,望見諒!
初識inotify
Inotify 是一種強大的、細粒度的、異步的文件系統事件監控機制,linux內核從2.6.13起,加入了Inotify支持,通過Inotify可以監控文件系統中添加、刪除,修改、移動等各種細微事件,利用這個內核接口,第三方軟件就可以監控文件系統下文件的各種變化情況,而inotify-tools就是這樣的一個第三方軟件。
在上面章節中,我們講到,rsync可以實現觸發式的文件同步,但是通過crontab守護進程方式進行觸發,同步的數據和實際數據會有差異,而inotify可以監控文件系統的各種變化,當文件有任何變動時,就觸發rsync同步,這樣剛好解決了同步數據的實時性問題。
安裝inotify工具inotify-tools
由於inotify特性需要Linux內核的支持,在安裝inotify-tools前要先確認Linux系統內核是否達到了2.6.13以上,如果Linux內核低於2.6.13版本,就需要重新編譯內核加入inotify的支持,也可以用如下方法判斷,內核是否支持inotify:
[root@localhost webdata]# uname -r
2.6.18-164.11.1.el5PAE
[root@localhost webdata]# ll /proc/sys/fs/inotify
總計 0
-rw-r--r-- 1 root root 0 04-13 19:56 max_queued_events
-rw-r--r-- 1 root root 0 04-13 19:56 max_user_instances
-rw-r--r-- 1 root root 0 04-13 19:56 max_user_watches
如果有上面三項輸出,表示系統已經默認支持inotify,接着就可以開始安裝inotify-tools了。
可以到http://inotify-tools.sourceforge.net/下載相應的inotify-tools版本,然後開始編譯安裝:
[root@localhost ~]# tar zxvf inotify-tools-3.14.tar.gz
root@localhost ~]# cd inotify-tools-3.14
[root@localhost inotify-tools-3.14]# ./configure
[root@localhost inotify-tools-3.14]# make
[root@localhost inotify-tools-3.14]# make install
[root@localhost inotify-tools-3.14]# ll /usr/local/bin/inotifywa*
-rwxr-xr-x 1 root root 37264 04-14 13:42 /usr/local/bin/inotifywait
-rwxr-xr-x 1 root root 35438 04-14 13:42 /usr/local/bin/inotifywatch
inotify-tools安裝完成後,會生成inotifywait和inotifywatch兩個指令,其中,inotifywait用於等待文件或文件集上的一個特定事件,它可以監控任何文件和目錄設置,並且可以遞歸地監控整個目錄樹。
inotifywatch用於收集被監控的文件系統統計數據,包括每個inotify事件發生多少次等信息。
inotify相關參數
inotify定義了下列的接口參數,可以用來限制inotify消耗kernel memory的大小。由於這些參數都是內存參數,因此,可以根據應用需求,實時的調節其大小。下面分別做簡單介紹。
/proc/sys/fs/inotify/max_queued_evnets
表示調用inotify_init時分配給inotify instance中可排隊的event的數目的最大值,超出這個值的事件被丟棄,但會觸發IN_Q_OVERFLOW事件。
/proc/sys/fs/inotify/max_user_instances
表示每一個realuser ID可創建的inotify instatnces的數量上限。
/proc/sys/fs/inotify/max_user_watches
表示每個inotifyinstatnces可監控的最大目錄數量。如果監控的文件數目巨大,需要根據情況,適當增加此值的大小,例如:
echo 30000000 > /proc/sys/fs/inotify/max_user_watches
inotifywait相關參數
Inotifywait是一個監控等待事件,可以配合shell腳本使用它,下面介紹一下常用的一些參數:
-m, 即--monitor,表示始終保持事件監聽狀態。
-r, 即--recursive,表示遞歸查詢目錄。
-q, 即--quiet,表示打印出監控事件。
-e, 即--event,通過此參數可以指定要監控的事件,常見的事件有modify、delete、create、attrib等。
更詳細的請參看man inotifywait。