Linux分佈式文件拷貝

在開發過程中總會遇到這種情況,就是需要將一個文件從一個機器拷貝到其他的很多臺機器中,最簡單的方法是用U盤拷出來再一個一個機器的插進去拷貝,另一張方法則是利用飛鴿傳書或者QQ等工具傳輸,但是都不是很方便,因爲每次只能拷貝到一個機器。還有一種方法是講此文件共享,但是這會帶來很多權限的問題。


本文提高了一個可以同時將一個文件從一個機器拷貝到多臺機器的方法,採用的方式是鏈式傳輸(參照的博客鏈接http://engineering.tumblr.com/post/7658008285/efficiently-copying-files-to-multiple-destinations),如下圖所示。wKiom1MV38zT-yxhAADX8QRQd3k279.jpg

本文的傳輸方式需要利用網絡工具netcat,netcat號稱Linux下的瑞士軍刀,一般在Linux中已經安裝了。首先介紹機器1的shell腳本爲

tar cv some_files | pigz | nc hostname_of_first_box 1234

先將文件進行壓縮,這裏先用tar再用pigz使之變成tar.gz的形式,而gz的壓縮沒有使用gzip,而是使用pigz,因爲pigz可以使用多核多線程的方式進行壓縮,提高壓縮速度(性能區別見博客http://imysql.cn/2012/12/03/using-pigz-instead-of-gzip.html)。壓縮了以後利用netcat發送出去。

機器2和機器3的腳本爲

mkfifo myfifo
nc hostname_of_next_box 1234 <myfifo &
nc -l 1234 | tee myfifo | pigz -d | tar xvf -

建立一個fifo,然後將接收到的文件送入fifo,然後fifo將文件再傳到下一個機器中。同時將接收到的文件進行解壓縮。

最後一個機器,機器4的腳本爲

nc -l 1234 | pigz -d | tar xvf -

同樣也是接受文件,然後進行解壓縮。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章