運維實戰案例之文件已刪除但空間不釋放問題解析


1、錯誤現象

運維的監控系統發來通知,報告一臺服務器空間滿了,登陸服務器查看,根分區確實沒有空間了,如下圖所示:

 wKioL1O7cFfxA4-BAAB6s9F7xWE508.jpg


這裏首先說明一下服務器的一些刪除策略,由於Linux沒有回收站功能,我們的線上服務器所有要刪除的文件都會首先移動到系統/tmp目錄下,然後定期清除/tmp目錄下的數據。這個策略本身沒有問題,但是通過檢查發現這臺服務器的系統分區中並沒有單獨劃分/tmp分區,這樣/tmp下的數據其實是佔用了根分區的空間。既然找到了問題,那麼刪除/tmp目錄下一些大數據即可,執行如下命令,檢查/tmp下最大的三個數據文件,如下圖所示:

[root@localhost~ ]# du -s /tmp/*|sort -nr|head -3
69206016 /tmp/access_log
36 /tmp/hsperfdata_root
36 /tmp/hsperfdata_mapred

通過命令輸出發現在/tmp目錄下有個66G大小的文件access_log,這個文件應該是apache產生的訪問日誌文件,從日誌大小來看,應該是很久沒有清理apache日誌文件了,基本判定是這個文件導致的根空間爆滿,在確認此文件可以刪除後,執行如下刪除操作:

[root@localhost ~]#  rm  /tmp/access_log

接着查看系統根分區空間是否釋放,如下圖所示:

 wKioL1O7cHXhiY_EAAB6s9F7xWE440.jpg


從輸出可以看到,根分區空間仍然沒有釋放,這是怎麼回事?


2、解決思路

一般說來不會出現刪除文件後空間不釋放的情況,但是也存在例外,比如文件被進程鎖定,或者有進程一直在向這個文件寫數據等等,要理解這個問題,就需要知道Linux下文件的存儲機制和存儲結構。

一個文件在文件系統中的存放分爲兩個部分:數據部分和指針部分,指針位於文件系統的meta-data中,數據被刪除後,這個指針就從meta-data中清除了,而數據部分存儲在磁盤中,數據對應的指針從meta-data中清除後,文件數據部分佔用的空間就可以被覆蓋並寫入新的內容,之所以出現刪除access_log文件後,空間還沒釋放,就是因爲httpd進程還在一直向這個文件寫入內容,導致雖然刪除了access_log文件,但文件對應的指針部分由於進程鎖定,並未從meta-data中清除,而由於指針並未被刪除,那麼系統內核就認爲文件並未被刪除,因此通過df命令查詢空間並未釋放也就不足爲奇了。


3、問題排查

既然有了解決問題的思路,那麼接下來看看是否有進程一直在向acess.log文件中寫數據,這裏需要用到Linux下的lsof命令,通過這個命令可以獲取一個已經被刪除但仍然被應用程序佔用的文件列表,命令執行如下圖所示:

 wKiom1O7cLfB1_vUAAGEQwwNhWI351.jpg


從輸出結果可以看到,/tmp/acess.log文件被進程httpd鎖定,而httpd進程還一直向這個文件寫入日誌數據,從第七列可知,這個日誌文件大小僅70G,而系統根分區總大小才100G,由此可知,這個文件就是導致系統根分區空間耗盡的罪魁禍首,在最後一列的“deleted”狀態,說明這個日誌文件已經被刪除,但由於進程還在一直向此文件寫入數據,空間並未釋放。


4、解決問題

到這裏問題就基本排查清楚了,解決這一類問題的方法有很多種,最簡單的方法是關閉或者重啓httpd進程,當然也可以重啓操作系統,不過這並不是最好的方法,對待這種進程不停對文件寫日誌的操作,要釋放文件佔用的磁盤空間,最好的方法是在線清空這個文件,可以通過如下命令完成:

[root@localhost ~]# echo " " >/tmp/acess.log

通過這種方法,磁盤空間不但可以馬上釋放,也可保障進程繼續向文件寫入日誌,這種方法經常用於在線清理Apache、Tomcat、Nginx等Web服務產生的日誌文件。


發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章