Lustre並行文件系統的部署和測試

Author: Luo

E-Mail: [email protected]

MSN: [email protected]

Date: 12 Sep, 2011

Keywords: Lustre,並行文件系統, 集羣, 高性能, 線性增長


一 並行文件系統

        文件系統分爲分佈式和共享式,而在分佈式文件系統中,又細分有分佈式並行文件系統,這裏說的也是這個。NFS(網絡文件系統)是起源最早的爲網絡系統服務的文件系統之一,用戶可以通過NFS將自己的存儲才網絡中共享給所有的客戶端。但是在系統增大,計算機節點增多的前提下,很容易出現訪問瓶頸,比如網絡瓶頸(千兆網卡的最大數據能力就是100MB/s上下),存儲瓶頸(單硬盤的讀寫能力基本在100MB/s上下),服務器內存等,都會成爲存儲的瓶頸。基於此問題,誕生了更新一代的網絡文件系統,那就是分佈式並行文件系統。它通過在網絡中集中的管理大於2臺存儲服務器,使之能如訪問一臺存儲的使用方式一樣,保持系統前後使用的一致性基礎上, 通過存儲服務器的疊加,來提高訪問的速度和存儲的大小。具體的做法如下:

 1. 一臺服務器用來構建元數據服務器,主要是文件的索引信息(文件物理位置,文件創建者,時間,日期,日誌等);

 2.  多臺文件存儲服務器,用來存儲文件的實際內容;


二 Lustre 概述

         Lustre文件系統是當前應用最爲廣泛的分佈式並行文件系統,在世界超級計算機500強中佔有大數(其他有ZFS, Panasas等),Lustre由SUN公司開發和維護,現在被Oracle收購,由Oracle提供開發和維護(從2.0開始,Oracle不提供純軟件的技術支持了,對免費使用的用戶來說,基本沒什麼影響),是免費的軟件,遵從GPL開源軟件協議。兼容了POSIX標準(是一個UNIX系統的程序訪問操作系統接口,主要是方便應用程序在不同的Unix系統,包含了Linux系統之間方便的移植)的網絡系統,能使用與類Unix,Linux,FreeBSD架構的系統。

三 系統安裝與部署

四 性能測試

五 調試調優

六 編者按

七 備註

八 參考

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章