最近公司在搞個運營平臺,使用了比較新的環境,項目差不多了,於是決定抽出時間來把過程經歷和大家分享下,有需要的朋友可以借鑑借鑑。
硬件環境:IBM Blade Center H 、HS22、DS5020
系統平臺:Centos 6.0
運營環境:RHCS +GFS2
這次項目的運營平臺的需求集成了多個應用,共同的目的就是都能夠訪問共享存儲,各節點能之間能都通過FC通道讀取和存取文件。
管理口地址:
IBM Blade Center H :192.168.70.125 /USERID/PASSW0RD
Fibre Channel Sm(BRCD):192.168.70.129 /admin/password
DS5020:192.168.128.101/192.168.128.102 #直接使用 DS STORAGE MANAGER 10 進行管理。
存儲上需要進行的操作:創建RAID,初始化RAID,劃分lun,主機與盤櫃之間mapping
刀片訪問控制需要java運行環境,安裝完成訪問的界面截圖:
其他的操作就是和在本地操作區別就不是很大了;另需要注意的是在遠程設備支持本地iso安裝系統和刀箱dvd讀取;在刀箱本地安裝的時候刀片之間進行切換每個刀片分別有kvm切換按鈕包括(顯示器和鍵盤鼠標光驅)
盤櫃配置界面
3.物理設備視圖
4.創建映射(定義組、主機,創建映射)
5.添加mapp主機步驟
6.制定主機操作系統類型
7.主機映射完成
有幾臺節點需要訪問共享存儲可定義具有訪問權限的主機。
刀箱光纖交換機:
BRCD (刀片光纖交換配置) #這次項目中就遇到了BRCD的問題,刀箱配置的光纖交換機模塊是8GB速率,盤櫃也是8GB速率、刀片標配的也是8GB的HBA,但是在刀片與光纖交換機自動協商始終不能協調成8GB速率。 就涉及到光纖交換機的配置和故障診斷了。 登錄方式:http://192.168.70.129(默認)
上面貼圖就是遇到的問題,在按照IBM工程師提供方法進行調試de 情況。
###
配置RHCS 軟件環境: Installed Groups: Base Chinese Support Console internet tools Debugging Tools Desktop Desktop Debugging and Performance Tools Fonts General Purpose Desktop Georgian Support Graphical Administration Tools Hardware monitoring utilities Hebrew Support High Availability High Availability Management Inuktitut Support Java Platform Korean Support Lao Support Large Systems Performance Legacy UNIX compatibility Legacy X Window System compatibility NFS file server Network Infrastructure Server Network file system client Networking Tools Optional packages Performance Tools Perl Support Remote Desktop Clients Resilient Storage Scientific support Server Platform Storage Availability Tools System Management X Window System Available Groups: Backup Client Backup Server Basque Support Belarusian Support Bengali Support Bhutanese Support Brazilian Portuguese Support Breton Support Bulgarian Support CIFS file server Catalan Support Chhattisgarhi Support Chichewa Support Compatibility libraries Desktop Platform Desktop Platform Development Development tools Directory Server Dutch Support Eclipse Emacs FTP server Graphics Creation Tools Internet Applications Internet Browser Irish Support KDE Desktop Load Balancer Mainframe Access Mongolian Support MySQL Database client MySQL Database server Myanmar (Burmese) Support Nepali Support Network Storage Server Northern Sotho Support Norwegian Support Occitan Support Office Suite and Productivity Oriya Support PHP Support Persian Support Polish Support Portuguese Support PostgreSQL Database client PostgreSQL Database server Print Server Printing client Scalable Filesystems Security Tools Serbian Support Server Platform Development System administration tools Technical Writing ….. Virtualization Tools Walloon Support Web Server Web Servlet Engine Web-Based Enterprise Management Done [root@XX7 ~]#
Yum groupinstall “X Window System” ”High Availability” “High Availability Management” “Desktop” “General purpose Desktop”
系統涉及到:mpp、劃分磁盤、格式化gfs分區,掛載 IBM DS5000/4000/3000系列都是採用LSI存儲結構模式提供磁盤共享,可以到 http://www.lsi.com/sep/Pages/rdac/index.aspx 下載相對應內核版本的RDAC rdac的安裝也是很簡單的,上傳到系統後進入src目錄make; make install ;在grub中添加mpp引導的選項 查看fc通道 mppUtil –a 查看映射 Mkfs.gfs2 –p lock_dlm –t xxcluster:gfs001 –j 3 /dev/vg01/lv01 #-p 指定格式化磁盤的文件系統類型 #-t xxcluster指集羣的名稱,在格式化是需與cluster.conf中的集羣名稱一致 #-j 3 集羣提供掛載的客戶端數 Centos6 中默認沒有了system-config-cluster 被luci 和ricci 代替, 在配置rhcs是需要在待加入集羣的機器中啓動luci和每臺都啓動ricci也就是11111端口,不然web admin時報錯。 通過web配置的方法和system-config-cluster 有了不少的改變,不過大體上還是能夠理解和配置的。 配置文件默認保存在/etc/cluster/cluster.conf #注:centos6 系統的安全級別默認都已經很高,iptables和selinux安裝系統時都沒選項進行防火牆或selinux關閉開啓。 Rhcs 配置文件: <?xml version="1.0"?> <cluster config_version="14" name="XXcluster">#集羣的名稱,GFS分區時須一致#mkfs.gfs2 -p lock_dlm -t XXcluster:GFS2 -j 3 /dev/sdb <clusternodes> <clusternode name="192.168.30.70" nodeid="1" votes="1">#節點信息 <fence> <method name="BJ1"> <device name="BJblade" port="7" secure="on"/>#單節點fence,注意配置刀片的fence的插槽 ,刀片需要注意的就是port=“所在的刀箱插槽” </method> </fence> </clusternode> <clusternode name="192.168.30.80" nodeid="2" votes="1"> <fence> <method name="BJ1"> <device name="BJblade" port="8" secure="on"/> </method> </fence> </clusternode> <clusternode name="192.168.30.100" nodeid="3" votes="1"> <fence> <method name="BJ1"> <device name="BJblade" port="10" secure="on"/> </method> </fence> </clusternode> </clusternodes> <cman port="6809"/>#制定cman tcp 端口方便iptables同時還要開啓組播協議ICMP <fencedevices> <fencedevice agent="fence_bladecenter" ipaddr="192.168.30.125" login="USERID" name="BJblade" passwd="PASSW0RD"/>#刀片自帶的fence設備 </fencedevices> <rm> <failoverdomains/> <resources/> </rm> </cluster>
#切換測試
上述爲基礎rhcs的cluster配置,fileover 和resource都爲做配置。
故障切換測試
最開始測試的時候總是不能自動切換,直接掉電一臺機器,其他的節點就訪問不了共享,如果手動停止服務測試正常。
實際情況是不允許共享存儲訪問不正常的,爲了避免這種現象我們可進行以下幾點測試:
1. 集羣中down心跳的網口看是否正常
2. 停止cman 主服看集羣共享存儲是否正常
3. 直接物理掉電看查看集羣節點狀態和共享存儲狀態。
上述爲項目設備使用和系統簡單的配置使用說明。