IBM刀片配置RHCS for centos6

最近公司在搞個運營平臺,使用了比較新的環境,項目差不多了,於是決定抽出時間來把過程經歷和大家分享下,有需要的朋友可以借鑑借鑑。

硬件環境:IBM Blade Center H HS22DS5020

系統平臺:Centos 6.0

運營環境:RHCS +GFS2

這次項目的運營平臺的需求集成了多個應用,共同的目的就是都能夠訪問共享存儲,各節點能之間能都通過FC通道讀取和存取文件。

管理口地址:

IBM Blade Center H 192.168.70.125  /USERID/PASSW0RD

Fibre Channel SmBRCD):192.168.70.129  /admin/password

DS5020192.168.128.101/192.168.128.102 #直接使用 DS STORAGE MANAGER 10 進行管理。

存儲上需要進行的操作:創建RAID,初始化RAID,劃分lun,主機與盤櫃之間mapping

刀片訪問控制需要java運行環境,安裝完成訪問的界面截圖:

 

 

 

 

安裝java後控制的截

其他的操作就是和在本地操作區別就不是很大了;另需要注意的是在遠程設備支持本地iso安裝系統和刀箱dvd讀取;在刀箱本地安裝的時候刀片之間進行切換每個刀片分別有kvm切換按鈕包括(顯示器和鍵盤鼠標光驅)

 

 

 

盤櫃配置界面

1.登錄界面

 

2創建raid界面

 

3.物理設備視圖

 

4.創建映射(定義組、主機,創建映射)

 

5.添加mapp主機步驟

 

6.制定主機操作系統類型

 

7.主機映射完成

 

 

有幾臺節點需要訪問共享存儲可定義具有訪問權限的主機。

 

 

 

 

 

 

 

 

 

刀箱光纖交換機:

BRCD (刀片光纖交換配置)

#這次項目中就遇到了BRCD的問題,刀箱配置的光纖交換機模塊是8GB速率,盤櫃也是8GB速率、刀片標配的也是8GBHBA,但是在刀片與光纖交換機自動協商始終不能協調成8GB速率。

就涉及到光纖交換機的配置和故障診斷了。

登錄方式:http://192.168.70.129(默認)

 

 

 

 

 

上面貼圖就是遇到的問題,在按照IBM工程師提供方法進行調試de 情況。

 

 

 

 

 

 

 

 

###

配置RHCS

軟件環境:

Installed Groups:

   Base

   Chinese Support

   Console internet tools

   Debugging Tools

   Desktop

   Desktop Debugging and Performance Tools

   Fonts

   General Purpose Desktop

   Georgian Support

   Graphical Administration Tools

   Hardware monitoring utilities

   Hebrew Support

   High Availability

   High Availability Management

   Inuktitut Support

   Java Platform

   Korean Support

   Lao Support

   Large Systems Performance

   Legacy UNIX compatibility

   Legacy X Window System compatibility

   NFS file server

   Network Infrastructure Server

   Network file system client

   Networking Tools

   Optional packages

   Performance Tools

   Perl Support

   Remote Desktop Clients

   Resilient Storage

   Scientific support

   Server Platform

   Storage Availability Tools

   System Management

   X Window System

  Available Groups:

   Backup Client

   Backup Server

   Basque Support

   Belarusian Support

   Bengali Support

   Bhutanese Support

   Brazilian Portuguese Support

   Breton Support

   Bulgarian Support

   CIFS file server

   Catalan Support

   Chhattisgarhi Support

   Chichewa Support

   Compatibility libraries

   Desktop Platform

   Desktop Platform Development

   Development tools

   Directory Server

   Dutch Support

   Eclipse

   Emacs

   FTP server

   Graphics Creation Tools

   Internet Applications

   Internet Browser

   Irish Support

   KDE Desktop

   Load Balancer

   Mainframe Access

   Mongolian Support

   MySQL Database client

   MySQL Database server

   Myanmar (Burmese) Support

   Nepali Support

   Network Storage Server

   Northern Sotho Support

   Norwegian Support

   Occitan Support

   Office Suite and Productivity

   Oriya Support

   PHP Support

   Persian Support

   Polish Support

   Portuguese Support

   PostgreSQL Database client

   PostgreSQL Database server

   Print Server

   Printing client

   Scalable Filesystems

   Security Tools

   Serbian Support

   Server Platform Development

   System administration tools

   Technical Writing

   …..

   Virtualization Tools

   Walloon Support

   Web Server

   Web Servlet Engine

   Web-Based Enterprise Management

Done

[root@XX7 ~]#

Yum groupinstall “X Window System” ”High Availability” “High Availability Management” “Desktop” “General purpose Desktop”

 

 

系統涉及到:mpp、劃分磁盤、格式化gfs分區,掛載

IBM DS5000/4000/3000系列都是採用LSI存儲結構模式提供磁盤共享,可以到

http://www.lsi.com/sep/Pages/rdac/index.aspx 下載相對應內核版本的RDAC

rdac的安裝也是很簡單的,上傳到系統後進入src目錄make make install ;在grub中添加mpp引導的選項

查看fc通道 mppUtil –a 查看映射

Mkfs.gfs2 –p lock_dlm –t xxcluster:gfs001 –j 3 /dev/vg01/lv01

#-p 指定格式化磁盤的文件系統類型

#-t xxcluster指集羣的名稱,在格式化是需與cluster.conf中的集羣名稱一致

#-j 3 集羣提供掛載的客戶端數

Centos6 中默認沒有了system-config-cluster luci ricci 代替,

在配置rhcs是需要在待加入集羣的機器中啓動luci和每臺都啓動ricci也就是11111端口,不然web admin時報錯。

通過web配置的方法和system-config-cluster 有了不少的改變,不過大體上還是能夠理解和配置的。

配置文件默認保存在/etc/cluster/cluster.conf

#注:centos6 系統的安全級別默認都已經很高,iptablesselinux安裝系統時都沒選項進行防火牆或selinux關閉開啓。

 

 

 

 

 

Rhcs 配置文件:

 

<?xml version="1.0"?>

<cluster config_version="14" name="XXcluster">#集羣的名稱,GFS分區時須一致#mkfs.gfs2 -p lock_dlm -t XXcluster:GFS2 -j 3 /dev/sdb

         <clusternodes>

                   <clusternode name="192.168.30.70" nodeid="1" votes="1">#節點信息

                            <fence>

                                     <method name="BJ1">

                                               <device name="BJblade" port="7" secure="on"/>#單節點fence,注意配置刀片的fence的插槽 ,刀片需要注意的就是port=“所在的刀箱插槽”

                                     </method>

                            </fence>

                   </clusternode>

                   <clusternode name="192.168.30.80" nodeid="2" votes="1">

                            <fence>

                                     <method name="BJ1">

                                               <device name="BJblade" port="8" secure="on"/>

                                     </method>

                            </fence>

                   </clusternode>

                   <clusternode name="192.168.30.100" nodeid="3" votes="1">

                            <fence>

                                     <method name="BJ1">

                                               <device name="BJblade" port="10" secure="on"/>

                                     </method>

                            </fence>

                   </clusternode>

         </clusternodes>

         <cman port="6809"/>#制定cman tcp 端口方便iptables同時還要開啓組播協議ICMP

         <fencedevices>

                   <fencedevice agent="fence_bladecenter" ipaddr="192.168.30.125" login="USERID" name="BJblade" passwd="PASSW0RD"/>#刀片自帶的fence設備

         </fencedevices>

         <rm>

                   <failoverdomains/>

                   <resources/>

         </rm>

</cluster>

 

 

 

 

 

#切換測試

上述爲基礎rhcscluster配置,fileover resource都爲做配置。

 

故障切換測試

最開始測試的時候總是不能自動切換,直接掉電一臺機器,其他的節點就訪問不了共享,如果手動停止服務測試正常。

實際情況是不允許共享存儲訪問不正常的,爲了避免這種現象我們可進行以下幾點測試:

1.       集羣中down心跳的網口看是否正常

2.       停止cman 主服看集羣共享存儲是否正常

3.       直接物理掉電看查看集羣節點狀態和共享存儲狀態。

 

 

 

 

上述爲項目設備使用和系統簡單的配置使用說明。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章