Yum安裝mesos+zookeeper+marathon管理docker集羣

Yum安裝mesos+zookeeper+marathon管理docker集羣

Apache-Mesos簡介

Apache-Mesos是一款基於多資源(內存、CPU、磁盤、端口等)調度的開源集羣管理套件,能使容錯和分佈式系統更加容易使用。官方網站http://mesos.apache.org/ ,軟件能夠自由下載使用。

Apache-Mesos工作原理

Apache-Mesos採用Master/Slave結構來簡化設計,將Master做得儘可能輕量級,僅保存各種計算框架(Framework)和Mesos Slave的狀態信息,這些狀態很容易在Mesos出現故障的時候被重構,除此之外Mesos還使用Zookeeper解決Master單點故障的問題。

Apache-Mesos基本術語

Mesos Master:負責管理各個Framework和Slave,並將Slave上的資源分配給各個Framework。

Mesos Slave:負責管理本節點上的各個Mesos Task,爲各個Executor分配資源。

Framework:計算機框架,如:Hadoop、Spark等,可以通過MesosSchedulerDiver接入Mesos。

Executor:執行器,在Mesos Slave上安裝,用於啓動計算框架中的Task。

Zookeeper簡介

ZooKeeper是用來給集羣服務維護配置信息,域名服務,提供分佈式同步和提供組服務。所有這些類型的服務都使用某種形式的分佈式應用程序。ZooKeeper是一個分佈式的,開放源碼的協調服務,是的Chubby一個的實現,是Hadoop和Hbase的重要組件。

ZooKeeper角色

領導者(leader):領導者負責投票發起和決議,更新系統狀態

跟隨者(follwoer):follower用於接收客戶請求並向客戶端返回結果,在選主過程中參與投票

觀察者:ObServer可以接受客戶端連接,將寫請求轉發給leader節點,但ObServer不參加投票過程,只同步leader的狀態,ObServer的目的是爲了拓展系統,提高讀取速度。

客戶端:請求發起方

服務器架構

主機名 IP地址 安裝軟件包
master 172.16.10.138 docker、mesos-master、mesos-slave、marathon、zookeeper
slave 172.16.10.147 docker、mesos-slave、zookeeper
  • 查看Linux系統版本及內核版本信息(本實驗需內核版本在3.10及以上)
cat /etc/redhat-release //查看系統版本

uname -r     //查看內核版本信息

Yum安裝mesos+zookeeper+marathon管理docker集羣

  • 關閉兩臺服務器的防火牆及SELinux
systemctl stop firewalld.service
systemctl disable firewalld.service    //禁止開機啓動防火牆
setenforce 0

服務架構部署

  • 修改主機名及hosts解析文件
vim /etc/hosts       //兩臺服務器都進行修改
172.16.10.138 master
172.16.10.147 slave

hostnamectl set-hostname master    //master服務器修改主機名
hostnamectl set-hostname slave    //slave服務器修改主機名

修改完畢後需重啓服務器使配置生效
  • 配置安裝Java環境
rpm -ivh jdk-8u171-linux-x64.rpm     //rpm一鍵安裝Java環境包

java -version    //查看java環境

Yum安裝mesos+zookeeper+marathon管理docker集羣

部署mesos

  • master服務器上安裝部署mesos服務
rpm -ivh http://repos.mesosphere.com/el/7/noarch/RPMS/mesosphere-el-repo-7-1.noarch.rpm     //下載mesosphere倉庫

yum -y install mesos      //安裝mesos服務

Yum安裝mesos+zookeeper+marathon管理docker集羣

  • 安裝docker服務
yum -y install docker

systemctl start docker.service     //開啓docker服務
systemctl enable docker.service    //開機自啓動服務

docker pull nginx     //下載nginx鏡像

Yum安裝mesos+zookeeper+marathon管理docker集羣

部署zookeeper服務

  • 解壓zookeeper軟件,安裝配置
mkdir /zoo
tar zxvf zookeeper-3.4.6.tar.gz -C /zoo
cd /zoo/
ln -s zookeeper-3.4.6/ zookeeper
cd zookeeper/conf/
grep -v "#" zoo_sample.cfg > zoo.cfg

vim zoo.cfg //修改配置文件

tickTime=2000
initLimit=10
syncLimit=5
dataDir=/zoo/zookeeper/data     //修改zookeeper數據文件存放目錄
clientPort=2181          //端口
server.1=172.16.10.138:2333:3222
server.2=172.16.10.147:2333:3222
  • 創建zookeeper的數據文件存放目錄及myid文件
mkdir ../data
echo 1 > ../data/myid
cat ../data/myid

Yum安裝mesos+zookeeper+marathon管理docker集羣

  • 開啓zookeeper服務,查看狀態
/zoo/zookeeper/bin/zkServer.sh start  //開啓zookeeper服務

/zoo/zookeeper/bin/zkServer.sh status    //查看狀態信息

Yum安裝mesos+zookeeper+marathon管理docker集羣

部署slave服務器

  • slave服務器上安裝部署mesos服務
rpm -ivh http://repos.mesosphere.com/el/7/noarch/RPMS/mesosphere-el-repo-7-1.noarch.rpm     //下載mesosphere倉庫

yum -y install mesos      //安裝mesos服務
  • 安裝docker服務
yum -y install docker

systemctl start docker.service     //開啓docker服務
systemctl enable docker.service    //開機自啓動服務

docker pull nginx     //下載nginx鏡像

Yum安裝mesos+zookeeper+marathon管理docker集羣

  • 安裝配置zookeeper服務
[root@slave docker]# mkdir /zoo
[root@slave docker]# tar xf zookeeper-3.4.6.tar.gz -C /zoo     //解壓zookeeper軟件包至/zoo目錄下
[root@slave docker]# cd /zoo/
[root@slave zoo]# ls
zookeeper-3.4.6
[root@slave zoo]# ln -s zookeeper-3.4.6/ zookeeper     /創建軟鏈接
[root@slave zoo]# cd zookeeper/conf/
[root@slave conf]# grep -v "#" zoo_sample.cfg > zoo.cfg     //反向過濾zoo_sample.cfg的配置文件並且重定向生成zoo.cfg
[root@slave conf]# vim zoo.cfg    //修改zoo.cfg配置文件
tickTime=2000
initLimit=10
syncLimit=5
dataDir=/zoo/zookeeper/data     //修改zookeeper數據文件存放目錄
clientPort=2181          //端口
server.1=172.16.10.138:2333:3222
server.2=172.16.10.147:2333:3222

[root@slave conf]# mkdir ../data    //創建數據存放目錄
[root@slave conf]# echo 2 > ../data/myid     //在數據存放目錄下創建myid文件
[root@slave conf]# cat ../data/myid     //查看驗證myid文件
2
  • 開啓zookeeper服務,查看狀態
/zoo/zookeeper/bin/zkServer.sh start  //開啓zookeeper服務

/zoo/zookeeper/bin/zkServer.sh status    //查看狀態信息

Yum安裝mesos+zookeeper+marathon管理docker集羣

Yum安裝mesos+zookeeper+marathon管理docker集羣

這裏可以看到兩臺服務器上的zookeeper服務的狀態信息,其中slave服務器爲leader,而master服務器爲follower

  • master安裝marathon並且開啓服務
tar zxvf marathon-0.15.2.tgz -C /opt      //解壓marathon軟件包

cd /opt

/opt/marathon-0.15.2/bin/start --hostname 172.16.10.138 --master zk://172.16.10.138:2181/mesos     //開啓marathon服務
  • 分別開啓兩臺服務器的mesos服務,網頁登錄mesos和marathon服務檢測服務是否開啓
systemctl start mesos-master     //master服務器開啓mesos-master服務

systemctl start mesos-slave     //slave服務器開啓mesos-slave服務

Yum安裝mesos+zookeeper+marathon管理docker集羣

Yum安裝mesos+zookeeper+marathon管理docker集羣

Yum安裝mesos+zookeeper+marathon管理docker集羣

  • 使用marathon調度mesos創建docker容器

編輯json文件

vim nginx.json

{

  "id":"nginx",

  "cpus":0.1,

  "mem":10,

  "instances": 1,

  "constraints":[["hostname", "UNIQUE",""]],

  "container": {

    "type":"DOCKER",

    "docker": {

     "image": "nginx",

     "network": "BRIDGE",

     "portMappings": [

        {"containerPort": 80,"hostPort": 0,"servicePort": 0, "protocol":"tcp" }

      ]

    }

  }

}

curl -X POST -H "Content-type:application/json" http://172.16.10.138:8080/v2/apps [email protected]   //調用json部署nginx

然後就可以在mesos網頁界面和marathon的網頁界面查看到執行的任務

Yum安裝mesos+zookeeper+marathon管理docker集羣

Yum安裝mesos+zookeeper+marathon管理docker集羣

Yum安裝mesos+zookeeper+marathon管理docker集羣

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章