原创 Kubernetes Scheduler運行Spark(一)

概念: 版本2.3.0起,Spark開始支持採用Kubernetes作爲native的資源調度器; 使用Kubernetes作爲原生調度器需要滿足如下的前提條件: Spark 2.3+ Kubernetes 1.6+ 有增刪改查POD的能

原创 Kubernetes編譯並運行基於Scalar的Spark程序WordCount(二)

目的: 通過SBT編譯scala程序然後在Kubernetes使用Spark運行WordCount任務   1: 安裝環境和編譯 安裝SBT curl https://bintray.com/sbt/rpm/rpm > bintray-s

原创 Centos 部署k8s集羣

主機信息: master節點:  節點功能Master、etcd、Registry; 主機名: master ; IP地址:192.168.80.161 node節點: 節點功能Node1; 主機名:node1; IP地址:192.168

原创 Kubernetes增強型調度器Volcano(適配大數據調度)

Volcano調度器背景     Volcano是基於Kubernetes的批處理系統,爲華爲開源。Volcano方便AI、大數據、基因、渲染等諸多行業通用計算框架接入,提供高性能任務調度引擎,高性能異構芯片管理,高性能任務運行管理等能力

原创 Openstack O版本以上安裝Nova 出現plancement相關錯誤問題

由於官方文檔沒有對該部分進行相應的解釋,故創建過程會出現相應的問題,具體的安裝步驟如下: 1)控制結點 mysql -u root -p CREATE DATABASE nova_api; CREATE DATABASE nova; CR

原创 TcpDump工具基本使用

Tcpdump基本用法: 1: 截獲192.168.1.10主機收到和發出的所有數據包 #tcpdump host 192.168.1.10 2:截獲主機192.168.1.10 和主機192.168.1.11 或者192.168.1.1

原创 K8s常見問題分析&解決(coreDns)

1: docker容器時間與宿主機時間不一致問題 詳細描述: docker容器時間與宿主機時間不一致問題 解題思路: 對比容器和宿主機的時區是否一致; 原因分析: 一般情況下主要由於宿主機和容器的時區不一致導致

原创 Nova Compute啓動報錯(no polkit agent available to authenticate action org.libvirt.unix.manage)

主要是WebVirtMgr的安裝導致出現的錯誤,解決方法如下: 1、增加libvirtd用戶組 groupadd libvirtd 2、設置用戶到組 sudo usermod -a -G libvirtd $USER

原创 Python Web 爬蟲中Selenium插件使用教程

Selenium主要用於Web應用中的自動化測試,是一種比較常用的自動化測試工具; Selenium直接運行在瀏覽器之中,模擬用戶對瀏覽器的相應操作。可以支持像IE, Firefox、safari,Opera或者Chrome等相關瀏覽器;

原创 Centos 下yum 安裝golang

root賬戶下執行如下: rpm -Uvh http://dl.fedoraproject.org/pub/epel/6/x86_64/epel-release-6-8.noarch.rpm yum install golang -y

原创 K8s coreDns安裝部署教程&簡單使用

1: coreDns安裝 根據需要編輯coredns.yaml apiVersion: v1 kind: ServiceAccount metadata: name: coredns namespace: kube-system

原创 K8s常見問題分析&解決(未分類問題一)

1: Pod始終處於pending狀態 詳細描述: Pod始終處於pending狀態 解題思路: 如果pod保持在pending的狀態,意味着無法被正常的調度到節點上,由於系統的某些資源無法滿足Pod的運行需求 原因分析

原创 K8s常見問題分析&解決(docker問題)

1: k8s集羣內的容器,只能在其所在的節點上curl訪問,其他任何主機上無法訪問容器佔用的端口 詳細描述: k8s集羣內的容器,只能在其所在的節點上curl訪問,其他任何主機上無法訪問容器佔用的端口 解題思路: 無 原

原创 K8s常見問題分析&解決(基礎問題)

1:部分工作節點pod無法啓動 詳細描述: 部分工作節點pod無法啓動(處於ContainerCreateing狀態)日誌: failed to set up ..... Network: failed to set b

原创 kubectl命令系列(kubectl apply)

kubectl apply 通過文件名或控制檯輸入,對資源進行配置。 接受JSON和YAML格式的描述文件。 kubectl apply -f FILENAME   示例: # 將pod.json中的配置應用到pod $ kubectl