【大數據】啓動 Hadoop 及驗證

條件

採用64位Oracle Linux 6.4, JDK:1.8.0_131 64位, Hadoop:2.7.3
Spark集羣實驗環境共包含3臺服務器,每臺機器的主要參數如表所示:

服務器 HOSTNAME IP 功能
spark1 spark1 92.16.17.1 NN/DN/RM Master/Worker
spark2 spark2 92.16.17.2 DN/NM/Worker
spark3 spark3 92.16.17.3 DN/NM/Worker

過程

  1. 格式化NameNode節點
    Hadoop集羣第一次運行需要先格式化 NameNode 節點, 使用如所示命令:
    在這裏插入圖片描述
    在這裏插入圖片描述
    在這裏插入圖片描述
    在這裏插入圖片描述
  2. 啓動HDFS文件系統
    切換到啓動腳本所在的 $HADOOP_HOME/sbin 目錄,執行 start-dfs.sh 腳本:
    在這裏插入圖片描述
    分別在三臺主機上使用jps命令驗證NameNode和各DataNode:
  3. 啓動YARN
    在這裏插入圖片描述
    此時,在 spark1 上運行的進程有 NameNode, SecondaryNameNode, DataNode, ResourceManager, NodeManager:
    在這裏插入圖片描述
    在spark2和spark3上運行的進程有DataNode和NodeManager:
    在這裏插入圖片描述
    在這裏插入圖片描述
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章