Hadoop-2.7.2高可用集羣搭建(Ubuntu14.04)
Hadoop ， HA ,zookeeper
以root用戶身份進行配置
環境需求：
- JDK版本：1.7+
- Hadoop版本：hadoop-2.7.2
- zookeeper版本：zookeeper-3.4.5
詳細配置
| 主機名IP | Namenode | Datanode | Yarn | Zookeeper | JournalNode |
|---|---|---|---|---|---|
| node-1:192.168.111.130 | 是 | 是 | 否 | 是 | 是 |
| node-2:192.168.111.129 | 是 | 是 | 否 | 是 | 是 |
| node-3:192.168.111.128 | 否 | 是 | 是 | 是 | 是 |
1、安裝JDK
(1) 下載 jdk-7u80-linux-x64.tar 文件
(2) 解壓縮文件 tar -zxvf jdk-7u80-linux-x64.tar(儘量使用jdk1.7)
(3) 在 /etc/profile文件末尾，添加jdk的配置信息
(4) 重新加載文件，使配置生效：#source /etc/profile
2、配置SSH免密登陸
SSH免密鑰原理：
我們使用ssh-keygen在ServerA上生成私鑰跟公鑰，將生成的公鑰拷貝到遠程機器ServerB上後,就可以使用ssh命令無需密碼登錄到另外一臺機器ServerB上。生成公鑰與私鑰有兩種加密方式，第一種是rsa(默認)，還有一種是dsa,使用時兩種方式隨便選一種即可
(1) 安裝SSH服務
# apt-get install ssh(2) 在三個節點上分別都使用rsa加密生成密鑰對
# ssh-keygen -t rsa按3次Enter鍵後，會在/root/.ssh/下生成id_rsa (私鑰)，和id_rsa.pub(公鑰)
(3) 將node-1上，將id_rsa.pub讀取到authorized_keys中(authorized_keys 第一次讀入是不存在的)
# cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys(4) 分別將node-2和node-3上的公鑰都讀入到master的authorized_keys中
在node-2和node-3上：
#scp /root/.ssh/id_rsa.pub master:/root/
在node-1上：
每收到一個公鑰都讀取一次(一個一個地寫入文件)：
# cat /root/id_rsa.pub >> /root/.ssh/authorized_keys
(5) 將node-1上的authorized_keys發送到node-2和node-3，以實現三個節點之間的免密鑰登錄
#scp /root/.ssh/authorized_keys node-2:/root/.ssh/
#scp /root/.ssh/authorized_keys node-3:/root/.ssh/(6) 在3個節點上修改authorized_keys的權限：
# chmod 600 ~/.ssh/authorized_keys3、Zookeeper集羣搭建
(1) 下載zookeeper-3.4.9.tar.gz
(2) 解壓
#tar -zxvf zookeeper-3.4.9.tar.gz -C /home/(3) 修改zoo.cfg（可以使用zoo_sample.cfg來生成zoo.cfg）
# cp zoo_sample.cfg zoo.cfg
# vim zoo.cfg參數說明:
- tickTime: zookeeper中使用的基本時間單位, 毫秒值.
- dataDir: 數據目錄. 可以是任意目錄.
- dataLogDir: log目錄, 同樣可以是任意目錄. 如果沒有設置該參數, 將使用和dataDir相同的設置.
- clientPort: 監聽client連接的端口號.
server.X=A:B:C 其中X是一個數字, 表示這是第幾號server. A是該server所在的IP地址. B配置該server和集羣中的leader交換消息所使用的端口. C配置選舉leader時所使用的端口. 由於配置的是僞集羣模式, 所以各個server的B, C參數必須不同.
(4). 根據zoo.cfg各自在節點上的 dataDir下添加myid
node-1： #echo "1" >> /home/zookeeperData/myid node-2: #echo "2" >> /home/zookeeperData/myid node-3: #echo "3" >> /home/zookeeperData/myid(5) 在各個節點上開啓zookeeper服務,並且查看服務是否成功啓動
#zkServer.sh start
#zkServer.sh status4、Hadoop集羣的搭建
(1) 下載 hadoop-2.7.2.tar.gz,並解壓
tar -zxvf hadoop-2.7.2.tar.gz -C /home/(2)修改如下配置文件(在/home/hadoop-2.7.2/etc/hadoop/下)
修改core-site.xml
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://nameserver</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/home/hdfs_all/tmp/</value>
</property>
<property>
<name>io.file.buffer.size</name>
<value>1024</value>
</property>
<property>
<name>ha.zookeeper.quorum</name>
<value>node-1:2181,node-2:2181,node-3:2181</value>
</property>
</configuration>修改hdfs-site.xml
<configuration>
<property>
<name>dfs.nameservices</name>
<value>nameserver</value>
</property>
<property>
<name>dfs.ha.namenodes.nameserver</name>
<value>nn1,nn2</value>
</property>
<property>
<name>dfs.namenode.rpc-address.nameserver.nn1</name>
<value>node-1:9000</value>
</property>
<property>
<name>dfs.namenode.http-address.nameserver.nn1</name>
<value>node-1:50070</value>
</property>
<property>
<name>dfs.namenode.rpc-address.nameserver.nn2</name>
<value>node-2:9000</value>
</property>
<property>
<name>dfs.namenode.http-address.nameserver.nn2</name>
<value>node-2:50070</value>
</property>
<property>
<name>dfs.namenode.shared.edits.dir</name>
<value>qjournal://node-1:8485;node-2:8485;node-3:8485/nameserver</value>
</property>
<property>
<name>dfs.journalnode.edits.dir</name>
<value>/home/hdfs_all/journal</value>
</property>
<property>
<name>dfs.ha.automatic-failover.enabled</name>
<value>true</value>
</property>
<property>
<name>dfs.client.failover.proxy.provider.nameserver</name>
<value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
</property>
<property>
<name>dfs.ha.fencing.methods</name>
<value>sshfence</value>
</property>
<property>
<name>dfs.ha.fencing.ssh.private-key-files</name>
<value>/root/.ssh/id_rsa</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:///home/hdfs_all/hdfs/name</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:///home/hdfs_all/hdfs/data</value>
</property>
<property>
<name>dfs.replication</name>
<value>2</value>
</property>
</configuration>修改mapred-site.xml(剛解壓的文件中沒有給文件，將mapred-site-tempalte.xml複製一份即可)
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>修改yarn-site.xml
<configuration>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.resourcemanager.hostname</name>
<value>node-3</value>
</property>
</configuration>修改slaves
刪除localhost,添加如下內容：
node-1
node-2
node-3修改JAVA_HOME
分別在文件hadoop-env.sh和yarn-env.sh中添加JAVA_HOME配置
5、將hadoop配置文件發送至另外兩個節點
#scp -r /home/hadoop-2.7.2 node-2:/home/
#scp -r /home/hadoop-2.7.2 node-3:/home/6、給Hadoop配置環境變量(完整的環境變量配置如下)
7、將環境變量發送給另外兩個節點
#scp -r /etc/profile node-2:/etc
#scp -r /etc/profile node-3:/etc在發送完成後，都要使用source /etc/profile命令重新加載環境變量
8、啓動集羣
按順序執行一下操作
在node-1上：
#zkServer.sh start
#zkServer.sh status(要確保zookeeper服務已經啓動)
#hadoop-daemons.sh start journalnode (啓動journalnode服務)
#hdfs zkfc –formatZK(格式化zkfc,讓在zookeeper中生成ha節點,只需在第一次啓動集羣是格式化即可)
#hadoop namenode -format (格式化hdfs,也只在第一次啓動集羣時格式化)
#hadoop-daemon.sh start namenode
在node-2上(設置node-2爲備份的namenode,所以需要在node-2上啓動namenode進程)：
#hdfs namenode -bootstrapStandby
#hadoop-daemon.sh start namenode啓動datanode(任意節點都可以):
#hadoop-daemons.sh start datanode在node-3上啓動yarn；
#start-yarn.sh啓動zkfc服務(任意節點都可以):
#hadoop-daemons.sh start zkfc啓動成功後使用jsp命令可以看到以下進程：
node-1:
node-2:
node-3:
然後就可以Web進行訪問了