hadoop集羣搭建步驟整理及事項

第一步、修改sshd_config，清空resolv.conf
vi /etc/ssh/sshd_config
找到#UseDNS yes 修改爲UseDNS no
找到下面三行
RSAAuthentication yes
PubkeyAuthentication yes
AuthorizedKeysFile .ssh/authorized_keys
將註釋去掉 
service sshd restart
然後保存退出service sshd restart重啓服務
登陸延遲等待
vim /etc/resolv.conf 清空內容


第二步、修改主機名


/etc/sysconfig/network裏面的主機名字
[root@bogon ~]#  vi /etc/sysconfig/network
NETWORKING=yes
HOSTNAME=hadoop                // 在這修改 hostname 爲 hadoop
修改/etc/hosts裏面的名字
[root@bogon ~]#  vi /etc/hosts
127.0.0.1              hadoop
不需要重啓主機,最後在終端下執行：
[root@bogon ~]# hostname hadoop     // hadoop 爲修改的hostname


修改主機ip：
顯示主機ip：[root@linuxsir01 ~]# hostname -i
vi /etc/sysconfig/network-scripts/ifcfg-eth0
DEVICE="eth0"
BOOTPROTO="static"        ###靜態ip
HWADDR="00:0C:29:3C:BF:E7"
IPV6INIT="yes"
NM_CONTROLLED="yes"
ONBOOT="yes"
TYPE="Ethernet"
UUID="ce22eeca-ecde-4536-8cc2-ef0dc36d4a8c"
IPADDR="192.168.70.121"    ###ip地址
NETMASK="255.255.255.0"   ###子網掩碼
GATEWAY="192.168.1.1"     ###網關


主機名和IP的映射關係
vim /etc/hosts (放的是主機IP)
192.168.70.121   hadoop1
192.168.70.122   hadoop2
192.168.70.123   hadoop3

第三步、關閉selinux、防火牆、配置免密鑰登陸


1.關閉selinux(國外的類似iptables)
vi /etc/selinux/config
setenforce 0 暫時關閉selinux
SELINUX=disabled 在selinux配置文件內添加關閉
2.關閉防火牆
/etc/init.d/iptables stop 關閉防火牆
chkconfig iptables off 開機禁用防火牆
3.配置無密鑰登陸
ssh-keygen -t dsa 生成密鑰
cat id_dsa.pub >> authorized_keys 生成密鑰後追加到authorized_keys
scp -r  authorized_keys  [email protected]:~/.ssh 從本地遠程複製密鑰傳到指定計算機


第四步、安裝jdk配置java環境


安裝java jdk
解壓jdk安裝包
tar zxf jdk.tar.gz
引入PATH以及JAVA_HOME環境變量
vi /etc/profile
在末尾添加
export JAVA_HOME=/root/jdk1.7.0_40
export PATH=$JAVA_HOME/bin:$PATH
使用source生效一下
source /etc/profiel


第五步、安裝配置zooekeeper集羣（在5，6,7上）
1.1解壓
cd /root/zookeeper-3.4.5/conf/
cp zoo_sample.cfg zoo.cfg
vim zoo.cfg
修改：dataDir=/root/zookeeper-3.4.5/tmp
在最後添加：
server.1=hadoop1:2888:3888
server.2=hadoop2:2888:3888
server.3=hadoop3:2888:3888
保存退出
然後創建一個tmp文件夾
mkdir /root/zookeeper-3.4.5/tmp
再創建一個空文件
touch /root/zookeeper-3.4.5/tmp/myid
最後向該文件寫入ID
echo 1 > /root/zookeeper-3.4.5/tmp/myid
1.3將配置好的zookeeper拷貝到其他節點
scp -r /root/zookeeper-3.4.5/ hadoop2:~/
scp -r /root/zookeeper-3.4.5/ hadoop3:~/

注意：修改6、7對應/root/zookeeper-3.4.5/tmp/myid內容
6：
echo 2 > /root/zookeeper-3.4.5/tmp/myid
7：
echo 3 > /root/zookeeper-3.4.5/tmp/myid

第六步、安裝配置hadoop集羣
2.1解壓
2.2配置HDFS（hadoop2.0所有的配置文件都在$HADOOP_HOME/etc/hadoop目錄下）
#將hadoop添加到環境變量中
vi /etc/profile
export JAVA_HOME=/root/jdk1.7.0_40
export HADOOP_HOME=/root/hadoop-2.6.0
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin


2.2.1修改hadoop-env.sh
export JAVA_HOME=/root/jdk1.7.0_40

2.2.2修改core-site.xml
<configuration>
<!-- 指定hdfs的nameservice爲hadoop1 -->
<property>
<name>fs.defaultFS</name>
<value>hdfs://hadoop1</value>
</property>
<!-- 指定hadoop臨時目錄 -->
<property>
<name>hadoop.tmp.dir</name>
<value>/root/hadoop-2.6.0/tmp</value>
</property>
<!-- 指定zookeeper地址 -->
<property>
<name>ha.zookeeper.quorum</name>
<value>hadoop1:2181,hadoop2:2181,hadoop3:2181</value>
</property>
</configuration>

2.2.3修改hdfs-site.xml
<configuration>
<!--指定hdfs的nameservice爲hadoop1，需要和core-site.xml中的保持一致 -->
<property>
<name>dfs.nameservices</name>
<value>hadoop1</value>
</property>
<!-- hadoop1下面有兩個NameNode，分別是nn1，nn2 -->
<property>
<name>dfs.ha.namenodes.hadoop1</name>
<value>nn1,nn2</value>
</property>
<!-- nn1的RPC通信地址 -->
<property>
<name>dfs.namenode.rpc-address.hadoop1.nn1</name>
<value>hadoop2:9000</value>
</property>
<!-- nn1的http通信地址 -->
<property>
<name>dfs.namenode.http-address.hadoop1.nn1</name>
<value>hadoop2:50070</value>
</property>
<!-- nn2的RPC通信地址 -->
<property>
<name>dfs.namenode.rpc-address.hadoop1.nn2</name>
<value>hadoop3:9000</value>
</property>
<!-- nn2的http通信地址 -->
<property>
<name>dfs.namenode.http-address.hadoop1.nn2</name>
<value>hadoop3:50070</value>
</property>
<!-- 指定NameNode的元數據在JournalNode上的存放位置 -->
<property>
<name>dfs.namenode.shared.edits.dir</name>
<value>qjournal://hadoop1:8485;hadoop2:8485;hadoop3:8485/hadoop1</value>
</property>
<!-- 指定JournalNode在本地磁盤存放數據的位置 -->
<property>
<name>dfs.journalnode.edits.dir</name>
<value>/root/hadoop-2.6.0/journal</value>
</property>
<!-- 開啓NameNode失敗自動切換 -->
<property>
<name>dfs.ha.automatic-failover.enabled</name>
<value>true</value>
</property>
<!-- 配置失敗自動切換實現方式 -->
<property>
<name>dfs.client.failover.proxy.provider.hadoop1</name>
<value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
</property>
<!-- 配置隔離機制方法，多個機制用換行分割，即每個機制暫用一行-->
<property>
<name>dfs.ha.fencing.methods</name>
<value>
sshfence
shell(/bin/true)
</value>
</property>
<!-- 使用sshfence隔離機制時需要ssh免登陸 -->
<property>
<name>dfs.ha.fencing.ssh.private-key-files</name>
<value>/root/.ssh/id_rsa</value>
</property>
<!-- 配置sshfence隔離機制超時時間 -->
<property>
<name>dfs.ha.fencing.ssh.connect-timeout</name>
<value>30000</value>
</property>
</configuration>

2.2.4修改mapred-site.xml
<configuration>
<!-- 指定mr框架爲yarn方式 -->
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>

2.2.5修改yarn-site.xml
<configuration>
<!-- 開啓RM高可靠 -->
<property>
   <name>yarn.resourcemanager.ha.enabled</name>
   <value>true</value>
</property>
<!-- 指定RM的cluster id -->
<property>
   <name>yarn.resourcemanager.cluster-id</name>
   <value>yrc</value>
</property>
<!-- 指定RM的名字 -->
<property>
   <name>yarn.resourcemanager.ha.rm-ids</name>
   <value>rm1,rm2</value>
</property>
<!-- 分別指定RM的地址 -->
<property>
   <name>yarn.resourcemanager.hostname.rm1</name>
   <value>hadoop2</value>
</property>
<property>
   <name>yarn.resourcemanager.hostname.rm2</name>
   <value>hadoop3</value>
</property>
<!-- 指定zk集羣地址 -->
<property>
   <name>yarn.resourcemanager.zk-address</name>
   <value>hadoop1:2181,hadoop2:2181,hadoop3:2181</value>
</property>
<property>
   <name>yarn.nodemanager.aux-services</name>
   <value>mapreduce_shuffle</value>
</property>
</configuration>


2.2.6修改slaves
hadoop1
hadoop2
hadoop3


2.2.7配置免密碼登陸
#首先要配置1到1-7,2-1-7的免登陸
#在root01上生產一對鑰匙（~家目錄）
ssh-keygen -t rsa
#將公鑰拷貝到其他節點，包括自己
#將id_rsa.pub追加到authorized_keys
ssh-coyp-id xxx

2.4將配置好的hadoop拷貝到所有其他節點
scp -r /root/hadoop-2.6.0 hadoop2:/root/

2.5啓動zookeeper集羣（分別在5、6、7上啓動zk）
cd /root/zookeeper-3.4.5/bin/
./zkServer.sh start
#./zkServer.sh stop
#查看狀態：一個leader，兩個follower
./zkServer.sh status

2.6啓動journalnode（分別在5、6、7上執行）
cd /root/hadoop-2.6.0
sbin/hadoop-daemon.sh start journalnode
#sbin/hadoop-daemon.sh stop journalnode
#運行jps命令檢驗，5、6、7上多了JournalNode進程

2.7格式化HDFS
#在1上執行命令:
./hdfs namenode -format
#格式化後會在根據core-site.xml中的hadoop.tmp.dir配置生成個文件，然後將/root/hadoop-2.6.0/tmp拷貝到2的/root/hadoop-2.6.0/下。
scp -r tmp/  hadoop3:/root/hadoop-2.6.0/

2.8格式化ZK(1上執行即可)
./hdfs zkfc -formatZK

2.9啓動HDFS(1上執行)
./sbin/start-dfs.sh


2.10啓動YARN
./sbin/start-yarn.sh
hadoopadmin




關機順序
先關閉dfs.sh服務在關閉yarn.sh服務然後再關機
斷電出現故障之後
刪除所有節點下 ~/dfs/data 文件夾下的所有內容
刪除所有節點下 ~/dfs/name 文件夾下的所有內容
刪除所有節點下 ~/tmp 文件夾下的所有內容
重新初始化 namenode: 在namenode節點上hadoop安裝文件夾下執行 ./bin/hdfs namenode -format
重啓dfs和yarn服務 :在namenode節點上hadoop安裝文件夾下執行 ./sbin/start-dfs.sh 然後執行 ./sbin/start-yarn.sh