這幾天在學習Hadoop相關的東西，前些時候，搭建了單機和僞分佈式的集羣。但是在搭建完全分佈式集羣的時候遇到很多問題，網上找到很多文章，感覺都有些差別，因此，再次彙總一下，把我的詳細的搭建過程記錄下來。
參考了很多篇文章：http://www.w2bc.com/Article/19645
http://blog.csdn.NET/weixuehao/article/details/15813681
***2015/07/874408.html
https://my.oschina.Net/voyage1314/blog/262392
......
環境配置： 虛擬機： vmware workstation 12 系統： ubuntu 16.04 LTS（推薦使用原版，不要用kylin） 節點： 192.168.159.132 master 192.168.159.134 node1 192.168.159.137 node2
jdk-8u101-Linux-x64.gz (Java )hadoop-2.7.3.tar.gz (Hadoop 包)
安裝步驟：
1、安裝虛擬機系統，並進行準備工作（可安裝一個然後克隆）
2.修改各個虛擬機的hostname和host
3.創建用戶組和用戶
4、配置虛擬機網絡，使虛擬機系統之間以及和host主機之間可以通過相互ping通。
5.安裝jdk和配置環境變量，檢查是否配置成功
6、配置ssh，實現節點間的無密碼登錄 ssh node1/2指令驗證時候成功
7、master配置hadoop，並將hadoop文件傳輸到node節點
8、配置環境變量，並啓動hadoop，檢查是否安裝成功，執行wordcount檢查是否成功。
1.安裝虛擬機
在VM上安裝下載好的Ubuntu的系統，具體過程自行百度。可以安裝完一個以後克隆，但是本人安裝過程中遇到很多問題，經常需要刪除虛擬機，重新安裝，而被克隆的虛擬機不能刪除，所以本人就用了很長時候，一個一個安裝。
一共3臺虛擬機：分配情況和IP地址如下：
（注：查看ip地址的指令 ifconfig）
安裝虛擬機時可以設置靜態IP，因爲過程中常常遇到網絡連接問題,ifconfig找不到IPV4地址。當然，也可以不設，默認分配。
參考 http://blog.csdn.net/wolf_soul/article/details/46409323
192.168.159.132 master 192.168.159.134 node1 192.168.159.137 node2
2.修改虛擬機的hostname和hosts文件
以master上機器爲例，打開終端，執行如下的操作，把hostname修改成master，hosts修改成如下所示的樣子：
#修改hostname的指令：sudo gedit /etc/hostname
#修改hosts指令：sudo gedit /etc/hosts
#將以下內容添加到hosts中192.168.159.132 master192.168.159.134 node1192.168.159.137 node2
如下圖所示:
同樣地，在node1和node2機器上做相似的操作，分別更改主機名爲node1和node2，然後把hosts文件更改和master一樣。
3.創建用戶和用戶組（三臺機器上都要操作）
1. 創建hadoop用戶組
sudo addgroup hadoop2. 創建hadoop用戶
sudo adduser -ingroup hadoop hadoop3. 給hadoop用戶添加權限，打開/etc/sudoers文件
sudo gedit /etc/sudoers
按回車鍵後就會打開/etc/sudoers文件了，給hadoop用戶賦予root用戶同樣的權限
在root ALL=(ALL:ALL) ALL下添加hadoop ALL=(ALL:ALL) ALL
4.檢驗各個主機之間能否連通
分別以剛剛創建的hadoop用戶重新登錄系統，以後的操作都以hadoop用戶登錄。
ping +主機名
分別在各個主機上執行上述指令，看是否能與其他主機連通。
出現下圖代表能夠連通：
如果都成功ping通，進行下面的操作。
5.安裝jdk和配置環境變量
分別在每臺主機上安裝jdk，並配置環境變量。（嫌麻煩的前面可以安裝完jdk後再克隆）
1）下載jdk安裝包（自行百度），並將安裝包拖入到虛擬機當中
2）通過cd命令進入到安裝包的當前目錄，利用如下命令進行解壓縮。
tar -zxvf jdk.....(安裝包名稱)
3）利用如下命令將解壓後的文件夾移到/usr目錄下
#注意，這樣移動到/usr以後就沒有jdk1.8...這個目錄了，是將這個目錄下的所有文件全部移動到/usr/java下，mv jdk1.8...(文件夾名稱) /usr/java
4）配置環境變量
sudo gedit /etc/profile
在末尾加上四行：
[plain] view plain copy print?
#java
export JAVA_HOME=/usr/java
export JRE_HOME=/usr/java/jre
export CLASSPATH=$JAVA_HOME/lib
export PATH=:$PATH:$JAVA_HOME/bin:$JRE_HOME/bin
輸入如下命令使配置生效：source /etc/profile
查看配置是否成功，
出現如上信息說明Java配置成功。
6.配置SSH，實現節點間的無密碼登錄
本人在這一步經常出錯，莫名其妙的錯誤，網上也找不到資料。需要自己多實驗幾次。
下面的 1.2.3在所有主機上都要做
1..安裝ssh
[plain] view plain copy print?
sudo apt-get install openssh-server
已有ssh或者安裝成功了的輸入命令
[plain] view plain copy print?
ps -e | grep ssh
驗證SSH是否成功安裝輸入
[plain] view plain copy print?
ssh localhost
出現以下提示說明安裝成功
3.生成密鑰Pair
ssh-keygen -t rsa
輸入之後一直選擇enter即可。生成的祕鑰位於 ~/.ssh文件夾下。可用cd 命令進入查看。
4.在master上，導入authorized_keys
cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys
5.遠程無密碼登錄(把master上的authorized_keys拷貝到其他主機的相應目錄下)
#進入master的.ssh目錄,執行復制操作
scp authorized_keys hadoop@node1:~/.ssh/
scp authorized_keys hadoop@node2:~/.ssh/
修改各臺主機上authorized_keys文件的權限：
所有機器上，均執行命令：
chmod 600 .ssh/authorized_keys
完成之後，在master上執行下面操作，檢查免密碼登錄是否成功。
ssh node1(node2)
7.master配置hadoop,然後將master的hadoop文件傳送給node節點
1）解包移動
[plain] view plain copy print?
#解壓hadoop包
tar -zxvf hadoop...
#將安裝包移到/usr目錄下
mv hadoop... /usr/hadoop
2）新建文件夾
[plain] view plain copy print?
#在/usr/hadoop目錄下新建如下目錄(root)
mkdir /dfs
mkdir /dfs/name
mkdir /dfs/data
mkdir /tmp
3)配置文件：hadoop-env.sh(文件都在/usr/hadoop/etc/hadoop中)
修改JAVA_HOME值（export JAVA_HOME=/usr/java）
4)配置文件：yarn-env.sh
修改JAVA_HOME值（export JAVA_HOME=/usr/java）
5)配置文件：slaves
將內容修改爲：
node1 node2
6)配置文件：core-site.xml
[html] view plain copy print?
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://master:9000</value>
</property>
<property>
<name>io.file.buffer.size</name>
<value>131072</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>file:/usr/hadoop/tmp</value>
<description>Abase for other temporary directories.</description>
</property>
</configuration>
7)配置文件：hdfs-site.xml
[html] view plain copy print?
<configuration>
<property>
<name>dfs.namenode.secondary.http-address</name>
<value>master:9001</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:/usr/hadoop/dfs/name</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:/usr/hadoop/dfs/data</value>
</property>
<property>
<name>dfs.replication</name>
<value>2</value>
</property>
<property>
<name>dfs.webhdfs.enabled</name>
<value>true</value>
</property>
</configuration>
8)配置文件：mapred-site.xml
先創建然後編輯
cp etc/hadoop/mapred-site.xml.template etc/hadoop/mapred-site.xml
gedit etc/hadoop/mapred-site.xml
[html] view plain copy print?
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
<property>
<name>mapreduce.jobhistory.address</name>
<value>master:10020</value>
</property>
<property>
<name>mapreduce.jobhistory.webapp.address</name>
<value>master:19888</value>
</property>
</configuration>
9)配置文件：yarn-site.xml
[html] view plain copy print?
<configuration>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
<value>org.apache.hadoop.mapred.ShuffleHandler</value>
</property>
<property>
<name>yarn.resourcemanager.address</name>
<value>master:8032</value>
</property>
<property>
<name>yarn.resourcemanager.scheduler.address</name>
<value>master:8030</value>
</property>
<property>
<name>yarn.resourcemanager.resource-tracker.address</name>
<value>master:8031</value>
</property>
<property>
<name>yarn.resourcemanager.admin.address</name>
<value>master:8033</value>
</property>
<property>
<name>yarn.resourcemanager.webapp.address</name>
<value>master:8088</value>
</property>
</configuration>
10)將hadoop傳輸到node1和node2 usr/hadoop目錄,（如果傳輸時報錯說 ：權限拒絕，先把文件傳送到非/usr目錄下，然後在node上把這個文件再移動到/usr/hadoop）
scp -r /usr/hadoop hadoop@node1:/usr/hadoop
7、配置環境變量，並啓動hadoop，檢查是否安裝成功
1）配置環境變量
#編輯/etc/profilesudo gedit /etc/profile#以上已經添加過java的環境變量,在後邊添加就可以#hadoop export HADOOP_HOME=/opt/Hadoop/hadoop-2.7.2 export PATH=$PATH:$HADOOP_HOME/sbin export PATH=$PATH:$HADOOP_HOME/bin
執行
source /etc/profile
使文件生效。
2）啓動hadoop,進入hadoop安裝目錄
bin/hdfs namenode -format sbin/start-all.sh
3)啓動後分別在master, node下輸入jps查看進程
看到下面的結果，則表示成功。
Master:
node:
8.向hadoop集羣系統提交第一個mapreduce任務(wordcount)
進入本地hadoop目錄（/usr/hadoop）
1、 bin/hdfs dfs -mkdir -p /data/input在虛擬分佈式文件系統上創建一個測試目錄/data/input
2、 hdfs dfs -put README.txt /data/input 將當前目錄下的README.txt 文件複製到虛擬分佈式文件系統中
3、 bin/hdfs dfs-ls /data/input 查看文件系統中是否存在我們所複製的文件
如圖操作：
3、 運行如下命令向hadoop提交單詞統計任務
進入jar文件目錄，執行下面的指令。
hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.3.jar wordcount /data/input /data/output/result
查看result，結果在result下面的part-r-00000中
hdfs dfs -cat /data/output/result/part-r-00000
自此，hadoop集羣搭建成功！