Windows 上使用Intellij DEAR14 搭建Spark14編程環境總結

1.下載安裝Scala2.10.5

2.下載安裝Intellij DEAR14

3.下載安裝scala-intellij-bin-1.5.2(Scala插件),當然網速好的話,可以使用Intellij DEAR14安裝Scala插件

這裏我們使用手動下載,下載完成後,解壓到Intellij IDEA 安裝目錄中的plugins裏面去

4.下載spark-1.4.0-bin-hadoop2.6.tgz,將lib下的spark-assembly-1.4.1-hadoop2.6.0.jar,配置到依賴包中

5.下載 hadoop-2.6.0.tar.gz ,解壓後,設置環境變量,在path中添加路徑,%HADOOP_HOME%\bin\

6.下載winutils.exe,將winutils.exe拷貝到hadoop根目錄的bin目錄下,下載地址:http://files.cnblogs.com/files/yjmyzz/hadoop2.6%28x64%29V0.2.zip

到這裏大家注意一下,若是沒有步驟5和6的話,spark本地運行時會出現“ERROR Shell: Failed to locate the winutils binary in the hadoop binary path...."這樣的錯誤,spark-1.4.0-bin-hadoop2.6.tgz這個版本會出現這種錯誤的,低版本的不需要步驟5和6,當然也不會出現我說的這樣的錯誤的。

7.下面就是建立項目編程了,我就不多說了

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章