原创 3、HDFS的shell命令大全

文章目錄命令大全1、-help2、-ls 顯示目錄信息3、-mkdir 在HDFS上創建目錄4、-moveFromLocal 從本地剪切到HDFS上5、-appendToFile 追加本地文件到HDFS文件末尾6、-cat 顯示文

原创 2、hadoop的運行模式(centos+docker+hadoop)

文章目錄僞分佈式模式一、啓動HFDS運行MapReduce程序二、啓動Yarn運行MapReduce程序三、配置歷史服務器四、配置日誌的聚集功能完全分佈式運行模式一、集羣部署介紹二、集羣配置三、鏡像製作與容器啓動四、啓動集羣 本案

原创 yum: Nothing to do

系統爲centos7,在安裝wget時,執行命令:yum -y install wget,提示如下錯誤: Loaded plugins: langpacks, versionlock Excluding 1 update due

原创 WARNING: REMOTE HOST IDENTIFICATION HAS CHANGED!

爲了能讓容器(172.17.0.3)能通過ssh免密登錄宿主機,需要將宿主機上的公鑰複製到容器中,在宿主機中執行命令如下: ssh-copy-id 172.17.0.3 但是執行命令時,提示如下錯誤: [root@f

原创 dockerfile: cenos+hadoop+ssh

在進行hadoop集羣測試時,用docker進行集羣部署,在每個docker中部署一個hadoop服務,下面做一個鏡像,用於在每個容器中啓動hadoop,由於啓動hadoop集羣需要ssh服務,因此在鏡像中加入ssh的配置。doc

原创 docker容器中啓動hadoop的namenode,錯誤信息:which: command not found

在docker容器中部署hadoop時,執行hadoop-daemon.sh start namenode命令啓動namenode節點,錯誤信息如下: 根據提示的錯誤信息,第28行報錯,打開文件 /opt/module/hado

原创 解決普通用戶無法執行dockr權限

默認安裝成功後,root有執行docker命令的權限,普通用戶無法執行docker命令,例如普通用戶執行docker images查詢鏡像的命令,會提示如下無權限錯誤: 解決辦法就是爲操作docker創建一個用戶組,並把普通用戶

原创 1、hadoop環境搭建

文章目錄1、創建安裝目錄2、安裝JDK3、安裝hadoop4、WordCount案例 安裝hadoop,需要安裝jdk和hadoop 1、創建安裝目錄 在/opt目錄下創建module、software文件夾,software用於

原创 docker數據卷

利用數據卷可以查看容器內應用產生的數據,或者把容器內的數據進行備份,或者多個容器之間共享數據。數據卷有以下特點: 數據卷可以在容器之間共享和重用; 數據卷修改會立馬生效; 對數據卷的更新,不會影響鏡像; 數據卷會一直存在,知道沒有容

原创 解決unable to locate package net-tools

今天要在linux中執行ifconfig命令,命令無效,然後安裝網絡包,執行 sudo apt-get update和sudo apt install net-tools,報如下錯誤:unable to locate package

原创 docker命令

1、service docker status 查看docker守護進程運行的狀態 2、service docker start 啓動docker的守護進程 3、service docker stop 關閉docker的守護進程 4、

原创 dockerfile命令

Dockerfile 1、第一步首先編寫dockerfile(本例在~/my_docker目錄下創建的dockerfile) #version 0.0.1 FROM ubuntu MAINTAINER lzj "leezhongjia

原创 IO讀取

本篇演示從IO中讀取內容,包括從字符串、終端以及磁盤文件讀取內容 package main import ( "fmt" "io" "os" "strings" ) func ReadFrom(reader io.Read

原创 bufio緩存讀寫

本篇演示通過緩存讀寫 package main import ( "bufio" "fmt" "os" "strings" ) func ReadBuffer() { strReader := strings.NewR

原创 fmt輸出格式化IO

fmt中用於輸出格式化的常用方法如下(詳情見註釋): package main import ( "fmt" "os" ) func main() { /*輸出,不會換行,不會格式化*/ fmt.Print("main