原创 VUE——HelloWorld

1、安裝node環境 https://nodejs.org/zh-cn/ 我下載的是win10的,自帶npm,安裝好測試一下 node -v npm -v 有版本號即可 ------------------此時node環境安裝完畢 由於n

原创 ORC存儲格式

1、orc索引 index、row group index、bloom filter index set hive.optimize.index.filter=true;打開索引(默認是flase) 輕量級索引Row Group Inde

原创 rsync遠程同步和時間同步

1、基本語法 rsync -rvl $pdir/$fname  $user@hadoop$host:$pdir/$fname 2、xsync集羣分發腳本 touch xsync.sh vim xsync.sh #!/bin/ba

原创 centos6.8部署cloudera-manager

  環境 centos 6.8 cm6.2 cdh6.2 jdk1.8 機器 node1   node2   node3 1、下載安裝包 下載地址https://archive.cloudera.com/cm6/6.2.0/redhat6

原创 sqoop導入mysql數據到hive表

1、創建orc表並導入mysql數據 腳本文件如下:(必須這樣寫,一行參數,一行值) import --connect jdbc:mysql://node2:3306/sqoop --username root --password r

原创 Hadoop 黑白名單,新節點

1、hadoop動態增加新節點 1、添加主機映射 vim /etc/hosts,這裏是node4 192.168.88.135 master0 192.168.88.136 master1 192.168.88.137 node1 192

原创 Kerberos基本配置

1 選擇一臺機器運行KDC,安裝Kerberos相關服務 yum install -y krb5-devel krb5-server krb5-workstation 2 配置Kerberos,包括krb5.conf和kdc.conf,

原创 centos6.8部署kerberos

Kerberos是一種認證機制,用於hadoop集羣安全認證 1、安裝 系統環境:centos6.8 集羣主機: node1    node2    node3 軟件包:            下載地址:http://www.rpmfin

原创 Kylin大數據分析神獸

apache版本安裝 安裝 hbase-1.2.11-bin.tar.gz 安裝 hive-2.1.0 安裝 hadoop-2.6.0-cdh 安裝 zookeeper-3.4.12 安裝 apache-kylin-2.0.0-bin-h

原创 sqoop1.4.7

sqoop安裝 1、sqoop 1.4.7下載地址 http://mirrors.hust.edu.cn/apache/sqoop/1.4.7/sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz 2、tar 解壓,配

原创 MR——worldcount案例

springboot程序 1、導入依賴 <dependency> <groupId>junit</groupId> <artifactId>junit</artifactId> <ver

原创 Hadoop理論

1、hadoop安全模式 NameNode存放的是元數據信息(包括塊(block)在哪個位置,所有者,大小等等),元數據信息放到內存中,而內存一斷電就會丟失數據,於是產生了映像文件(fsimage)和edits(編輯日誌),fsimage

原创 kafka安裝0.10.2.2,scala-2.10

下載地址http://kafka.apache.org/downloads.html 1、解壓 2、在kafka根目錄下創建kafkalogs 3、cd /usr/local/kafka-0.10/config 4、配置文件vim ser

原创 hive2.1.0 on spark1.6.0 on yarn配置

spark安裝 版本:hadoop2.6.0  hive-2.1.0  spark-1.6 1、編譯spark 因爲hive使用的是apache-hive-2.1.0,不需要spark集成的hive,所以需要自己手動編譯spark源碼,編

原创 centos 6.8安裝mysql-5.7.24

  一、centos 6 安裝mysql5.7.24 1、卸載linux自帶的mysql [root@localhost /]# rpm -qa | grep mysql 查看old mysql [root@localhost /]