原创 hbase環境搭建及使用

conf/hbase-env.sh export JAVA_HOME=/data/home/software/jdk1.8.0_202 export HBASE_MANAGES_ZK=false hbase-site.xml <con

原创 Hadoop+Hive+Sqoop 離線日誌分析 公會女生打招呼數據

需求背景: 我們將女生主動和男生建立聯繫定義爲女生打招呼,app中女生打招呼的方式有兩種:主動發起文字聊天和主動發起音視頻聊天。這些數據的採集通過在應用程序中增加埋點,最終成爲日誌文件保存在服務器上。日誌內容如下: 文字聊天,日誌文件

原创 hive常用知識點彙總

1. desc extended/formated tablename 描述表結構,如: desc extended im; desc formatted im; 2. bin/hive -e -f -e 不進入hive命令行執行sql

原创 java WordCount MapReduce實現源碼 使用snappy壓縮

maven做如下配置 groupId:org.apache.hadoop artifactId:hadoop-client version:${hadoop.version} 類申明,繼承configured類,並實現Tool接口 pu

原创 hive 3.1.2 環境搭建(使用mysql)以及示例運行

hive目前最新版本爲3.1.2,下載地址:https://mirrors.tuna.tsinghua.edu.cn/apache/hive/hive-3.1.2/apache-hive-3.1.2-bin.tar.gz hadoop安裝

原创 php中Opcache是什麼?Opcache原理和使用的介紹

本篇文章給大家帶來的內容是關於php中Opcache是什麼?Opcache原理和使用的介紹,有一定的參考價值,有需要的朋友可以參考一下,希望對你有所幫助。   一、個人實踐發現opcache 最近爲了應對雙十一期間高流量的衝擊,小編通過壓

原创 流刀上線工具 互聯網企業微服務上線神器 規範化流程上線工具

流刀上線工具 gitee地址 ,是一款互聯網企業產品開發上線流程規範化管理自動工具。用於在您團隊內網進行項目的打包上線發佈流程的代理工具。流刀上線工具並不會直接與該客戶端工具所在的服務器進行交互,但要求您團隊的成員能夠有權訪問到上線工具部

原创 zookeeper cdh版安裝配置 zookeeper集羣搭建

最新版zookeeper下載地址:https://mirror.bit.edu.cn/apache/zookeeper/zookeeper-3.6.1/apache-zookeeper-3.6.1-bin.tar.gz 編輯zoo.cfg

原创 hadoop 3.2.1 hdfs高可用集羣搭建

hdfs集羣搭建,參照這篇文章:hadoop3.2.1集羣搭建 搭建zookeeper集羣,參照這篇文章:zookeeper集羣搭建 在此基礎上,配置hdfs文件系統nameservice的高可用 創建journalnode進程所在的目錄

原创 hadoop yarn 歷史服務器 jobhistory的啓動

hadoop開始jobhistory服務器運行命令 sbin/mr-jobhistory-daemon.sh start historyserver  相關配置項在文件mapred-site.xml中配置,包括如下 mapreduce.

原创 hadoop3.2.1集羣搭建

hadoop目前最新版本爲3.2.1,本教程將使用hadoop最新版本搭建大數據集羣,並通過yarn運行wordcount的mapreduce程序 軟件和服務器準備工作 軟件準備 hadoop 3,2,1。 下載地址點擊下載 java8。

原创 hadoop中secondaryNameNode的作用

namenode從內存中讀取,如果無法從內存中讀取元數據信息的話,會從本地磁盤的以下兩個地方讀取: fsimage 景象文件 edites 編輯日誌文件 secondaryNameNode則定期合併edites到fsimage

原创 docker搭建zookeeper集羣以及使用java讀寫

搭建zookeeper集羣,docker-compose.yml文件內容如下 version: '3.1' services: zoo1: image: zookeeper restart: always

原创 Win10 子系統 Ubuntu 安裝 Apache2 的 Failed to enable APR_TCP_DEFER_ACCEP 問題

昨天給 Windows10 安裝了 Ubuntu 子系統。體驗了一下,其實和裝虛擬機有類似的地方,不過也有很大的不同。 虛擬機是在軟件裏裝新系統,要是原本機器牛逼的話,愛怎麼裝就怎麼裝,愛裝多少個就裝多少個,無非是系統裏面啓動系統。 不過

原创 個人對操作系統的啓動原理的理解

於淵的《自己動手寫操作系統》是一本不錯的用代碼記錄,一步步完成一個小型的操作系統的書。下載地址:https://pan.baidu.com/s/1j1MfEFcfU_fFamkjovOMRA,提取碼:bjwv。需要有彙編語言基礎的讀者閱讀