原创 Linux下shell編程

“石頭、剪刀、布”問題的Shell腳本實現 1.““石頭、剪刀、布”問題的Shell腳本實現”,主要應用shell腳本編程實現良好的人機交互猜拳遊戲      要求: (1)設計兩個變量,分別表示計算機和人取勝的次數,每次取勝則增1,從

原创 java通過http方式代理請求api接口

        最近在對接客戶那邊第三方合作的http api接口的時候,發現通過java代碼的方式請求第三方http接口,發現在我本地可以正常訪問,但是把程序部署到客戶那邊的服務器上就發生超時,找不到訪問地址的錯誤。通過測試發現,在客戶

原创 Hadoop中的MapReduce

一、課程概述 依賴jar包   $HADOOP_HOME/share/hadoop/common   $HADOOP_HOME/share/hadoop/common/lib   $HADOOP_HOME/

原创 MapReduce實現WordCount程序

1.Mapper程序import java.io.IOException; import org.apache.hadoop.io.IntWritable; import org.apache.hadoop.io.LongWritabl

原创 搭建Hadoop的環境

一、準備工作    1、安裝Linux、JDK、關閉防火牆、配置主機名            這部分上面已經介紹過來,這裏就不在贅述。   2、安裝Hadoop        解壓:tar -zxvf hadoop-2.7.3.tar.g

原创 NoSQL數據庫之:HBase

一、NoSQL的基礎、常見的NoSQL數據庫 1、not only sql 2、回顧:關係型數據庫: Oracle、MySQL等等 -----> 面向行:適合insert update delete 3、常見的NoSQL數據庫 (*)基於

原创 Hadoop的數據分析引擎:Hive

數據分析的引擎:1、Hive  ---> 屬於Hadoop,支持SQL   Pig   ---> 屬於Hadoop,支持PigLatin   2、Spark SQL ---> 類似Hive,支持SQL和DS

原创 Hadoop的數據分析引擎:Pig

一、什麼是Pig?安裝和配置 1、最早由Yahoo開發,後來給Apache 2、支持語句PigLatin語句,類似SQL 3、翻譯器:PigLatin語句 ----> MapReduce          

原创 Hadoop的HDFS介紹和操作

一、HDFS概述        HDFS(Hadoop Distributed File System):分佈式文件系統二、操作HDFS        1、通過Web Console:50070、50090        2、命令行   

原创 Java的代理對象實例

        Java的代理對象,可以通過代理來操作一個正真的實例對象,通過代理模式來重寫那些我們需要增強的原對象的方法,下面是一個關於代理的簡單實例:1.定義一個接口類public interface MyBusiness {

原创 Hadoop的體系結構

Hadoop的體系結構:都是主從結構一、HDFS的體系結構    1、NameNode:主節點            http://192.168.160.111:50070                        (1)職責:管理

原创 共享文件夾VMware Tools設置安裝

一、設置共享文件夾1.        點擊【編輯虛擬機設置】-【選項】-【共享文件夾】,選擇“總是啓用”2.        添加要共享的文件夾,點擊【添加】3.        點擊【確定】,並重啓系統 二、安裝VMware Tools1.

原创 CentOS開發環境搭建

CentOS開發環境搭建一、       安裝系統1.     新建虛擬機    2.     選擇“自定義(高級)”,並點擊【下一步】3.     選擇虛擬機硬件兼容性,並點擊【下一步】4.     選擇“稍後安裝操作系統”,並點擊【下

原创 Java通過Hadoop實現RPC通訊簡單實例

一、定義server端代碼1.定義一個接口,該接口繼承org.apache.hadoop.ipc.VersionedProtocol接口import org.apache.hadoop.ipc.VersionedProtocol; pu