原创 Linux下shell編程
“石頭、剪刀、布”問題的Shell腳本實現 1.““石頭、剪刀、布”問題的Shell腳本實現”,主要應用shell腳本編程實現良好的人機交互猜拳遊戲 要求: (1)設計兩個變量,分別表示計算機和人取勝的次數,每次取勝則增1,從
原创 java通過http方式代理請求api接口
最近在對接客戶那邊第三方合作的http api接口的時候,發現通過java代碼的方式請求第三方http接口,發現在我本地可以正常訪問,但是把程序部署到客戶那邊的服務器上就發生超時,找不到訪問地址的錯誤。通過測試發現,在客戶
原创 Hadoop中的MapReduce
一、課程概述 依賴jar包 $HADOOP_HOME/share/hadoop/common $HADOOP_HOME/share/hadoop/common/lib $HADOOP_HOME/
原创 MapReduce實現WordCount程序
1.Mapper程序import java.io.IOException; import org.apache.hadoop.io.IntWritable; import org.apache.hadoop.io.LongWritabl
原创 搭建Hadoop的環境
一、準備工作 1、安裝Linux、JDK、關閉防火牆、配置主機名 這部分上面已經介紹過來,這裏就不在贅述。 2、安裝Hadoop 解壓:tar -zxvf hadoop-2.7.3.tar.g
原创 NoSQL數據庫之:HBase
一、NoSQL的基礎、常見的NoSQL數據庫 1、not only sql 2、回顧:關係型數據庫: Oracle、MySQL等等 -----> 面向行:適合insert update delete 3、常見的NoSQL數據庫 (*)基於
原创 Hadoop的數據分析引擎:Hive
數據分析的引擎:1、Hive ---> 屬於Hadoop,支持SQL Pig ---> 屬於Hadoop,支持PigLatin 2、Spark SQL ---> 類似Hive,支持SQL和DS
原创 Hadoop的數據分析引擎:Pig
一、什麼是Pig?安裝和配置 1、最早由Yahoo開發,後來給Apache 2、支持語句PigLatin語句,類似SQL 3、翻譯器:PigLatin語句 ----> MapReduce
原创 Hadoop的HDFS介紹和操作
一、HDFS概述 HDFS(Hadoop Distributed File System):分佈式文件系統二、操作HDFS 1、通過Web Console:50070、50090 2、命令行
原创 Java的代理對象實例
Java的代理對象,可以通過代理來操作一個正真的實例對象,通過代理模式來重寫那些我們需要增強的原對象的方法,下面是一個關於代理的簡單實例:1.定義一個接口類public interface MyBusiness {
原创 Hadoop的體系結構
Hadoop的體系結構:都是主從結構一、HDFS的體系結構 1、NameNode:主節點 http://192.168.160.111:50070 (1)職責:管理
原创 共享文件夾VMware Tools設置安裝
一、設置共享文件夾1. 點擊【編輯虛擬機設置】-【選項】-【共享文件夾】,選擇“總是啓用”2. 添加要共享的文件夾,點擊【添加】3. 點擊【確定】,並重啓系統 二、安裝VMware Tools1.
原创 CentOS開發環境搭建
CentOS開發環境搭建一、 安裝系統1. 新建虛擬機 2. 選擇“自定義(高級)”,並點擊【下一步】3. 選擇虛擬機硬件兼容性,並點擊【下一步】4. 選擇“稍後安裝操作系統”,並點擊【下
原创 Java通過Hadoop實現RPC通訊簡單實例
一、定義server端代碼1.定義一個接口,該接口繼承org.apache.hadoop.ipc.VersionedProtocol接口import org.apache.hadoop.ipc.VersionedProtocol; pu