原创 將Hive統計分析結果導入到MySQL數據庫表中(二)——使用Hive和MySQL JDBC驅動

        上一篇文章中,我介紹了一種將Hive分析結果,通過存放到另外一個Hive表中,使用Sqoop將該表內容直接導入到MySQL中的方法。本人認爲這種方式在數據量特別大的時候,可能很有效果,但是一般情況下,Hive的分析、查詢、

原创 Sqoop1.4.4實現關係型數據庫多表同時導入HDFS或Hive中

問題導讀:          1、使用Sqoop哪個工具實現多表導入?          2、滿足多表導入的三個條件是?          3、如何指定導入HDFS某個目錄?如何指定導入Hive某個數據庫? 一、介紹         有時

原创 JPA 初探—配置及逆向工程增刪改查案例

    JPA全稱Java Persistence API,即Java持久化API,它爲Java開發人員提供了一種對象/關係映射工具來管理Java應用中的關係數據,結合其他ORM的使用(如Hibernate),能達到簡化開發流程的目的,使

原创 Spring+Jersey+Hibernate+MySQL+HTML實現用戶信息增刪改查案例(附Jersey單元測試)

         Spring與Jersey整合相對比較簡單,但是如果與前端進行交互,實現前後端傳值,那就會遇到各種問題。本文的目的,就是詳細介紹Spring與Jersey整合如何與前端數據交互。 一、Jersey簡介 Jersey是J

原创 Sqoop1.4.4將MySQL中數據導入到Hive表中

問題導讀:          1、--hive-import、--hive-overwrite的作用?          2、如何處理關係型數據庫字段中字符串含有分隔符問題?          3、使用--hive-import默認字段分

原创 將Hive統計分析結果導入到MySQL數據庫表中(一)——Sqoop導入方式

        最近在做一個交通流的數據分析,需求是對於海量的城市交通數據,需要使用MapReduce清洗後導入到HBase中存儲,然後使用Hive外部表關聯HBase,對HBase中數據進行查詢、統計分析,將分析結果保存在一張Hive表

原创 Hive 創建表報"Specified key was too long; max key length is 767 bytes" 錯誤

Hive元數據庫使用MySQL數據庫,在使用Hive創建表的時候,報了以下錯誤: hive> create table base ( id int, name string, address string) row format

原创 Maven安裝過程及手動添加JAR包到本地倉庫詳解

一、Maven介紹 Maven是一個項目構建和管理的工具,提供了幫助管理構建、文檔、報告、依賴、scms、發佈、分發的方法。可以方便的編譯代碼、進行依賴管理、管理二進制庫等等。Maven的好處在於可以將項目過程規範化、自動化、高效化以及

原创 將Hive統計分析結果導入到MySQL數據庫表中(三)——使用Hive UDF或GenericUDF

        前面我分別介紹了兩種Hive將分析結果導入到MySQL表的兩種方式:Sqoop導入方式和使用Hive、MySQL JDBC驅動,現在我介紹第三種,也是使用比較多的方式——使用Hive 自定義函數(UDF或GenericU

原创 Sqoop1.4.4使用增量導入模式將MySQL數據庫中數據導入到HDFS中

問題導讀:        1、什麼是增量導入?        2、--check-column、--incremental和--last-value三個參數的作用?        3、使用增量導入,需要注意什麼? 一、增量導入模式簡介  

原创 Spring+Jersey+JPA+Hibernate+MySQL實現CRUD操作案例

本文承接我的另一篇博文:Spring+Jersey+Hibernate+MySQL+HTML實現用戶信息增刪改查案例(附Jersey單元測試),主要更改內容如下: Spring配置文件applicationContext中原先使用的是

原创 Sqoop1.4.4將文件數據集從HDFS中導出到MySQL數據庫表中

問題導讀:         1、Sqoop export有哪三種導出模式,Sqoop默認是哪個模式?         2、INSERT模式和UPDATE模式區別,各自應用場景?         3、--update-key 、--colu

原创 Sqoop1.4.4將MySQL數據庫表中數據導入到HBase表中

問題導讀:         1、--hbase-table、--hbase-row-key、--column-family及--hbase-create-table參數的作用?         2、Sqoop將關係型數據庫表中數據導入HB

原创 Jersey與Spring整合異常:MIME media type, application/json, was not found

Jersey與Spring整合過程中,通過前端傳值到後臺,總是報以下異常: com.sun.jersey.api.client.ClientHandlerException: com.sun.jersey.api.client.Cl