原创 Hadoop中的SequenceFile系統之二

上篇文章中完成了Hadoop系統的分佈式部署。 本篇文章主要是實現,如何進行小文件的序列化。 由於在服務器中的日誌文件並不是完整的在一個根目錄下的,因此我在代碼中,添加了根目錄判斷的功能。 可以在部署到Linux服務器後

原创 從多個角度瞭解HashMap。

轉載一個關於HashMap不錯的講解,作者通過圖形的方式很生動的把hashmap的源碼解釋出來。 http://www.cnblogs.com/ITtangtang/p/3948406.html 下面是本人對HashMap源

原创 DNS解析域名解析過程

當我們在瀏覽器的地址欄輸入網址的時候,其實輸入的是一個URL的域名,而這個域名需要解析成爲IP地址,才能讓我們與遠程的主機進行管理。而將URL解析成爲IP,就變得至關重要,這一過程就是DNS解析的過程。如果沒有DNS解析,那麼整

原创 String中==和equals分別比較的是什麼?

首先先了解一下java中的==和equals分別比較的是什麼? 對於基本的數據類型來說:==比較的是兩個基本類型的值。 對於複合數據類型來說:==和equals比較的都是對象在內存中存放地址(確切的 說是堆

原创 Spark——Java代碼同python代碼交互(Java端代碼)

  一、同Python整體交互邏輯 如下圖所示, 1、Java執行器節點獲取數據後,保存至HDFS系統中,並通過kafka發送消息到python端,告知其HDFS地址及相關參數信息。 2、Python端在獲取消息後,執行算法,將算法結果保

原创 如何解決springboot整合spark日誌打印級別問題?

一、由於項目中使用到了springboot框架,會導致springboot中的slf4j和spark中的log4j日誌組件衝突,springboot推薦使用slf4j+logback的模式來記錄日誌,logback比log4j更快的實

原创 HBase操作組件:Hive、Phoenix、Lealone

1、Hive是什麼 hive是基於Hadoop的一個數據倉庫工具,可以將結構化的數據文件映射爲一張數據庫表,並提供簡單的sql查詢功能,可以將sql語句轉換爲MapReduce任務進行運行。 其優點是學習成本低,可以通過類SQL語句快

原创 SpringBoot中的定時工具——Scheduled

需求:每10分鐘抽取數據庫中A表和B表的數據,並按映射字段組合映射後到C表。 考慮到SpringBoot快速開發的便利,嘗試使用SpringBoot來解決這一問題。後來發現,真的很簡單。 首先,使用maven搭建一個Spri

原创 HTTP常見的面試題

1、 Http與Https的區別: HTTP 的URL 以http:// 開頭,而HTTPS 的URL 以https:// 開頭 HTTP 是不安全的,而 HTTPS 是安全的 HTTP 標準端口是80 ,而 HTTPS 的標準端口是4

原创 CSS中的絕對定位和相對定位

position 屬性規定元素的定位類型。任何元素都可以定位,不過絕對或固定元素會生成一個塊級框,而不論該元素本身是什麼類型。相對定位元素會相對於它在正常流中的默認位置偏移。 position:relative | absolute |

原创 Dubbo架構的學習之旅

Dubbo架構的學習之旅 最近在工作過程中,用到了阿里的Dubbo架構,但是之前並沒有接觸過。因此從網上 一、Dubbo架構的運行流程 1. 當服務運行容器*container*,向服務提供方*provider* 啓動。 2.

原创 2017年總結

2017年發生了什麼?1、從一個工作了快兩年的公司離職,從大四實習到轉正一年在這家公司算是從一個學生身份轉型到一個職業人的過渡,感謝在這1年多的時間裏幫助過我的同事和朋友。2、進入到新的工作環境中,更全面的瞭解開發的工作,也算是對開發有了

原创 爲什麼要使用Tomcat?

Tomcat是運行java的網絡服務器,底層是一個socket的程序,同時Tomcat也是JSP和Serlvet的容器 那麼爲什麼我們要用Tomcat呢? 一般情況下,如果我們使用HTML/CSS/JS編寫了一個網頁,這個網頁只能由

原创 堆和棧的概念和區別

堆和棧的概念和區別 在說堆和棧之前,我們先說一下JVM(虛擬機)內存的劃分: Java程序在運行時都要開闢空間,任何軟件在運行時都要在內存中開闢空間,Java虛擬機運行時也是要開闢空間的。JVM運行時在內存中開闢一片內存區域,啓動時在自

原创 Ajax+struts2+json進行對象list前後端傳遞

我們在處理前後端數據的傳遞過程中,經常需要從前臺傳入大量的數據信息與後臺進行交互。 那麼ajax在其中起到了關鍵的作用,配後後端的mvc框架,使用json信息傳輸信息。 在這個過程中需要將前端的對象傳遞至後端,本文就來