原创 分佈式計算開源框架Hadoop入門實踐(三)

Hadoop基本流程一個圖片太大了,只好分割成爲兩部分。根據流程圖來說一下具體一個任務執行的情況。在分佈式環境中客戶端創建任務並提交。InputFormat做Map前的預處理,主要負責以下工作:驗證輸入的格式是否符合JobConfig的輸入

原创 分佈式計算開源框架Hadoop入門實踐(二)

        其實參看Hadoop官方文檔已經能夠很容易配置分佈式框架運行環境了,不過這裏既然寫了就再多寫一點,同時有一些細節需要注意的也說明一下,其實也就是這些細節會讓人摸索半天。Hadoop可以單機跑,也可以配置集羣跑,單機跑就不需要

原创 分佈式計算開源框架Hadoop入門實踐(一)

在SIP項目設計的過程中,對於它龐大的日誌在開始時就考慮使用任務分解的多線程處理模式來分析統計,在我從前寫的文章《Tiger Concurrent Practice --日誌分析並行分解設計與實現》中有所提到。但是由於統計的內容暫時還是十分

原创 我的友情鏈接

實踐檢驗真理

原创 Error loading class [org.apache.struts2.views.velocity.StrutsResourceLoader]

2015 二月 04 21:04:58 ERROR [com.opensymphony.xwork2.util.finder.ClassFinder] - <Error loading class [org.apache.struts2.v

原创 java學習筆記之一------數據類型及常用轉換

java數據類型劃分分爲兩大類型:               1)基本數據類型:類似於普通的值。               2)引用數據類型:傳遞的是內存的地址。浮點類型實際上就是表示小數。 java基本數據類型 數據的溢出當整數的數據

原创 Hadoop學習基礎之三:MapReduce

一月八號,一個數據庫專欄的讀者詢問我們關於對新的分佈式數據庫研究成果的意見。我們在這結合MapReduce談談我們的看法。現在是討論這個問題的不錯的時機,因爲最近媒體上到處充斥着新的革命所謂“雲計算”的信息。這種模式需要利用大量的(低端)處

原创 JAVA虛擬機(JVM)以及跨平臺原理(JDK、JRE、JVM)

相信大家已經瞭解到Java具有跨平臺的特性,可以“一次編譯,到處運行”,在Windows下編寫的程序,無需任何修改就可以在Linux下運行,這是C和C++很難做到的。那麼,跨平臺是怎樣實現的呢?這就要談及Java虛擬機(Java Virtu

原创 分佈式計算開源框架Hadoop入門實踐(三)

Hadoop基本流程一個圖片太大了,只好分割成爲兩部分。根據流程圖來說一下具體一個任務執行的情況。在分佈式環境中客戶端創建任務並提交。InputFormat做Map前的預處理,主要負責以下工作:驗證輸入的格式是否符合JobConfig的輸入

原创 【整理學習Hadoop】Hadoop學習基礎之一:服務器集羣技術

        服務器集羣就是指將很多服務器集中起來一起進行同一種服務,在客戶端看來就像是隻有一個服務器。集羣可以利用多個計算機進行並行計算從而獲得很高的計算速度,也可以用多個計算機做備份,從而使得任何一個機器壞了整個系統還是能正常運行。 

原创 【整理學習HDFS】Hadoop Distributed File System 一個分佈式文件系統

        Hadoop分佈式文件系統(HDFS)被設計成適合運行在通用硬件(commodity hardware)上的分佈式文件系統。它和現有的分佈式文件系統有很多共同點。但同時,它和其他的分佈式文件系統的區別也是很明顯的。HDFS是

原创 (摘錄筆記)JAVA學習筆記SSH整合搭建項目

1:當然是導jar包啦;struts2:spring:hibernate:至於這些jar包是什麼作用,我想就不必我解釋了,大家都懂得,ssh2基本的jar包;還有一些其他jar包:struts2-spring-plugin-2.1.8.1.

原创 淘寶開源平臺(taobao-code)使用心得

    偶爾之下翻到的這個東西,瞬間覺得足以解決自己在開發過程中的版本控制問題。就註冊了一個試試。先是在度娘上搜尋“淘code”,進入官網之後直接註冊。然後構建自己的項目,上傳代碼就OK了。一、搜尋“淘code”:二、註冊:(兩個註冊頁面都

原创 (摘錄筆記)藍橋杯算法訓練

一、圖形顯示【此題雖然簡單,但是需啊喲注意的是,每個“*”後邊有一個空格】問題描述  編寫一個程序,首先輸入一個整數,例如5,然後在屏幕上顯示如下的圖形(5表示行數):  * * * * *  * * * *  * * *  * *  * 

原创 iBatis 簡單介紹及基礎入門

iBATIS一詞來源於“internet”和“abatis”的組合,是一個由Clinton Begin在2002年發起的開放源代碼項目。於2010年6月16號被谷歌託管,改名爲MyBatis。是一個基於SQL映射支持Java和·NET的持久