原创 Hadoop系列之五:MapReduce進階(2)

1、MapReduce作業、集羣及其邏輯架構 前文已經描述,MapReduce是一個編程框架,它爲程序員提供了一種快速開發海量數據處理程序的編程環境,並能夠讓基於這種機制開發出的處理程序以穩定、容錯的方式並行運行於由大量商用硬件組成的集羣上

原创 Hadoop系列之六:分佈式文件系統HDFS

1、MapReduce與分佈式文件系統 前面的討論中,我們已經得知,Hadoop中實現的MapReduce是一個編程模型和運行框架,它能夠通過JobTracker接收客戶提交的作業而後將其分割爲多個任務後並行運行在多個TaskTracker

原创 打造企業級應用--郵件服務器postfix+dovecot+extmail

最近一直忙着找工作,很久沒有寫博客了,這不最近老大說爲公司建個郵件服務器吧,統一一下同事們的郵箱,筆者第一反應就是:postfix+mysql+extmail 解決方案,解決方案有了咱就開始着手幹吧~ 借鑑網上的一幅圖片 當用戶通過e

原创 負載均衡集羣解決方案(三)haproxy

一、haproxy簡介 HAProxy is a free, very fast and reliable solution offering high availability, load balancing, and proxying

原创 我的友情鏈接

51CTO博客開發論壇之星小棟—HOME馬哥教育My---Dream.*晃悠丶厚積薄發夜的博客jerrymin禪意花園生鏽的老槍_技術博客壞男孩黑影子吟—技術交流王偉linuxer德魯克的IT追隨者WeCan老徐私房菜濛sir的積累老劉的博

原创 從零認識tomcat,構建一機多實例tomcat集羣

1、瞭解tomcat Tomcat不是一個完整意義上的Jave EE(j2ee)服務器,因爲它沒有提供完整的Java EE企業應用平臺的API。但是由於Tomcat遵循apache開源協議,並且對當前Java開發框架開源組件Structs、

原创 Hadoop系列之八:Hadoop集羣

1、合併MapReduce集羣與HDFS集羣 在調度運行一個作業時,將map任務等直接運行於要處理的數據所存儲的HDFS的數據節點上,可避免大量的數據傳輸,實現數據處理的本地性,進而大大提高整個過程的完成效率,這也正是Hadoop

原创 [HAProxy]解決haproxy 多客戶端session一致性問題

1、session知識    Session是由應用服務器維持的一個服務器端的存儲空間,用戶在連接服務器時,會由服務器生成一個唯一的SessionID,用該SessionID 爲標識符來存取服務器端的Session存儲空間。而Sessi

原创 負載均衡LVS集羣詳解

集羣,所謂的集羣就是爲了提高服務器性能時,將多臺服務器組合在一起,共同提供一個服務的羣體。而這些集羣又分爲:LB(Load Banlancing)--負載均衡、HA(Hight Availability)--高可用、HP(Hight Per

原创 Corosync+pacemaker實現基於drbd分散式存儲的mysql高可用集羣

前提: 1.兩臺服務器HA1.coolinuz.com別名爲HA1,HA2.coolinuz.com別名HA2 2.IP地址HA1:192.168.0.73,HA2:192.168.0.76 3.系統平臺爲:RHEL5.4

原创 負載均衡集羣解決方案 (二)Nginx

Nginx是一個免費的,開源的,高性能的服務器和反向代理服務器軟件,同時它也可以爲IMAP和POP3服務器代理,以其高性能,穩定性,豐富的功能,結構簡單,低資源消耗的特性換來廣大運維者所喜愛。 Nginx與傳統的服務器不同,不依賴線程來處理

原创 Hadoop系列之七:分佈式文件系統HDFS(2)

1、訪問HDFS文件系統 HDFS是工作於用戶空間的文件系統,它的樹狀文件系統是獨立的,不能像傳統上工作於內核空間的文件系統一樣掛載至當前操作系統的目錄樹上對HDFS進行訪問,傳統上實現文件或目錄管理的命令如ls、cat等此處也無法正常使用

原创 負載均衡集羣解決方案 (一)LVS-DR

LVS的工作機制以及其調度算法等一些初步瞭解在我之前的文章裏面已有記錄。請看這裏 LVS其工作機制類似iptabls,一部分工作在用戶空間(ipvsadmin),一部分工作在內核空間;用戶空間:用於定義一些負載均衡的對象與策略,例如對TCP

原创 Hadoop系列之九:Hadoop集羣僞分佈式模式的實現詳解

1、Hadoop依賴軟件 Hadoop基於Java語言開發,因此其運行嚴重依賴於JDK(Java Development Kit),並且Hadoop的許多功能依賴於Java 6及以後的版本才提供的特性。Hadoop可以良好地運行於

原创 關於Hadoop系列文章

Hadoop系列文章全部轉載自馬哥教育      馬哥教育: http://mageedu.blog.51cto.com   Hadoop整個系列文章還要涉及到以下話題: 1、HDFS命令行接口的使用; 2、完全分佈式Hadoop