原创 忍不住配個圖來簡單說下idea 中 git的分支合併

        在正常的開發中是不大可能一個分支master幹到底的,這樣感覺很不專業,逼格很不夠有沒有感覺。不論公司規模如何都要有點裝逼技能纔好出去吹的,命令行玩的很溜的 ,固然可敬,但是就怕手抖啊 ,是不是在做大的合併之前得洗把臉,買

原创 flume01

轉:https://www.cnblogs.com/gongxijun/p/5656778.html 1 .背景   flume是由cloudera軟件公司產出的可分佈式日誌收集系統,後與2009年被捐贈了apache軟件基金會,爲h

原创 源碼走讀篇之:spark讀取textfile時是如何決定分區數的

前言:         關於源碼的文章,我自己其實也一直在有道雲上有總結一些,猶豫平日裏上班的緣故,着實沒有太多的精力來寫體系的寫這些東西,但是,卻着實覺得這些東西其實還是很重要的,特別是隨着工作時間的漸長,越發覺得源碼這個東西還是必須要

原创 經典面試題目之:groupbykey 和 reducebykey以及aggregatebykey 的區別?

         從源碼層面來看看吧,別的都顯得比較蒼白,源碼的實現是一方面,還有筆者覺得我們更要養成多讀源碼裏的註釋的習慣,個人覺得spark源碼裏的註釋做的相當之良心,可以讓你少走很多彎路,快速的理解源碼都實現了什麼。走起~ grou

原创 徹底說清楚scala中的閉包和柯里化的概念

堅持說大白話,讓問題儘可能的簡單易懂!   1:前言: 閉包和柯里化是學習scala的過程中以及面試的過程中無法忽視的一道坎,不管你是否重視它,它都存在。筆者之前也是對這些東西雲裏霧裏,因爲Java裏本身沒有閉包這個概念的,接觸過JS的同

原创 ES之 基本概念

轉:http://www.jianshu.com/p/53580217a010 Elasticsearch Elasticsearch是一個基於Apache Lucene(TM)的開源搜索引擎。無論在開源還是專有領域,Lucene可以

原创 SparkStreaming&mulity thread 多線程

感覺這個兩個之間聯繫很緊密,好像又感覺是在搞事情,SparkStreaming 裏面很多本身難道不就是多線程的嗎? 這個吧,怎麼說呢?有個比較騷的操作就是在foreachRdd裏用多線程來解決問題,這個操作着實很悶騷。在工程實踐中

原创 《Apache Kylin將curl方式改爲httpclient方式調用Restful API》

轉:http://blog.csdn.net/BlackEnn/article/details/52879989 1.httpclient方式調用Kylin Resetful API [java] view plain co

原创 Flume架構以及應用介紹

轉:http://blog.csdn.net/a2011480169/article/details/51544664 在具體介紹本文內容之前,先給大家看一下Hadoop業務的整體開發流程: 從Hadoop的業務開發流程圖中可以看

原创 kafka的offset是個什麼鬼。。

轉:http://blog.csdn.net/looklook5/article/details/42008079 之前在做Kafka 整合Storm的時候,因爲對Kafka 不是很熟,考慮過這樣的一個場景問題,針對一個Topic

原创 Java transient關鍵字使用

轉:http://www.importnew.com/21517.html 1. transient的作用及使用方法 我們都知道一個對象只要實現了Serilizable接口,這個對象就可以被序列化,java的這種序列化模式爲開發者提

原创 Int裏-128到127的學問

轉:http://blog.csdn.net/chengzhezhijian/article/details/9628251 最近在項目中遇到一個問題,兩個值相同的Integer型值進行==比較時,發現Integer其中的一些奧祕,

原创 kylin之java02

http://www.cnblogs.com/sh425/p/5848949.html 通常是用於增量 package com.dlht.kylinDemo;   import java.io.BufferedReader; impo

原创 使用Comparatro接口實現自定義排序

轉:http://blog.csdn.net/jason_deng/article/details/7026458 /* 有個Person類,包括姓、名、性別、年齡屬性:現在有個需求,需要對Person進行以下規則的排序  * 誰的姓

原创 dynamic allocate executor 我爲什麼不建議你使用

dynamic allocate executor 感覺好拽的能力,動態分配哦,好膩害的樣子噢。萬事大家,媽媽再也不用擔心我到底該配置多少 資源合適了,又保住了好幾根銀髮。面試官再問我我是如何估計資源的,我就把這個參數甩她胸口~   真的