原创 忍不住配個圖來簡單說下idea 中 git的分支合併
在正常的開發中是不大可能一個分支master幹到底的,這樣感覺很不專業,逼格很不夠有沒有感覺。不論公司規模如何都要有點裝逼技能纔好出去吹的,命令行玩的很溜的 ,固然可敬,但是就怕手抖啊 ,是不是在做大的合併之前得洗把臉,買
原创 flume01
轉:https://www.cnblogs.com/gongxijun/p/5656778.html 1 .背景 flume是由cloudera軟件公司產出的可分佈式日誌收集系統,後與2009年被捐贈了apache軟件基金會,爲h
原创 源碼走讀篇之:spark讀取textfile時是如何決定分區數的
前言: 關於源碼的文章,我自己其實也一直在有道雲上有總結一些,猶豫平日裏上班的緣故,着實沒有太多的精力來寫體系的寫這些東西,但是,卻着實覺得這些東西其實還是很重要的,特別是隨着工作時間的漸長,越發覺得源碼這個東西還是必須要
原创 經典面試題目之:groupbykey 和 reducebykey以及aggregatebykey 的區別?
從源碼層面來看看吧,別的都顯得比較蒼白,源碼的實現是一方面,還有筆者覺得我們更要養成多讀源碼裏的註釋的習慣,個人覺得spark源碼裏的註釋做的相當之良心,可以讓你少走很多彎路,快速的理解源碼都實現了什麼。走起~ grou
原创 徹底說清楚scala中的閉包和柯里化的概念
堅持說大白話,讓問題儘可能的簡單易懂! 1:前言: 閉包和柯里化是學習scala的過程中以及面試的過程中無法忽視的一道坎,不管你是否重視它,它都存在。筆者之前也是對這些東西雲裏霧裏,因爲Java裏本身沒有閉包這個概念的,接觸過JS的同
原创 ES之 基本概念
轉:http://www.jianshu.com/p/53580217a010 Elasticsearch Elasticsearch是一個基於Apache Lucene(TM)的開源搜索引擎。無論在開源還是專有領域,Lucene可以
原创 SparkStreaming&mulity thread 多線程
感覺這個兩個之間聯繫很緊密,好像又感覺是在搞事情,SparkStreaming 裏面很多本身難道不就是多線程的嗎? 這個吧,怎麼說呢?有個比較騷的操作就是在foreachRdd裏用多線程來解決問題,這個操作着實很悶騷。在工程實踐中
原创 《Apache Kylin將curl方式改爲httpclient方式調用Restful API》
轉:http://blog.csdn.net/BlackEnn/article/details/52879989 1.httpclient方式調用Kylin Resetful API [java] view plain co
原创 Flume架構以及應用介紹
轉:http://blog.csdn.net/a2011480169/article/details/51544664 在具體介紹本文內容之前,先給大家看一下Hadoop業務的整體開發流程: 從Hadoop的業務開發流程圖中可以看
原创 kafka的offset是個什麼鬼。。
轉:http://blog.csdn.net/looklook5/article/details/42008079 之前在做Kafka 整合Storm的時候,因爲對Kafka 不是很熟,考慮過這樣的一個場景問題,針對一個Topic
原创 Java transient關鍵字使用
轉:http://www.importnew.com/21517.html 1. transient的作用及使用方法 我們都知道一個對象只要實現了Serilizable接口,這個對象就可以被序列化,java的這種序列化模式爲開發者提
原创 Int裏-128到127的學問
轉:http://blog.csdn.net/chengzhezhijian/article/details/9628251 最近在項目中遇到一個問題,兩個值相同的Integer型值進行==比較時,發現Integer其中的一些奧祕,
原创 kylin之java02
http://www.cnblogs.com/sh425/p/5848949.html 通常是用於增量 package com.dlht.kylinDemo; import java.io.BufferedReader; impo
原创 使用Comparatro接口實現自定義排序
轉:http://blog.csdn.net/jason_deng/article/details/7026458 /* 有個Person類,包括姓、名、性別、年齡屬性:現在有個需求,需要對Person進行以下規則的排序 * 誰的姓
原创 dynamic allocate executor 我爲什麼不建議你使用
dynamic allocate executor 感覺好拽的能力,動態分配哦,好膩害的樣子噢。萬事大家,媽媽再也不用擔心我到底該配置多少 資源合適了,又保住了好幾根銀髮。面試官再問我我是如何估計資源的,我就把這個參數甩她胸口~ 真的