原创 Flink學習(二) job 執行流程
本片文章主要介紹以下2點:1、job代碼是如何被編譯成ExecutionGraph。2、任務是如何運行和調度。(以RemoteEnvironment 模式記錄而非Local)。 flink job 是如何生成ExecutionGr
原创 flink學習(一) —Flink-Kafka-Connector基本描述
一、flink-connector-kafka 功能簡介 flink Kafka Connector 是 flink 內置的Kafka連接器,包含了從topic讀取數據的Flink Kafka Consumer 和 向t
原创 Kafka Consumer 消費邏輯
Kafka消費邏輯 簡介:本文主要敘述KafkaConsumer消費邏輯(本文使用的是flink 中的Kafka-client), 是如何獲取獲取數據,這裏直奔主題,從KafkaConsumer直接看起來。 1、喚醒 K
原创 Hadoop 安裝(mac 環境,僞分佈式)
Hadoop 可以部署成非分佈式模式運行的一個java進程(主要用於本地調試),也可以可以在單節點上以所謂的僞分佈式模式運,每一個Hadoop守護進程都作爲一個獨立的Java進程運行。下面主要說下Mac下面僞分佈式的安裝和啓動 一、安裝前
原创 tomcat 源碼總結
一、Tomcat的功能 對於一個web開發者而言,Tomcat 是一個請求處理的第一步,然後再進行我們業務處理。如下圖: 從上圖可以看出,Tomcat有2大塊非常重要的功能:1、HTTP服務器的功能
原创 類加載流程簡介(一)
文章目錄一、類加載描述二、類加載流程加載連接驗證準備解析初始化 一、類加載描述 類加載過程就是將class文件加載到內存,並對進行校驗、解析、初始化等的過程,其實就是將編譯後的java文件(.class文件)變成虛擬機中的clas
原创 類加載器工作模型簡介(二)
文章目錄一、類加載器描述二、雙親委派模型1、類加載器介紹2、雙親委託模型3、命名空間4、破壞雙親委託模型 一、類加載器描述 類的加載是需要類加載器完成的,最早的類加載器是滿足java applet 需求開發的,但是現在類加載器在熱
原创 FKC(二)—Kafka Consumer
本文主要敘述KafkaConsumer消費邏輯。 下面一篇介紹如何將獲取到的數據發射到下游。 從上文可知,在FlinkKafkaConsumerBase類的run方法中看到,最終是調用了 AbstractFetcher.runFe
原创 FKC(一) —Flink-Kafka-Connector基本描述
一、flink-connector-kafka 功能簡介 flink Kafka Connector 是 flink 內置的Kafka連接器,包含了從topic讀取數據的Flink Kafka Consumer 和 向t
原创 Flink Event Time 和WaterMark
Flink Event Time 和WaterMark ProcessingTimeEventTimeWaterMark ProcessingTime 下面有一個窗口大小爲 10s,步長爲 5s的滑動窗口 進行數據統計。假設數據源
原创 類加載器簡介
一、ClassLoader簡介 Java的類加載器的作用就是在運行時加載類到虛擬機中,首先不管對於什麼樣的java應用肯定是由很多class組成實現的,不同的功能所在的class是不一樣的(你說我把所有的功能
原创 tomcat 初始化
一、啓動 對於tomcat的啓動類,主要是Catalina和Bootstrap這2個類。我們先看下啓動的流程圖,然後針對這2個類單獨敘說。 下面我們主要看下Bootstrap和Catalina這2個類(JMX這塊會單獨放
原创 Digester簡介和使用
一、Digester簡介 1、sax簡單介紹,對於XML的解析java有很多種實現,如DOM、SAX等,degister就是基於SAX實現,SAX提供了文件讀取的底層接口,它是基於事件驅動類型。在解析X
原创 TOMCAT源碼環境搭建(maven方式)
一、TOMCAT 源碼的獲取 對於tomcat的源碼,可以從github上面poll最新的:https://github.com/apache/tomcat 或者從tomcat官網獲取:https://tomcat.apa
原创 HTTP請求的完整流程(tomcat)
1、HTTP協議的簡單介紹 網絡通信協議的本質就是規則,軟件和硬件必須遵循的共同守則。我們先看下HTTP的請求體和響應體: GET /servlet/myServlet HTTP/1.1 Host: localhost:8080 C