原创 Spark core Insight

Spark core InsightCreate Repository 目標 深入理解 RDD 的內在邏輯 能夠使用 RDD 的算子 理解 RDD 算子的 Shuffle 和緩存 理解 RDD 整體的使用

原创 python super詳解(一)

​​​​​一題: 繼承關係 打印結果:   如果你認爲 super 代表『調用父類的方法』,那你很可能會疑惑爲什麼 enter A 的下一句不是 enter Base 而是 enter B。原因是,super 和父類沒有實質性的關聯

原创 idea插件安裝:

一. 在線安裝,安裝完後重啓idea 1.打開plugins插件界面:  File  ===> settings ===> plugins   二. 離線安裝 1.進入官網:https://plugins.jetbrains.com/ 

原创 Scala 實現java break和continue單獨出現,break和continue一同出現

break和continue單獨出現,break和continue一同出現 在scala中,類似Java和C++的break/continue關鍵字被移除了 如果一定要使用break/continue,就需要使用scala.ut

原创 scala 查找隱式參數時和進行隱式轉換時的查找順序

 scala 查找隱式參數時和進行隱式轉換時的查找順序 (看的一些視頻上老師說的) 當前作用域-->自身作用域伴生對象--> 相關的類和接口的伴生對象(如繼承的類,trait) -->import上下文的隱式轉換 開發時 業界主

原创 SparkSQL 練習項目 - 出租車利用率分析

SparkSQL 練習項目 - 出租車利用率分析 SparkSQL 練習項目 - 出租車利用率分析 Table of Contents 1. 業務 2. 流程分析 3. 數據讀取 5. 數據清洗 6. 行政區信息 6.1.

原创 python super詳解 (二)

  super並不是一個函數,是一個類名,形如super(B, self)事實上調用了super類的初始化函數,產生了一個super對象;   1、 super([type[, object-or-type]])  super() 在使用

原创 scala 補充知識

目錄 1. var temp = List("Hello",1)  可以保存了不同類型的原因 :  類型推斷 List[Any] = List(Hello,1) 2. 使用Nil 創建空列表List 3.可變集合( mutable  )和

原创 scala 構造器 詳解 (反編譯java)

目錄 一.主構造器  1.主構造器中的參數帶有var,【反編譯成Java查看】,會生成對應的成員變量及get/set方法,在scala中可使用對象.成員變量 進行修改,獲取值. 主構造器中的參數帶有val,會生成對應的 final成員變量

原创 win換行符轉linux 與 linux換行符轉win

  1.一些概念 windows換行符\r\n,也是CRLF linux換行符\n,也是LF 2.windows上使用Notepad++查看換行符 視圖-》顯示符號-》顯示行尾符 3.使用sed將win換行符轉linux換行符 sed

原创 scala 免安裝 和 idea配置

1.idea下載scala插件 https://blog.csdn.net/wz_TXWY/article/details/100896569 2.創建project ,選擇scala-->idea ,配置scala sdk,之後就可以在

原创 scala 函數式編程 foreach, map , flatmap , filter , exists ,sorted ,groupBy ,reduce ,fold

函數式編程 我們將來使用Spark/Flink的大量業務代碼都會使用到函數式編程。下面的這些操作是學習的重點。 遍歷(foreach) 映射(map) 映射扁平化(flatmap) 過濾(filter) 是否存在(exists)

原创 java.lang.NoClassDefFoundError: akka/serialization/BaseSerializer$class

Exception in thread "main" java.lang.NoClassDefFoundError: akka/serialization/BaseSerializer$class at akka.persistenc

原创 快速找出並解決 idea 中maven版本衝突

1. 安裝idea插件 :Maven Helper, 安裝完插件重啓idea idea插件安裝:https://blog.csdn.net/wz_TXWY/article/details/100896569   2.在你項目的pom文件

原创 idea plugins 插件安裝位置

idea用戶安裝(非自帶)的插件 默認在用戶的C:\Users\TXWY\.IntelliJIdea2019.1\config\plugins 目錄下 idea自帶的插件在idea安裝(解壓zip)目錄的plugins目錄中