原创 【Flink】DataSet Function練習

FlatMap import org.apache.flink.api.scala.{ExecutionEnvironment, _} object FlatMapFunction01 { def main(args: Array

原创 Tensorflow常見API講解(帶例子)

  目錄 1.tf.random.set_random_seed(seed)/tf.set_random_seed(seed) 2. tf.layers.dense() 3.tf.placeholder() 4.tf.train.Save

原创 spark源碼解析:2.3 start-class.sh腳本分析

上節解析了start-daemon.sh腳本的內容並進行了debug:start-master.sh腳本解析,這節分析spark-class.sh腳本的內容並進行debug 1 spark-class內容解析 # 判斷是否配置

原创 Navicat導入數據庫數據結構sql報錯datetime(0)

錯誤發生情況: 將數據庫從mysql5.7導出爲sql,在mysql5.5上進行導入,報sql語句錯誤:datetime(0)… 錯誤發生原因 mysql5.7和mysql5.5的datetime、timestamp不兼容

原创 生成項目樹形結構

當你寫博客或者項目描述的時候,想要展示項目的樹形結構,怎麼辦呢? 手寫?程序員是不可能手寫的 win+R輸入cmd進入dos 輸入命令: tree 項目根目錄 > 生成的樹形結構文件保存地址 比如: tree E:\workspace\f

原创 spark源碼解析:1、源碼下載與導入

環境搭建 spark版本:2.3.3 jdk版本:1.8 maven版本:3.3.9 開發工具:idea scala版本:2.11.8 視頻地址:https://www.bilibili.com/video/av720378

原创 spark源碼解析:2.1 start-master.sh腳本分析

在該系列博客中,源碼分析的大致流程是從腳本開始分析,然後再分析代碼的執行流程 分析腳本是首先分析腳本的內容,然後再debug執行腳本,結合腳本原內容進行學習 1. start-master.sh腳本內容 start-mast

原创 防止rm -rm /意外的出現,替代品:-safe-rm及其安裝使用說明

衆所周知,如果使用rm -rf不當,可能會造成嚴重的後果,比如rm -rf / 。。。。 而safe-rm是一款基於linux自身rm命令的一個軟件,安裝後功能和rm相同,但是可以設置黑名單,將不能刪除的目錄加入黑名單,即使使用rm -r

原创 centos7離線安裝CDH 5.13.1過程記錄及安裝所遇到問題的解決方案(2019-05-04)

我有三臺虛擬機,都是最新安裝的centos7,下面是資源分配 主機名 ip 內存 磁盤大小 主從 s201 192.168.0.201 10g 40g 主 s202 192.168.0.202 4g 20g 從 s203 192.

原创 【Flink】Flink的事件時間及watermark水印講解-附代碼實例

代碼鏈接:https://github.com/18113996630/flink-practice/blob/master/src/main/scala/com/hrong/flink/watermark/WaterMarkFunc01

原创 Win10安裝anaconda+python3.6+TensorFlow(CPU版本/GPU版本)

1. 下載64位的anaconda(anaconda是一個開源的Python發行版本,其包含了conda、Python等180多個科學包及其依賴項) 下載地址:anaconda官網                  2. 點擊exe執行文

原创 spark源碼解析:2.2 start-daemon.sh腳本分析

上節解析了start-master.sh腳本的內容並進行了debug:start-master.sh腳本解析,這節分析spark-daemon.sh腳本的內容並進行debug 1. spark-daemon.sh腳本內容 us

原创 ClassNotFoundException: org.codehaus.janino.InternalCompilerException

Spark SQL創建DF時出現異常 異常信息 Driver stacktrace: at org.apache.spark.scheduler.DAGScheduler.org$apache$spark$scheduler$D

原创 build scala項目時出現:org.jetbrains.jps.incremental.scala.remote.ServerException

build項目時出現:org.jetbrains.jps.incremental.scala.remote.ServerException 或者打包時出現以下情況: [INFO] Scanning for projects...

原创 獲取當前電腦的總內存量、可用內存量、總核數

import java.lang.management.ManagementFactory; import java.lang.management.OperatingSystemMXBean; import java.lang.