原创 DL notes 05:深度學習相關的優化基礎(入門級)

文章目錄一、優化與深度學習優化與估計優化在深度學習中的挑戰1. 局部最小值2. 鞍點3. 梯度消失二、凸優化基礎凸集凸函數凸函數的性質有限制條件凸函數的優化方法1. 拉格朗日乘子法2. 添加懲罰項3. 投影法三、梯度下降一維梯度下

原创 DL note 06:目標檢測/圖像分類,風格遷移

文章目錄目標檢測基礎邊界框錨框(Anchor)生成多錨框交併比標註訓練集的錨框輸出預測邊界框小結多尺度目標檢測圖像分類CIFAR-10圖像分類獲取和組織數據集圖像增強選擇模型ImageNet圖像分類設置隨機種子,增加實驗可復現性整

原创 DL notes07:GAN/DCGAN

文章目錄GAN訓練DCGAN生成器辨別器總結 GAN Throughout most of this book, we have talked about how to make predictions. In some form

原创 DL notes 01:RNN/LSTM/GRU

文章目錄一、RNN基本結構、梯度消失和梯度爆炸的原因二、LSTM三、GRU四、深度循環神經網絡五、雙向循環神經網絡 一、RNN基本結構、梯度消失和梯度爆炸的原因 線性計算單元組成的RNN結構是最簡單的一種,我們以此爲例來說明造成梯

原创 DL notes 03:機器翻譯(MT)/NLP 基礎知識

文章目錄一、機器翻譯1.1 數據預處理和清洗1.2 文本預處理1.2.1 分詞1.2.2 建立字典1.2.3 將詞轉爲索引1.3 語言模型nnn元語法1.4 時序數據的採樣隨機採樣相鄰採樣二、Encoder-DecoderSeq2

原创 DL notes 02: ML/DL模型訓練的Tips

文章目錄一、基本概念二、應對欠擬合和過擬合的解決方法2.1 欠擬合的解決辦法2.2 過擬合的解決辦法2.2.1 權重衰減 / L2L_{2}L2​範數正則化2.2.2 dropout三、梯度消失和梯度爆炸四、隨機初始化模型參數P

原创 DL notes 04: CNN基礎和經典CNN模型

文章目錄一、CNN基礎二、LeNet三、AlexNet四、VGG五、NiN六、GoogLeNet 一、CNN基礎 因本身有圖像處理和圖像深度學習方面的基礎,故在此只羅列一些重要概念詞,後續再補上: 二維互相關運算:二維互相關(cr

原创 【opencv】visualstudio實現opencvblobslib編譯

一、opencvblobslib簡介(與cvblob不同) 功能類似matlab中的bwlabel和regionprops函數,對於在OpenCV中對圖像中的連通域操作有很大幫助 GitHub鏈接:https://git

原创 Ubuntu16.04 Install Caffe 經驗

Ubuntu16.04 Install Caffe 經驗 問題起源 本着嘗試Caffe的念頭,選擇Caffe官方Wiki上的Training LeNet on MNIST with Caffe進行實現,首先遇到安裝Caffe的問題。曾經嘗

原创 【Matlab製作目標切片腳本】

留作個人備忘之用 clear all close all clc imtool close all %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%5 %% 讀取切片存放路徑 p =ge

原创 【Win10 + CMake 3.7.0-rc1 + VisualStudio 2015 】【OpenCV2.4.13 + tbb】重新編譯

問題起源 嚐鮮安裝了visual studio 2015 Professional版本,並且升級到Update 3,發現OpenCV沒有提供適應VS2015編譯好的版本。 因此,我嘗試利用CMake 3.7.0-rc1(x64)和VS

原创 【OpenCV】VisualStudio上項目應用OpenCV 之OpenCV配置

Suppose you have installed Microsoft VisualStudio 2010 1、 Download OpenCV 2.3.1 at http://opencv.org/downloads.html 2、C