優化網絡方法思維導圖總結

原創 剑启郁兰 2019-08-06 10:13

最近在學習cs231n相關的課程，在進入下一階段前，想對學習進行一下歸納整理。一方面強制讓自己進行回憶和複習，另一方面從全局上換個角度來學習這些知識，也方便以後查閱。由於思維導圖比較大，後文會拆分成不同的部分依次放出。

文章目錄

優化網絡方法框圖

在這裏插入圖片描述

數據預處理部分

在這裏插入圖片描述

權重初始化部分

在這裏插入圖片描述

批量歸一化部分

在這裏插入圖片描述

優化方法部分

在這裏插入圖片描述

激活函數部分

在這裏插入圖片描述

正則化和超參設置部分

在這裏插入圖片描述

發表評論
所有評論
還沒有人評論，想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章

「機器學習_8」Bag-of-Words

                      Bag-of-Words 1.文字問題 2. 什麼是Bag-of-Words(具體例子） 3. 侷限性   1.文字問題 文本建模的一個問題是它很雜亂，機器學習算法之類的技術更喜歡定義明確的

qq_36098284 2020-07-08 11:01:54

迴歸損失函數：L1 Loss, L2 Loss, Smooth L1 Loss

講解的很清楚： https://www.cnblogs.com/wangguchangqing/p/12021638.html

CVsaber 2020-07-08 10:39:04

感知機中的關鍵問題：點到平面的距離，和梯度更新的符號

感知機的原理、以及學習方法，還是比較簡單的，參考： https://www.pkudodo.com/2018/11/18/1-4/ 但其中有2點關鍵，不是特別好理解： 1、關於點到平面的距離： 參考：https://www.jian

FlyingPie 2020-07-08 10:27:04

變身漫畫道具玩了沒？這樣的 AI 人像特效機器學習服務幫你實現

近期，抖音上一款 “變身漫畫” 的特效刷爆“我的關注”，二次元漫畫樣式的畫風更是讓大家欲罷不能。從明星到路人，從大朋友到小朋友紛紛參與其中，抖音 App 中“變身漫畫”話題頁顯示約有 1851 萬餘人使用該道具。 如今，此類視頻 / 圖片

Yao 2020-07-14 12:03:51

深度學習_目標檢測_FPN論文詳解

FPN的創新點 多層特徵 特徵融合 解決了目標檢測中的多尺度問題，通過簡單的網絡連接改變，在基本不增加原有模型計算量的情況下，大幅度提升小物體（small object）的檢測性能。 在物體檢測裏面，有限計算量情況下，網絡的深

CV-GANRocky 2020-07-08 11:57:07

深度學習_目標檢測_“YOLOv5”詳解（持續更新）

YOLOv5可以方便的進行工程化部署： YOLOv5（PyTorch）−>ONNX−>CoreML−>iosYOLOv5（PyTorch） -> ONNX -> CoreML -> iosYOLOv5（PyTorch）−>ONNX

CV-GANRocky 2020-07-08 11:57:07

分類問題中的決策面畫法 (直觀理解plt.contour的用法)

摘要 通過分類問題中決策面的繪製過程直觀理解matplotlib中contour的用法，主要包括對 np.meshgrid 和plt.contour的直觀理解。 前言 分類問題中，我們習慣用2維的dmeo做例子，驗證算法的有效性。

张王李刘赵孙杨 2020-07-08 11:10:55

KNN算法 第二章 Pandas & sklearn 機器學習實戰 Machine Learning in action

本專欄計劃藉助Pandas與sklearn重新實現書中的實戰案例。 k-近鄰算法1. KNN算法流程2. KNN改進約會網站的配對效果2.1 數據準備：從文本中解析數據2.2 數據可視化：散點圖2.3 數據處理：歸一化數值2.4

RPG_Zero 2020-07-08 11:09:44

[R]聚類算法:k-means模組

延伸<[Excel]k-means聚類算法的應用，以評價現有供應商的水平為例。>文章，同時恰巧在圖書館看到一本R語言機器學習書籍，因此正好可進一步瞭解如何用R語言來實現k-means算法和應用，一併將k-means模組建立起來，做為未來參

Learn-Share_HY 2020-07-08 10:38:53

python--內置函數

1、python內置函數： 類型轉換 數學運算 常用     int() max() all() range() help() float() min() any() set() format() long() sum() type()

沸点数据 2020-07-08 10:38:40

吳恩達機器學習課程思維導圖

Github上黃博整理的吳恩達機器學習課程的資料，用xmind轉化成思維導圖，方便查看和記憶。 參考自：https://github.com/fengdu78/Coursera-ML-AndrewNg-Notes

阔岩 2020-07-08 09:20:14

機器學習筆記(七)--理解batch_dot函數

在keras中有batch_dot函數，用於計算兩個多維矩陣，官方註釋如下： def batch_dot(x, y, axes=None): """Batchwise dot product. `batch_dot`

LawGeorge 2020-07-08 09:20:14

置信學習：讓樣本中的“髒數據“原形畢露

在實際工作中，你是否遇到過這樣一個問題或痛點：無論是通過哪種方式獲取的標註數據，數據標註質量可能不過關，存在一些錯誤？亦或者是數據標註的標準不統一、存在一些歧義？特別是badcase反饋回來，發現訓練集標註的居然和badcase一樣？如下

hellozhxy 2020-07-08 09:16:27

simple faster rcnn解讀 一

一:代碼框架和跑通simple faster rcnn遇到的問題 代碼選擇：https://github.com/chenyuntc/simple-faster-rcnn-pytorch； 本文主要是自己將代碼跑通中遇到的問題以及代碼解讀

charleswangzi 2020-07-08 09:02:08

決策樹python實現（ID3 和 C4.5）

最近在看機器學習實戰，記錄一些不寫代碼，真的很難發現的問題。 ID3代碼見github ID3的問題： 1、從信息增益的計算方法來看，信息增益無法直接處理連續取值的的屬性數據，只能處理離散型的數據。 2、信息增益的計算方法需要對某

wf592523813 2020-07-08 08:32:14