深度學習系列(1)——簡要概念

1、概念

Deep Learning 的概念源於人工神經網絡的研究。含多隱層的多層感知器就是一種深度學習結構。深度學習通過組合低層特徵形成更加抽象的高層表示屬性類別或特徵,以發現數據的分佈式特徵表示。[1]

深度學習的概念由Hinton等人於2006年提出。基於深信度網(DBN)提出非監督貪心逐層訓練算法,爲解決深層結構相關的優化難題帶來希望,隨後提出多層自動編碼器深層結構。此外Lecun等人提出的卷積神經網絡是第一個真正多層結構學習算法,它利用空間相對關係減少參數數目以提高訓練性能。[1]

深度學習是機器學習研究中的一個新的領域,其動機在於建立、模擬人腦進行分析學習的神經網絡,它模仿人腦的機制來解釋數據,例如圖像,聲音和文本。

同機器學習方法一樣,深度機器學習方法也有監督學習與無監督學習之分.不同的學習框架下建立的學習模型很是不同.例如,卷積神經網絡(Convolutional neural networks,簡稱CNNs)就是一種深度的監督學習下的機器學習模型,而深度置信網(Deep Belief Nets,簡稱DBNs)就是一種無監督學習下的機器學習模型。

[1] 孫志軍, 薛磊, 許陽明,等. 深度學習研究綜述[J]. 計算機應用研究, 2012, 29(8):2806-2810.

2、核心思想

把學習結構看作一個網絡,則深度學習的核心思路如下:
①無監督學習用於每一層網絡的pre-train;
②每次用無監督學習只訓練一層,將其訓練結果作爲其高一層的輸入;
③用自頂而下的監督算法去調整所有層

3、深度學習的網絡學習方式——神經網絡

說到深度學習,當然要說的就是神經網絡。一些相關的機器學習概念,這裏就不再一一寫了,已經有些比較優秀的博客大家可以自行查找學習。這裏推薦一個很不錯的深度學習教程,可以讓快速地瞭解相關概念及部分理論推導,相信不少人都已學習過:
http://ufldl.stanford.edu/wiki/index.php/UFLDL%E6%95%99%E7%A8%8B

4、本系列寫作目的

本人也是剛接觸深度學習一年左右,關於深度學習已經有一些寫得很不錯的博文,爲什麼還要寫呢,寫了說不定還沒有別人寫得好,也不一定會有人看,總是抱着這樣的想法就一直沒有動手。現在想想,每個人對的理解肯定會有不同或是說理解的深度、角度會存在不一,而且寫博客是對自己檢驗,要是能幫助人那就更好不過了。於是現在開始動手了,新學期也給自己一點動力,一來可以讓自己把零碎的知識網絡捋順,二來也可以督促自己的學習進度。

本系列主要寫出自己對神經網絡的學習的一些見解,和大家一起學習討論。希望通過學習瞭解深度學習中整個神經網絡的學習過程。最後能夠有一些改善、提高網絡學習效率的想法。

在這裏也跟一起不如深度學習的朋友們推薦一個 深度學習的QQ羣:209306058 。 這裏有大牛,就算你在裏面潛水也能讓你獲益匪淺。哈哈 ^_^

發佈了52 篇原創文章 · 獲贊 215 · 訪問量 85萬+
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章