生成模型和判別模型的區別

基本的深層網絡模型可以分爲兩大類:生成模型和判別模型。

生成是指從隱含層到輸入數據的重構過程,而判別是指從輸入數據到隱含層的隱約過程。複雜的深層結構可能是一個混合模型,既包含生成模型成份,又包含判別模型成份(成分與成份沒有區別)。

生成模型主要包括受限玻爾茲曼機(RBM)、自編碼器(AE)、深層信念網絡(DBN)、深層玻爾茲曼機(DBM)以及和積網絡(SPN),其中AE、DBN、和DBM需要RBM進行預訓練。判別模型主要包括深層感知器(deep MLP)、生成前饋網絡(deep FNN)、卷積神經網絡(CNN)、深層堆疊網絡(DSN)、循環神經網絡(RNN)和長短時記憶(LSTM)網絡。

值得一提的是,雖然受限玻爾茲曼機(RBM)、自編碼器(AE)、深層信念網絡(DBN)、深層玻爾茲曼機(DBM)以及和積網絡(SPN)都被歸類爲生成模型,但由於模型中也包含判別過程,所以在一定條件下,也可以看作判別模型,並用於對數據的分類和識別,而且在用於產生序列數據時,循環神經網絡(RNN)也可以看作是生成模型。自編碼器作爲一種深度學習模型,通常只是用作其他模型的構建模塊,而不是作爲一個獨立的模型使用。

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章