循環神經網絡的核心思想

循環神經網絡常用於處理信號處理,時間序列處理。

先介紹三種循環網絡結構:單向單層循環網絡結構、多層循環網絡結構、雙向循環結構

要點:H爲隱藏張量,C爲單元狀態張量。本人筆記中已介紹。下面三個圖好好看。

接下來介紹上面網絡結構中的每個神經元(運算單元)是什麼樣?

通過上面相信你已經瞭解了在循環網絡中每個神經元都會被多次使用。

常見的運算單元有:基本循環神經元、長短期記憶單元、門控循環單元

如何實現呢?基於pytorch實現就很簡單啦

常見的有三種循環網絡結構:

基於基本循環神經元的循環神經網絡,pytorch.nn.RNN

基於長短期記憶的循環神經網絡,pytorch.nn.LSTM

基於門控循環單元的循環神經網絡,pytorch.nn.GRU

以上內容是自己學習總結出來的,如有錯誤,望指正,大家共同進步!

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章