卷積神經網絡

最近一直在研究卷積神經網絡，有些收穫，在此做下總結，以便日後回顧。

 

一、二維卷積層和多維卷積層對比總結：

二維卷積原理如下圖：

多維卷積層比二維稍微複雜一些，需要注意的是不同的輸入層採用不同的卷積核按二維卷積層計算然後求和：

 

其中1x1的卷積核與全連層等價。

需重點掌握輸入經過卷積核後的形狀：

假設輸入形狀是，卷積核窗口形狀是，那麼輸出形狀將會是

 

 

二、填充和步幅：

填充是指在輸入高和寬的兩側填充元素（通常是0元素）。

重點計算輸出形狀，假設在高兩側一共填充行，在寬兩側一共填充列，輸出爲：

步幅是指每次滑動的行數核列數。

重點計算輸出形狀，假設在高上步幅爲，在寬上步幅爲，輸出爲：

 

三、池化層：

二維池化層原理如圖：

池化層的填充和步幅與卷積層原理一致

多維池化層：

多維池化層與卷積層處理方式不同，多維池化層對每個輸入層分別池化，這意味着池化層的輸出通道數與輸入通道數一致。