CNN模型之ZFNet

一、介紹

        ZFNet是Matthew D.Zeiler於2013年提出,並獲得了13年ImageNet的冠軍。2012年AlexNet問世,並在ImageNet競賽中取得了優異的成績,也證明了大的卷積網路的性能優異,但是我們並不知道爲什麼CNN性能好。因此,這篇論文介紹了一個可視化技術來了解隱藏層做了什麼以及怎麼進行分類。也是基於這個技術,作者對AlexNet進行了優化,調整之後的網絡的性能在很多問題上性能都好於AlexNet。

二、模型結構

ZFNet模型結構圖
        ZFNet的網絡結構是基於AlexNet改進的。作者通過可視化技術發現小尺度的過濾器比大尺度的過濾器所得到的特徵更加好。並且第一層的步長太大,導致後面出現混疊現象,學到的特徵不是很好。因此,主要做了以下更改:

  • 將第一層的濾波器由11×1111\times 11調整爲7×77\times 7
  • 將第一層的步長由4調整爲2.

可視化技術:
在這裏插入圖片描述
        如上圖所示,通過反池化和反捲積得到原始圖像。經過了可視化後,發現調整尺寸和步長後,得到的中間層特徵更好。
在這裏插入圖片描述

三、總結

        經過對中間層的可視化,可以觀察到模型中間層的特徵。並依據特徵的好壞調整模型的卷積核大小和步長。在ImageNet上取得了比AlexNet更好的成績,獲得了2013年的第一名。這個技術也讓我們明白了卷積神經網絡是如何工作的。最後,在代碼實現中,僅僅構造了網絡的結構,我使用的是cifar10數據集。如果訓練需要更改網絡的一些設置。

友情鏈接:
代碼實現:https://github.com/guoyuantao/CNN_Model/tree/master/CNN_on_cifar_ByPytorch
聯繫方式:2391855138(加好友請備註)

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章