墨塵的神經網絡8--EfficientNet網絡模型代碼復現及要點記錄

什麼是EfficientNet模型
2019年,谷歌新出EfficientNet,網絡如其名,這個網絡非常的有效率,怎麼理解有效率這個詞呢,我們從卷積神經網絡的發展來看:
從最初的VGG16發展到如今的Xception,人們慢慢發現,提高神經網絡的性能不僅僅在於堆疊層數,更重要的幾點是:

1、網絡要可以訓練,可以收斂。
2、參數量要比較小,方便訓練,提高速度。
3、創新神經網絡的結構,學到更重要的東西。

而EfficientNet很好的做到了這一點,它利用更少的參數量(關係到訓練、速度)得到最好的識別度(學到更重要的特點)。

EfficientNet模型的特點
EfficientNet模型具有很獨特的特點,這個特點是參考其它優秀神經網絡設計出來的。經典的神經網絡特點如下:
1、利用殘差神經網絡增大神經網絡的深度,通過更深的神經網絡實現特徵提取。
2、改變每一層提取的特徵層數,實現更多層的特徵提取,得到更多的特徵,提升寬度。
3、通過增大輸入圖片的分辨率也可以使得網絡可以學習與表達的東西更加豐富,有利於提高精確度。

EfficientNet就是將這三個特點結合起來,通過一起縮放baseline模型(MobileNet中就通過縮放α實現縮放模型,不同的α有不同的模型精度,α=1時爲baseline模型;ResNet其實也是有一個baseline模型,在baseline的基礎上通過改變圖片的深度實現不同的模型實現),同時調整深度、寬度、輸入圖片的分辨率完成一個優秀的網絡設計。

EfficientNet的效果如下:
在這裏插入圖片描述

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章