(俗話說:大樹底下好乘涼,站在大佬的肩膀上我就可以少寫一點啦,哈哈)
原作地址:http://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdf
參考文章:
1、AlexNet論文(ImageNet Classification with Deep Convolutional Neural Networks)(譯)這位大佬把原作翻譯了一遍,基本上還是很準確的,除了一些細節需要看一下原文;
2、局部響應歸一化層(LRN)這位大佬詳細講解了局部響應歸一化,在讀文章時沒有整明白局部響應歸一化的公式,所以看了原作、找了一些資料,關鍵困擾點:公式中求和的範圍比較抽象,話不多說,看完下圖再比對着公式,相信小夥伴們立刻就懂了:
公式中參數的意思,可以看下面我的手寫筆記3.3,也可以看參考文章1或原作,都可以啦。
邊看邊做了一些筆記,方便以後回憶,其實文章還是蠻好懂的,網絡架構在網上也可以找到一大堆,關鍵在於文章中所講的數據增強那一塊:怎麼從256*256的圖片中通過平移和水平映射來增加2048倍的數據量?知道的小夥伴可以一起討論一下。
首先附上一張AlexNet的網絡結構:
接下來附上我的手寫筆記,希望大家多多指教:
最後再補充一點數據增強的方法,也是參考文章: 【方法】數據增強(Data Augmentation)