什麼是1*1卷積

1*1卷積的主要作用有以下幾點:

1、降維( dimension reductionality )。比如,一張500 * 500且厚度depth爲100 的圖片在20個filter上做1*1的卷積,那麼結果的大小爲500*500*20。

2、加入非線性。卷積層之後經過激勵層,1*1的卷積在前一層的學習表示上添加了非線性激勵( non-linear activation ),提升網絡的表達能力;

下圖是Inception模塊,爲了消除尺寸對於識別結果的影響,一次性使用多個不同filter size來抓取多個範圍不同的概念,讓網絡能夠自己選擇需要的特徵。可以看到在Inception模塊中,每個分支都加上一個1*1卷積的部分,這裏1*1卷積的作用是讓網絡根據需要能夠更靈活地控制數據的depth(即通道數),通過1*1卷積,可以將不同分支的feature map通道數調整到一直,便於後續操作(相加或concat)。這裏的1*1卷積不止能降維,也可以升維,這完全取決與1*1卷積的通道數。

3、跨通道信息交互(channal 的變換)

如:使用1*1卷積核,實現降維和升維的操作其實就是channel間信息的線性組合變化,3*3,64channels的卷積核前面添加一個1*1,28channels的卷積核,就變成了3*3,28channels的卷積核,原來的64個channels就可以理解爲跨通道線性組合變成了28channels,這就是通道間的信息交互。


	參考鏈接:		https://blog.csdn.net/u011862114/article/details/80530963?utm_source=blogxgwz2
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章