1、卷積
將輸入和輸出用線連接起來，以可視化它們之間的依賴關係。線條的數量分別粗略地表示在空間和通道上執行卷積的計算成本。
最常用的 3x3 的卷積，可以通過上圖進行可視化。我們可以看到，在空間中，輸入和輸出是局部連接的，而在通道中則是全連接。
下一個例子，conv1x1 或用於改變通道大小的逐點卷積，如上圖所示。這種卷積的計算成本是 HWNM，因爲其卷積核大小爲 1x1，所以其計算成本是 3x3 卷積的 1/9。這種卷積被用來「融合」各個通道的信息。
2、分組卷積
分組卷積是卷積的一種變體，其中輸入特徵圖的通道被分組，然後卷積在每組通道上獨立進行。G 代表分組數量，分組卷積的計算成本是 HWNK²M/G，與標準卷積相比，分組卷積的計算成本變成了 1/G。
G=2 的分組 conv3x3 的例子。我們可以看到，與標準卷積相比，分組卷積通道中的連接數更少，這意味着更小的計算成本。
G=3 的分組 conv3x3 的例子。連接變得更加稀疏了。
G=2 的分組 conv1x1 的例子。因此，conv1x1 也可以分組。這種卷積被用在 ShuffleNet 中。
G=3 的分組 conv1x1 的例子