t-SNE
方法:在fc7(倒數第一層fc)提取輸出,並用歐氏距離遠近展示(或聚類)。好的網絡可以直觀看到同分類的圖片聚在一起,幾何上易被切割出來。
http://cs.stanford.edu/people/karpathy/cnnembed/
一個例子:
Visualizing Activations
方法:
1. 逆向使用已訓練好的神經網絡生成圖片:輸入一張只有噪點的圖片,並且要求它在某個分類上可能性最大化,則神經網絡會用它學到的東西給這張圖片添加該分類的特性,最終“”繪製“出一張畫。通過這種形式來看神經網絡對於某個分類的理解。
2. 動態觀察各層激活的情況:https://github.com/yosinski/deep-visualization-toolbox
待續