Deepcluster
Deep Clustering for Unsupervised Learning of Visual Features
鏈接：Deepcluster
使用聚類算法產生標籤（pseudo-labels）指導分類器分類。聚類算法和分類器使用同一個feature extractor。
DeeperCluster
Deep cluster + self-supervise( 預測旋轉角度)
算法流程如下：
1.最終目的是要訓練出來一個好的特徵提取網絡。所以，先要初始化一個未訓練的特徵提取網絡，用來提取圖片feature。
2.用k-means對所有圖片（未旋轉）的feature進行聚類（clustering），分成m個大類。（每張未旋轉的圖片有了一個大類的標籤）
3.對m個大類進行擴展：用“旋轉角度的類型”（4種）和“m個大類“計算笛卡爾乘積，得到4m個新的大類。每張經過旋轉的圖片，只屬於4m個大類裏面的一個類型。（每張經過旋轉的圖片有了一個大類的標籤）
4.4m個大類的每個類，再分別使用k-means對屬於本類中的圖片的feature進行聚類，分成k個子類。（每張經過旋轉的圖片，在一個大類下面，又有了一個子類的標籤）
5.構建1個大類的分類器（4m個大類），每個大類下面再構造1個子類分類器（4個子類），總共1 + 4m個分類器。所有分類器分成兩部分：特徵提取網絡，分類網絡。不同分類器的特徵提取網絡是共享的，分類網絡各不相同。然後用Deeper Clustering loss來訓練，訓練T個epochs。
6.T個epochs後，重新回到第2步。
