Domain Separation Networks (NIPS 2016)

Bousmalis, K., Trigeorgis, G., Silberman, N., Krishnan, D., & Erhan, D. (2016). Domain separation networks. NIPS 2016.

網絡結構：

輸入圖像爲$x$。
對於target domain 有兩個特徵提取網絡： $E_c(x),E_p^s(x^s)$。
對於target domain 有兩個特徵提取網絡： $E_c(x),E_p^t(x^t)$。

文章做的是分類任務，除了分類器之外，framework仍然包含對圖像進行重構的decoder。輸入$x$，經過encoder和decoder得到重構圖像$\hat{x}$。

$\hat{x}= D(E_c(x)+E_p(x) )$

對於target domain $\hat{x}= D(E_c( x^t)+ E_p^t{(x^t)} )$

對於source domain $\hat{x}= D(E_c( x^s)+ E_p^s{(x^s)} )$

兩個域有一個公共的encoder，還有單獨的一個encoder。
Decoder網絡兩個域共用，通過private和shared representation兩個特徵進行重構。

損失函數

整體：

重構誤差：

分類誤差：

similarity loss ：

目的是使兩個域的shared representation分佈儘可能接近。

文章提到兩個：

1). 使用 Gradient Reversal Layer (GRL)

2). Maximum Mean Discrepancy (MMD)

difference loss

文章說目的是使得shared 和private representation 兩個分佈正交：

矩陣$H$ 的每一行是hidden representation。

這個公式我還沒研究明白，或許哪天再瞧瞧。

總之對這篇文章我還是很霧，哪天再仔細看看。