自編碼器中的重參數技巧

可變自編碼器：編碼，採樣，解碼和重複

在vanilla 自編碼器中，encoder網絡不知道如何壓縮輸入數據到隱碼。在可變自編碼器中，將輸入數據映射到多元正太分佈。同時，由於我們是在從一個概率分佈中採樣，引入了***隨機性***。
正太分佈由均值和方差參數化
VAE中的每個數據點都映射到均值和log_variance向量，這將定義輸入數據點周圍的多元正態分佈
從分佈中採樣一個點，並將其作爲潛在變量，送入解碼器

這使得網絡學習更平滑的表示。確保了隱碼的微小變化不會導致解碼器產生相差很大的輸出，因爲現在我們是從連續分佈中採樣的。另一方面，由於採樣過程本質是隨機的，所以解碼器的輸出會更具多樣化

epsilon從標準正太分佈中採樣而來，它的存在使得mean和log_variance仍是可學習的參數，同時保持了整個系統的隨機性。這種方式允許VAE可以進行端到端的訓練。

代碼實現